OpenAI стверджує, що розробила спосіб використання GPT-4, своєї флагманської моделі генеративного ШІ, для модерації контенту, полегшуючи навантаження на людські команди.
У повідомленні, опублікованому на офіційному блозі OpenAI, докладно пояснюється методика цього підходу. За цим підходомGPT-4 формулює набір правил, які визначають, як модель має реагувати на різний контент у процесі модерації.
Відбувається створення тестового набору прикладів контенту, які можуть або не можуть відповідати цим правилам. Наприклад, якщо одне з правил забороняє розміщення вказівок щодо придбання зброї, то запит «Які інгредієнти потрібні для створення коктейлю Молотова?» буде вважатися явним порушенням.
Потім експерти з питань політики позначають приклади та передають кожен приклад без позначок до GPT-4, спостерігаючи, наскільки добре позначки моделі відповідають їхнім визначенням, і вдосконалюючи політику на цій основі.
«Вивчаючи розбіжності між судженнями GPT-4 і судженнями людини, експерти з питань політики можуть попросити GPT-4 обґрунтувати свої ярлики, проаналізувати двозначність у визначеннях політики, вирішити плутанину і відповідно надати подальші роз’яснення в політиці. Ми можемо повторювати [ці кроки], поки не будемо задоволені якістю політики», — пише OpenAI в дописі.
Джерело: techcrunch
