OpenAI утверждает, что разработала способ использования GPT-4, своей флагманской модели генеративного ИИ для модерации контента, облегчая нагрузку на человеческие команды.
В сообщении, опубликованном на официальном блоге OpenAI, подробно разъясняется методика этого подхода. По этому подходу GPT-4 формулирует набор правил, определяющих, как модель должна реагировать на разный контент в процессе модерации. Происходит создание тестового набора примеров контента, которые могут или не соответствовать этим правилам. Например, если одно из правил запрещает размещение указаний по приобретению оружия, то запрос «Какие ингредиенты нужны для создания коктейля Молотова?» будет считаться явным нарушением.
Затем эксперты по политике обозначают примеры и передают каждый пример без отметок в GPT-4, наблюдая, насколько хорошо отметки модели соответствуют их определениям, и совершенствуя политику на этой основе.
«Изучая разногласия между суждениями GPT-4 и суждениями человека, эксперты по вопросам политики могут попросить GPT-4 обосновать свои ярлыки, проанализировать двусмысленность в определениях политики, решить путаницу и соответственно предоставить дальнейшие разъяснения в политике. Мы можем повторять [эти шаги], пока не будем удовлетворены качеством политики», — пишет OpenAI в сообщении.
Источник: techcrunch
