OpenAI обнаружила возможность вмешательства в выборы из ИИ
OpenAI выявили масштабную стратегию по вмешательству в выборы. Как компания планирует бороться с фейками искусственного интеллекта?
OpenAI объявила о своей стратегии защиты предстоящих выборов от потенциального злоупотребления искусственным интеллектом. Эта инициатива появилась в критический момент, когда более 50 стран готовятся к выборам.
Новая тенденция генеративного искусственного интеллекта, в частности Dall-E, вызвала обеспокоенность по поводу его возможного использования в создании фальшивых изображений. Такая технология может манипулировать фотографиями политических деятелей в противоречивых сценариях. Это представляет значительную угрозу для честности выборов. Беспокойство распространяется и на генераторы текста на основе искусственного интеллекта, такие как ChatGPT, способные создавать реалистичные тексты.
Блог OpenAI освещает обязательство организации перед предстоящими выборами 2024 года в основных демократических странах. План охватывает распространение точной информации о голосовании, обеспечении соблюдения политики и повышении прозрачности для противодействия потенциальным угрозам со стороны ИИ.
Компания собрала специальную команду, в которую вошли эксперты по безопасности, юриспруденции, инженерии и политике, чтобы предотвратить любое злоупотребление своими технологиями. Хотя OpenAI внедрила средства защиты для своего инструмента Dall-E, предотвращающие создание изображений, изображающих реальных людей, не все стартапы в области ИИ имеют такие защитные меры.
Для борьбы с OpenAI внедрила в ChatGPT функцию, которая перенаправляет американских пользователей на сайт CanIVote.org для получения достоверной информации о голосовании. Кроме того, компания разрабатывает методы идентификации изображений, сгенерированных искусственным интеллектом, и сотрудничает с Коалицией по происхождению и подлинности контента для маркировки фальшивых визуальных материалов.
Прошлые примеры влияния ИИ на выборы включают в себя использование поддельных аудиозаписей на выборах в Словакии, направленных против одного из кандидатов, а также сфабрикованный аудиоклип лидера Лейбористской партии Великобритании Кейра Стармера.
Источник: The Independent