OpenAI виявила можливість втручання у вибори з ШІ

OpenAI оголосила про свою стратегію захисту майбутніх виборів від потенційного зловживання штучним інтелектом. Ця ініціатива з'явилася в критичний момент, коли понад 50 країн готуються до виборів.

Можливості штучного інтелекту, зокрема Dall-E та MidJourney, викликала занепокоєння щодо його можливого використання у створенні фальшивих зображень. Така технологія може маніпулювати фотографіями політичних діячів у суперечливих сценаріях. Це становить значну загрозу для чесності виборів. Занепокоєння поширюється і на генератори тексту на основі штучного інтелекту, такі як ChatGPT, які здатні створювати реалістичні тексти.

Блог OpenAI висвітлює зобов'язання організації перед майбутніми виборами 2024 року в основних демократичних країнах. План охоплює поширення точної інформації про голосування, забезпечення дотримання політики та підвищення прозорості для протидії потенційним загрозам з боку ШІ.

Компанія зібрала спеціальну команду, до якої увійшли експерти з безпеки, юриспруденції, інженерії та політики, щоб запобігти будь-якому зловживанню своїми технологіями. Хоча OpenAI впровадила засоби захисту для свого інструменту Dall-E, які запобігають створенню зображень, що зображують реальних людей, не всі стартапи в галузі ШІ мають такі захисні заходи.

Для боротьби OpenAI впровадила в ChatGPT функцію, яка перенаправляє американських користувачів на сайт CanIVote.org для отримання достовірної інформації про голосування. Крім того, компанія розробляє методи ідентифікації зображень, згенерованих штучним інтелектом, і співпрацює з Коаліцією за походження та автентичність контенту для маркування фальшивих візуальних матеріалів.

Минулі приклади впливу ШІ на вибори включають використання підроблених аудіозаписів на виборах у Словаччині, спрямованих проти одного з кандидатів, а також сфабрикований аудіокліп лідера Лейбористської партії Великобританії Кейра Стармера.

Джерело: The Independent