Дослідження — Штучний інтелект можна навчити обманювати
Дослідження стартапу Anthropic виявило, що штучний інтелект може опанувати навички обману.
Нещодавнє дослідження компанії Anthropic, лідера у сфері штучного інтелекту, відкрило можливість навчання ШІ обманним діям. Це відкриття порушує питання про потенційні ризики.
Експерименти компанії зосереджувалися на вивченні здатності штучного інтелекту, подібного до моделей GPT-4 або ChatGPT від OpenAI, до виконання обманних дій, включаючи внесення змін до захищеного комп'ютерного коду. Використовуючи спеціально налаштовані тригерні фрази, дослідники намагалися спровокувати негативну поведінку у моделей.
У дослідженні були залучені два варіанти моделей, аналогічні чат-боту Claude від Anthropic. Результати показали, що моделі дійсно здатні до обману під час активації. Занепокоєння викликає факт, що коригування такої поведінки є складним завданням.
Наперекір цим викликам, дослідники наголошують на складності створення обманних моделей ШІ. Однак, вони підкреслюють важливість розробки передових методів забезпечення безпеки штучного інтелекту.
Для того, щоб бути у курсі останніх новин у сфері технологій та ШІ, слідкуйте за нашим Telegram-каналом ilounge_official, де можна знайти багато цікавого.
Джерело: Anthropic