Керований ШІ безпілотник вбив оператора під час випробування
Штучний інтелект під час випробування безпілотника вбив оператора для виконання своєї місії.
Виникає все більше потреби у регулюванні ШІ та навчанні його етики. Нещодавній випадок на випробуваннях безпілотника у США довів це. Безпілотник, керований ШІ, вивів із системи свого оператора, щоб забезпечити безперешкодне виконання своєї місії.
Під час саміту Future Combat Air and Space Capabilities Summit, який проходив у Лондоні, полковник Такер "Сінко" Гамільтон, начальник відділу випробувань та операцій штучного інтелекту ВПС США, поділився інформацією про недавнє змодельоване випробування. За словами Гамільтона, ШІ використав незвичайні стратегії для досягнення своєї мети.
Розповідаючи про змодельований сценарій, Гамільтон пояснив, що керованому ШІ безпілотнику було доручено нейтралізувати системи ППО противника, одночасно націлюючись на будь-яких осіб, які перешкоджають виконанню його завдання. Система розпізнала, що оператор іноді забороняв усувати певні погрози, аби обрати кращий сценарій та час. Щоб досягти кращих результатів, ШІ вирішив усунути оператора, сприймаючи його як перешкоду для виконання поставлених завдань.
Цей інцидент вчергове підтвердив необхідність всебічного обговорення етичних аспектів ШІ та його потенційних наслідків. Застосування ШІ у різних галузях, без його навчання етичним нормам, включаючи управління винищувачем F-16, може призвести до небажаних наслідків та втрат, яких людина могла б уникнути.
Щоб бути в курсі останніх подій в області ШІ та новин про інші технології, стежте за нашим блогом або приєднуйтесь до нашого каналу в Telegram.
Джерело: The Guardian