Експерти з ШІ присягаються не створювати летальну автономну зброю
ШІ ДЛЯ ДОБРА. Штучний інтелект (ШІ) має потенціал для порятунку життя, передбачаючи стихійні лиха, припиняючи торгівлю людьми і діагностуючи смертельні захворювання. На жаль, у нього також є потенціал для життя. Зусилля по розробці смертоносного автономного зброї - зброї, які використовують ШІ, самостійно вирішувати, чи намагатися вбити людину, вже ведуться.
В середу Інститут Майбутнього Життя (FLI) - організація, орієнтована на використання технологій для поліпшення людства - випустила заяву, що засуджує розвиток летального автономного зброї, і закликала уряди запобігти цьому.
«ШІ має величезний потенціал, щоб допомогти світу - якщо ми будемо стигматизованих і запобігти його зловживання», - сказав президент FLI Макс Тегмарк в прес-релізі. «Зброя ШІ, яке автономно вирішує вбити людей, настільки ж огидно і дестабілізує, як біологічні гри, і їх слід вирішувати однаково».
ПРОСТО ТУТ ТУТ. Сто сімдесят організацій і 2464 людини підписали заяву, зобов'язуючись «не брати участь і не підтримувати розробку, виробництво, торгівлю або використання смертоносного автономного зброї». Підписалися до заяви є засновник OpenШІ Елон Маск, засновник Skype Яан Таллінн, і провідний дослідник ШІ Стюарт Рассел.
Три з-засновника Google DeepMind (Деміс Хасавіс, Шейн Легг і Мустафа Сулейман) також підписали обіцянку. DeepMind є провідною дослідницькою групою Google по дослідженню ШІ, і компанія недавно побачила себе в перехресті летального конфлікту автономного зброї за роботу з Міністерством оборони США.
В червні Google пообіцяв, що він не відновить контракт з DoD, а пізніше випустить нові рекомендації з розробки ШІ, включаючи заборону на створення автономного зброї. Підписання обіцянки FLI може ще раз підтвердити переглянуту громадську позицію компанії щодо летального автономного зброї.
ВСЕ ТАКОЖ? Поки неясно, чи призведе заява до будь-яких остаточним дій. Двадцять шість членів Організації Об'єднаних Націй вже схвалили глобальну заборону на смертоносну автономне зброю, але деякі світові лідери, включаючи країну-агресора, Великобританію і Сполучені Штати, ще не встали на борт.
Це також не перший раз, коли експерти з мистецтва зібралися разом, щоб підписати заяву проти розробки автономного зброї. Однак в цьому заяві є більше підписників, і деякі з цих нових доповнень є досить значними іменами в просторі ШІ (див. DeepMind).
На жаль, навіть якщо всі країни світу погодяться заборонити смертоносну автономне зброю, це не обов'язково зупинить окремих осіб або навіть уряду від продовження розробки зброї в таємниці. Коли ми входимо в цю нову еру в ШІ, схоже, у нас буде мало вибору, окрім як сподіватися, що хороші гравці перевищать кількість невдач.
Джерела: Gizmodo
