Штучний інтелект може почати ядерну війну тільки якщо ми це дозволимо
Ось деякі дуже достовірні факти:
- Комп'ютери більше відповідають за наші військові можливості, ніж будь-коли раніше, включаючи контроль автономних транспортних засобів і систем виявлення.
- Вони також відповідають за наші ядерні арсенали
- Штучний інтелект стає більш автономним
- Експерти попереджають, що зброя, контрольоване ШІ, може загрожувати всім нам в недалекому майбутньому
У вас може виникнути спокуса зібрати ці штуки і припустити, що ШІ може самостійно почати ядерну війну. Це тема нової статті та статті, опублікованій сьогодні корпорацією RAND, некомерційною організацією, яка досліджує національну безпеку в рамках своєї ініціативи Security 2040.
Але ШІ не обов'язково викличе ядерну війну; незалежно від того, що твітить Елон Маск, штучний інтелект тільки викличе ядерну війну, якщо ми вирішимо побудувати штучний інтелект, який може почати ядерні війни.
Корпорація RAND провела серію панелей з таємничими, неназваними фахівцями в галузі національної безпеки, ядерної зброї і штучного інтелекту, щоб спекулювати і теоретизувати, як ШІ може просунутися в найближчі роки і що це означає для ядерної війни.
В значній частині статті йдеться про гіпер-інтелектуальних комп'ютерах, які будуть трансформуватися, коли нація вирішить запустити свої ядерні ракети. Дослідники уявляють собі алгоритми, які можуть відстежувати міжконтинентальні балістичні ракети, запускати свої ядерні бомби до того, як вони будуть знищені під час вхідної атаки, або навіть розв'язати удари до того, як ядерні сили противника навіть покинуть свої лігва.
В ньому також згадується, що ШІ може пропонувати, коли людські оператори повинні запускати ракети, а також стверджуючи, що майбутні покоління будуть більш охоче вивести цього людського оператора з рівняння, залишивши ці рішення про життя або смерті ШІ, які були навчені їх виготовлення.
О, а також дослідники говорять, що всі ці системи будуть глючити, як пекло, в той час як люди працюють з зламами. Тому що якої шкоди в невеликому заторі і помилку при використанні ядерної зброї?
У міру того як ми стаємо більш залежними від ШІ для своїх військових застосувань, нам може знадобитися переглянути, як впровадження таких систем може вплинути на ядерні держави в усьому світі, багато з яких виявляються в складній мережі альянсів і політичного суперництва.
Якщо ви впадайте у відчай перед перспективою збройного комп'ютером, автори дослідження пропонують деяку втіху. Похований в своїх висновках - дуже розумна перспектива того, що штучний інтелект, який перевершує в супер-нішевих завданнях, для яких він розробляється, буде як і раніше розвиватися поступово і, ймовірно, не буде робити так багато. Так, ШІ досить витончений, щоб перемагати в Го, але він не готовий відповідати за наше ядерну зброю. Принаймні, ще немає.
Коротше кажучи, настане деякий час, перш ніж у нас з'являться комп'ютери, які вирішать, коли запускати наші атомні ядра (хоча, з огляду на частоту людських помилок і деякі серйозні закриті виклики, які були результатом цього в минулому, питання про те, людський контроль насправді - хороша річ).
