ДіпМаінд від Гугл показує, що ШІ може мати "інстинкт вбивці"

MGM

Вчені, що працюють з ШІ ДіпМаінд (DeepMind) від Гугл недавно випробували його схильність до співпраці або конкуренції. Результати показують, що системи ШІ можуть піти в будь-яку сторону, в залежності від ситуації. На наступному етапі роботи планується з'ясувати на чому базуються рішення ШІ.

Червоний і синій

Побоювання з приводу штучного інтелекту (ІІ) були навколо протягом деякого часу, і завдяки новим дослідженням, проведеним дослідної лабораторії DeepMind Google, здається, що це Термінатор-еск майбутнє інтелектуальних машин може бути не надумана.

За допомогою ігор, платформу, компанії Google DeepMind AI жахливо знайомі, дослідники тестували чи нейронні мережі, швидше за все, співпрацювати або конкурувати, і якщо ці ІІ здатні розуміти мотиви зробити цей вибір.

Для дослідження вони використовували дві гри з подібними сценаріями для двох агентів AI, червоний і синій.

У першій грі, агенти була поставлена задача намагаємося зібрати самі яблука (зелені) в базовій 2D графічному середовищі. Агенти отримали можливість позначати один одного за допомогою лазерного вибуху, який тимчасово видалили їх з гри. Після запуску сценарію тисячу разів, вони зрозуміли, що агенти були готові до співпраці, коли яблука були в достатку, але вони виявилися друг від друга, коли ставки були вищими.

Дослідники зрозуміли, що, в невеликої мережі, агенти були більш схильні до співпраці. У той час як в більш широкому, більш складної мережі, ІІ були швидше саботувати один одного.

Чи не все втрачено

У другому сценарії, гра під назвою Wolfpack, агенти грали, як "вовків", які були поставлена задача захоплення "здобич". Коли вовки близькі в безпосередній близькості під час успішного захоплення, нагороди, пропоновані були більше. Замість того щоб йти все самотній вовк, це агенти стимули працювати разом.

У великій мережі, агенти були швидше, щоб зрозуміти, що співпраця шлях.

Дослідники Google сподіваються, що дослідження може привести до AI бути краще при роботі з іншими ІІ в ситуаціях з неповною інформацією. Таким чином, найбільш практичне застосування цього дослідження, в короткостроковій перспективі, щоб "бути в змозі краще зрозуміти і управляти складними многоагентних систем, таких як економіка, транспортних систем, або екологічного здоров'я нашої планети - все з яких залежить від нашої подальшої співпраці ", йдеться в дослідженні.

Принаймні, дослідження показує, що ІІ здатні працювати разом, і що ІІ може зробити "егоїстичні" рішення.

Джоел Лейбо, який був провідним автором статті, викладаються наступні кроки в інтерв'ю Bloomberg, "Просуваючись вперед, було б цікаво обладнати агентів зі здатністю міркувати про переконань і цілей іншого агента."

Список літератури: Gizmodo, Google Deepmind