Чатботи Фейсбуку, які створили свою власну мову, переходять на англійську
Секретна мова
При розробці переговорних агентів chatbot дослідники з Лабораторії штучного інтелекту Facebook (FAIR) помітили ще в червні, що штучно розумні (AI) боти спонтанно розробили свою власну нелюдську мову.
В звіті, що пояснює їх дослідження, вони відзначили, що це розвиток породило мета систем щодо поліпшення їх стратегій переговорів - система кодових слів, яку вони почали використовувати, була чітко розроблена, щоб максимізувати ефективність їх спілкування.
Незважаючи на те, що боти почали говорити по-англійськи, дослідники зрозуміли, що вони не змогли забезпечити винагороду за розмову по-англійськи. Іншими словами, у систем не було підстав дотримуватися англійської мови, оскільки це не сприяло їх кінцевої мети стати більш ефективними учасниками переговорів. Фактично, системи мали безліч стимулів, щоб відхилятися від мови, так само, як спільноти людей, що володіють досвідом або знаннями ніші, створюють і використовують скорочену форму для більш швидкого або ефективного обговорення складних ідей.
В цьому сенсі поведінка мала бути передбачуваним. Це було, в деякому сенсі, дуже людяна адаптація, оскільки вона була розроблена для підвищення продуктивності і мінімізації зусиль - чогось виділяє людський мозок.
Зображення: Facebook Дослідження штучного інтелекту (FAIR)
Як вони пояснили в червневому повідомленні, дослідники могли розшифрувати нову мову з досить невеликими проблемами, оскільки він все ще був заснований на англійській мові, але вони ніколи не могли бути впевнені, що їх переклади були на 100 відсотків правильними. «Важливо пам'ятати, що немає двомовних спікерів ІІ і людських мов», - сказав Дхрув Батра з FAIR «Fast Code Design». Ця нова мова також не служив мети дослідження. «Ми цікавилися ботами, які могли розмовляти з людьми», - пояснив Майк Льюїс, науковий співробітник FAIR.
В кінці кінців, дослідники вирішили налаштувати агентів, щоб уникнути цього, відхиляючись від англійського.
Майбутнє штучного інтелекта
Первісне спонтанне розвиток незалежного мови підкреслює, наскільки ми все ще не розуміємо про ІІ, що є величезною частиною дискусії про дослідження ІІ. AI, безсумнівно, міг би допомогти нам, і далеко не всі сперечаються, що технологія тут, щоб залишитися. Проте, гаряче обговорюється те, як ми готуємося до світу, що розділяється з ІІ, і незалежно від того, чи буде цей світ безпечним для людей.
Звичайно, багато побоювань, пов'язані з іноземними інвестиціями, засновані скоріше на науковій фантастиці, ніж на факті. За словами Найджела Шадболта, професора штучного інтелекту Оксфорда і голови Інституту відкритих даних, «Нам, безумовно, необхідно розглянути обмеження і гарантії, які нам необхідні для розробки в області техніки, програмного забезпечення і політики розгортання наших сучасних систем ШІ. Але наступний самосознающего комп'ютер, з яким ви зустрічаєтеся, з'явиться тільки в кінотеатрі поряд з вами.
Проблема мови, що виникає в FAIR і в інших місцях, як видається, потрапляє прямо в сферу обмежень і гарантій. Чи повинні ми дозволити ІІ розробляти діалекти з конкретними завданнями, якщо вони підвищують продуктивність, знаючи, що це буде означати, що ми не могли б по-справжньому зрозуміти, що вони говорили?
Більшість експертів впевнені нас, що ми помиляємося на стороні обережності. Дослідник Georgia Tech AI Марк Ридл розповів Future of Life, що ІІ, навчені оптимізації винагород, в кінцевому підсумку можуть побачити людей як загрозу їхнім планам оптимізації.
Можливо, найгучніші попередження про штучне прогрес занадто швидко походять від Елона Муска і Стівена Хокінга. Одним з найбільш важливих моментів в їх аргументах є те, що до того моменту, коли ми сприймаємо ризик, може бути занадто пізно. Це може бути кращим аргументом для закриття балаканини в такому проекті.
Література: Цифровий журнал, FastCoDesign, Facebook
