Новий центр шукає гарантій, що системи ШІ продовжать залишатися під контролем людини
Людина - Сумісність А.І.
Каліфорнійський університет, Берклі недавно запустила новий центр для людино-Compatible штучного інтелекту, чия мета полягає в тому, щоб переконатися, що в майбутньому штучний інтелект (AI) системи допоможуть людству.
Новий центр, який отримав грант в розмірі $ 5,5 млн від проекту Open філантропії, як очікується, знайти способи, які будуть гарантувати системи ШІ, незважаючи на те, що технологічні досягнення вони досягають, залишаються під контролем людини.
Очолюваний Каліфорнійський університет в Берклі професор Стюарт Рассел, команда планує дослідити підхід, званий «зворотний армування навчання", який буде бачити, що дослідники проектування систем штучного інтелекту, здатні до навчання людські цінності, спостерігаючи людей і імітуючи їх повсякденні дії, проте мирське вони можуть бути. За словами Рассела, це зрівняється з Конструктори "визначають" значення ШІ, які, ймовірно, може привести до катастрофи.
Скинувши Людство?
Експерти технології, такі як Стівен Хокінг і Елон Маск були невпинно попереджають про можливість того, що висунута системи ІІ звалить людство в майбутньому. Маск, зокрема, уявляє собі майбутнє, в якому люди роздавлений відчуває комп'ютера Overlord-страхітливої версії Skynet, які очікують відбудеться.
Але Рассел, виступати за включення людських цінностей з конструкціями системи штучного інтелекту, вважає інакше. Оскільки історія держав в Берклі Новини:
"Рассел швидко звільнити уявну загрозу з боку живих, злих роботів наукової фантастики. Проблема, за його словами, є те, що машини, як в даний час ми розробляємо їх в таких областях, як ІІ, робототехніки, теорії управління та дослідження операцій приймають цілі, які ми, люди дають їм дуже буквально. Про це повідомив чистити ванну, вітчизняний робот може, як Кіт у капелюсі, використовуйте білу сукню матері, не розуміючи, що значення чистого одягу більше, ніж значення чистої ванній ".
Професор, однак, визнав, що це не просте завдання для виконання, так як "люди є суперечливими, ірраціональним, і безвольний" і людські цінності змінюються від одного місця до іншого.
"Замість чистого розуму, нам потрібно створити інтелект, який доказовою у відповідність з людськими цінностями", пише Рассел, зазначивши, що вихід може бути повчально не тільки для роботів в майбутньому, а й для людей, а також.
Список літератури: Берклі Новини - Наука і навколишнє середовище, Край
