Експерт зі штучного інтелекту каже, що ChatGPT набагато дурніший, ніж люди думають
ШІ з дурнем
Дослідник у галузі робототехніки та експерт зі штучного інтелекту Родні Брукс стверджує, що ми сильно переоцінюємо великі мовні моделі OpenAI, на яких заснований його популярний чат-бот ChatGPT.
У приголомшливому інтерв'ю для IEEE Spectrum Брукс стверджує, що ці інструменти набагато дурніші, ніж ми думаємо, не кажучи вже про те, що вони дуже далекі від здатності конкурувати з людьми в будь-якій задачі на інтелектуальному рівні. Загалом, каже він, ми винні у багатьох гріхах через те, що погано пророкуємо майбутнє ШІ.
Коротко кажучи, чи готовий ШІ стати чимось на кшталт загального штучного інтелекту (AGI), який міг би працювати на інтелектуальному рівні, аналогічному людському?
"Ні, тому що він не має базової моделі світу", – повідомив Брукс виданню. "Це не має жодного зв'язку зі світом. Це кореляція між мовами."
Перевірка реальності
Коментарі Брукса є цінним нагадуванням про нинішні обмеження, що переслідують технологію штучного інтелекту, і про те, як легко наповнити їх результати змістом, навіть якщо вони були спроєктовані так, щоб просто звучати, а не міркувати, як люди.
"Ми бачимо, як людина щось робить, і знаємо, що ще вона може зробити, і можемо швидко прийняти рішення", — сказав він IEEE Spectrum. «Але наші моделі для узагальнення продуктивності компетенції не застосовні до систем ШІ».
Іншими словами, сучасні мовні моделі не можуть логічно вивести значення, попри те, що вони роблять це так, начебто можуть, що легко ввести користувача в оману.
"Великі мовні моделі хороші в тому, щоб сказати, як повинна звучати відповідь, що відрізняється від того, якою має бути відповідь", — сказав Брукс.
Цілком неправильно
Дослідник сказав, що експериментував з великими мовними моделями, щоб допомогти йому з "таємним кодуванням", але зіткнувся із серйозною проблемою.
"Це відповідає з повною впевненістю, і я ніби як вірю йому", — сказав Брукс IEEE Spectrum. "І в половині випадків це зовсім неправильно. І я витрачаю дві чи три години на цю підказку, а потім говорю: "Це не спрацювало", а він просто робить інше".
"Це не те саме, що інтелект", – додав він. "Це не те саме, що взаємодія. Це пошук".
Однак, Брукс вважає, що майбутні версії технології можуть опинитися в деяких цікавих місцях — «але не в AGI».
А враховуючи ризики, пов'язані з тим, що система штучного інтелекту замінить людський інтелект, можливо, так буде краще.
Джерела: IEEE Spectrum
