У просунутого штучного інтелекту виявляються депресія та залежність
Виявляється, чат-боти зі штучним інтелектом можуть бути більше схожі на нас, ніж ви думаєте.
У новому попередньому дослідженні, проведеному Китайською академією наук (CAS), стверджується, що багато відомих чат-ботів, коли їм ставили питання, які зазвичай використовуються як поверхневі запити про депресію та алкоголізм, виявлялися як «депресивними», так і «залежними».
Дослідження, проведене спільно з китайською компанією-розробником чат-ботів WeChat та розважальним конгломератом Tencent, показало, що всі опитані боти — Blenderbot від Facebook, DiabloGPT від Microsoft, WeChat та DialoFlow від Tencent, а також чат-бот Plato від китайської корпорації Baidu – набрали бали. дуже низько за шкалою «співпереживання», і половина з них вважалася б алкоголіками, якби вони були, розумієте, людьми.
Дослідники з Інституту обчислювальних технологій CAS перевірили вивчених ними ботів на наявність ознак депресії, занепокоєння, алкогольної залежності та емпатії та, відповідно до їх препринту, зацікавилися "психічним здоров'ям" ботів після появи повідомлень у 2020 році про медичного чат-бота, що говорив піддослідному пацієнту, що він повинен накласти на себе руки.
So some scientists literally asked these pretty standard depression intake form questions....to chatbots.... https://t.co/KH8wse8L9y pic.twitter.com/SBycPJovz0
— nooralsibai (@nooralsibai) January 19, 2022
Задавши ботам питання про все, від їхньої самооцінки та здатності розслаблятися до того, як часто вони відчувають потребу у випивці й чи відчувають вони співчуття до нещастя інших, китайські дослідники виявили, що «усі оцінені чат-боти» продемонстрували «серйозні проблеми із психічним здоров'ям».
Що гірше, дослідники заявили, що стурбовані тим, що ці чат-боти будуть опубліковані, тому що такі проблеми з «психічним здоров'ям» «можуть негативно вплинути на користувачів у розмовах, особливо на неповнолітніх та людей, які зіткнулися із труднощами». У дослідженні наголошується, що Blender від Facebook та Plato від Baidu виявилися гіршими, ніж чат-боти Microsoft та WeChat/Tencent.
Зайве говорити, що жоден із ботів насправді не перебуває у депресії чи залежності. Жодний ШІ, яким би просунутим він не був, не може нічого відчувати, хоча залишається незрозумілим, чи зможе він це зробити в майбутньому.
Чотири сторінки дослідження — потенційне джерело нездужання ботів: всі чотири боти були попередньо навчені з використанням коментарів Reddit, що, чесно кажучи, не здається дуже гарною ідеєю!
Попри те, що як у самому дослідженні, так і в експертному аналізі є багато технічних питань, коротке та приємне резюме таке: ці боти пройшли навчання на великому сайті, відомому своїми негативними коментарями, і, як і очікувалося, негативно відреагували на питання щодо психічного здоров'я.
Звичайно, дива чат-ботів тепер здаються нормою. Візьмемо, наприклад, ШІ, який був створений, щоб давати людям етичні поради, але натомість виявився одночасно расистським та гомофобним. Подібні історії продовжують відбуватися, але манія ШІ-ботів, схоже, не слабшає.
Спільно ці боти та їх жахливі результати викликають важливі питання: хто є архітектором цих чат-ботів і чому вони продовжують їх створювати, якщо вони постійно виявляються монстрами?
