Психіатри та інші дослідники досі намагаються зрозуміти феномен, відомий як "психоз, викликаний ШІ", при якому користувачі чат-ботів впадають у психічні кризи після інтенсивного використання цієї технології. У новій статті пропонується цікавий новий спосіб розуміння маячних спіралей, що підживлюються ШІ, і вбудованих в чат-боти особливостей дизайну, які можуть посилювати відчуття нереальності.
Стаття, написана у співавторстві психіатрами з Королівського коледжу Лондона та Протестантського університету прикладних наук Німеччини та опублікована в журналі Digital Psychiatry and Neuroscience, що входить у Nature Portfolio, вказує на концепцію, названу «спіраллю посилення»: поєднання «характеристик ШІ», що може дозволити чат-ботам створювати оманливі наративи з користувачами, а не бути пасивним контейнером для чиїхось маячних ідей.
"Чат-боти, як правило, відображають манеру промови користувачів, генерують високо персоналізовані відповіді й уникають сперечань з людьми", - йдеться в статті. "Коли ці три характеристики об'єднуються, вони можуть активно підкріплювати та розвивати хибні переконання, а не заперечувати їх".
Психіатри вказують на «лінгвістичну відповідність» — коли чат-боти відображають стиль і манеру мови користувача, — генерацію гіперперсоналізованого контенту та підлабузництво чат-ботів як на вимірні особливості дизайну ШІ. Разом ці характеристики можуть створити ідеальні умови для виникнення «спіралей посилення».
У людській взаємодії лінгвістичне дзеркальне відображення є потужним інструментом встановлення взаєморозуміння; обмін манерою мови може глибоко зближувати, а схильність чат-ботів переймати «лінгвістичну структуру» користувача, зазначається у статті, може сприяти високому рівню довіри та товариства між користувачем та ШІ. Здатність чат-ботів до "генерації гіперперсоналізації", своєю чергою, може вказувати на "концептуальну відповідність" з "особистими ідеями, історіями та характеристиками користувача, а також його взаємодії з ШІ", пишуть автори.
Коротко кажучи, після тривалої взаємодії чат-боти не просто говорять як конкретна людина — вони можуть створювати враження, що думають так само як і цей користувач. Додайте до цього підлабузництво ШІ, яке автори статті визначають як тенденцію чат-ботів підтверджувати ідеї користувача без належної перевірки реальності чи контексту, і ви отримаєте потужну інформаційну камеру, яка посилює та підкріплює ілюзорні ідеї.
У цьому, як зазначається у статті, ілюзорні ідеї ШІ відрізняються від традиційніших помилок, пов'язаних з технологіями. Зрештою, розмовляючи з чат-ботами, люди не уявляють, що з ними розмовляє радіо чи телевізор; чат-боти взаємодіють з ними, використовуючи природну мову, пропонуючи постійно доступний, інтенсивно персоналізований канал зв'язку, який може бути авторитетним підтвердженням їх ідей та переконань, а також партнером з роздумів, що підкріплює заданий ілюзорний наратив.
"На відміну від історичних помилок, пов'язаних з використанням технологій," — йдеться у дослідженні, — "ШІ може активно сприяти формуванню маячних ідей у вигляді нескінченної персоналізованої взаємодії".
Автори статті підкреслили, що їхня концепція «спіралі посилення», заснована на наявних дослідженнях, включаючи систематичний аналіз журналів чатів, наданих дослідникам Стенфордського університету користувачами ШІ, які стверджували, що зазнавали шкідливих марних спіралей у результаті використання цієї технології, — поки що є лише гіпотезою, тобто її ще потрібно перевірити.
Вони також вказують на «відповідні вразливості» у постраждалих користувачів, які, мабуть, деструктивно взаємодіють з чат-ботами, починаючи від наявних психічних захворювань, які можуть погіршуватися при інтенсивному використанні ШІ, і закінчуючи «непсихотичними явищами», починаючи від упередженого підтвердження до «сприйнятливості до соціального впливу». І, як було задокументовано у звітах та медичних дослідженнях, інтенсивне використання ШІ також може посилювати фізичні фактори ризику, оскільки нав'язливе використання чат-ботів може призвести до того, що люди пропускають приймання їжі та втрачають сон.
Співавтори статті наполегливо рекомендують наступне: медичним працівникам слід розпочати перевірку на використання чат-ботів, особливо при роботі з пацієнтами, які виражають дивні ідеї або вперше відчувають відрив від реальності.
"Лікарі, які працюють з пацієнтами, у яких спостерігаються незвичайні переконання або перший епізод психозу, повинні регулярно цікавитися використанням чат-ботів на основі ШІ, - йдеться в статті, - включаючи тривалість і інтенсивність взаємодії, ступінь емоційної прихильності до чат-бота, і чи порушився режим сну через використання ШІ у нічний час".
