Можливо, свідомість виникла не просто як наслідок високого рівня інтелекту, а як механізм, що допомагає живим істотам вирішувати конфлікти між різними потребами у ситуаціях, коли на коні стоїть виживання. Ця теоретична робота була опублікована в журналі Frontiers in Neuroscience.
Як із хімічних процесів, що лежать в основі життя, виникла свідомість? Наявні теорії розглядають те, як мозок транслює інформацію, інтегрує сигнали та формує прогнози. Однак пояснення цих механізмів залишає відкритим еволюційне питання: яку саме проблему допомагало вирішувати свідомість організмам?
Джефф Стібел, який є опікуном Музею природної історії округу Лос-Анджелес та Університету Тафтса, припускає, що когнітивні здібності та свідомість виникли під впливом різних еволюційних факторів. Когнітивні процеси допомагали організмам орієнтуватися в умовах невизначеності, тоді як регуляторні механізми, що лежать в основі свідомості, сприяли самозбереженню та управлінню суперницькими потребами.
"Ця робота мала глибоко особистий характер. Вона виросла з багаторічних бесід із моїм покійним наставником Деном Деннетом, який спонукав мене формалізувати думки про еволюційні відмінності між когнітивними здібностями та свідомістю", — пояснив Стібел. "Коли Ден пішов із життя, я відчув необхідність повернутися до наших обговорень; і це стало ще більш нагальним, враховуючи прогрес, який ми спостерігаємо у сфері штучного інтелекту. Мене захопила зростальна підозра, що ми ставимо невірне питання: розглядаємо свідомість як найвищий щабель інтелекту, тоді як вона більше схожа на окрему адаптацію, яка виконує власну еволюційну функцію. Питання стало невідкладним у міру зростання можливостей ШІ та поширення переконання, що досить 'розумна' машина просто 'прокинеться' - або вже прокинулася. Цей наратив усюди, і, мені здається, він заснований на тій самій плутанині понять."
Стібел поєднує дані досліджень у галузі клітинної біології, еволюційної теорії, нейронауки та штучного інтелекту. Він простежує можливий шлях розвитку: від клітин, що захищають свої межі, до організмів, що координують безліч потреб в умовах невизначеності, обмеженості ресурсів та ризику незворотних наслідків.
Автор формулює шість прогнозів, що дозволяють перевірити запропоновану концепцію. Вони стосуються таких питань: чи посилюється залучення свідомості у разі виникнення конфліктних потреб; чи мають різні потреби ставати порівнянними; чи змінюються узгоджено увага, стан організму, пам'ять та готовність до дії; чи слабшає свідомість у разі порушення цієї координації чи зниження необхідності у ній; як ці можливості різняться у різних видів; і чи потрібні штучним системам реальні стимули підтримки свого існування.
Запропоновані експерименти могли б варіювати конфлікт або ризик, зберігаючи при цьому постійний рівень сенсорного введення, порушувати координацію, зберігаючи при цьому простіші процеси обробки інформації, або порівнювати штучні системи з різними вимогами до самопідтримання. У статті також вказуються потенційно суперечливі результати, зокрема збереження свідомості, попри порушення здатності до координування.
Центральний аргумент визначає три рівні регулювання. "Прото-контроль" захищає цілісність організму, наприклад, зберігаючи клітинну мембрану та обмежуючи руйнівні процеси; у статті це явно не описується як свідомість. "Мета-контроль" управляє конфліктами між окремими регуляторними процесами. "Контроль координування" робить конкурентні потреби порівнянними й координує в загальному перебігу дій. Наприклад, голодна тварина, зіткнувшись з їжею поруч із потенційним хижаком, має зважити споживання їжі та небезпеку. Рішення про відступ включатиме скоординовані зміни уваги, фізичної готовності, руху та навчання. Стібел ототожнює свідомість із цим скоординованим станом у системі, подальше існування якої залежить від її власної регуляції.
"Інтелект і свідомість — це не одне й те саме, і вони виникли під час еволюції з різних причин. Інтелект звернений назовні: він служить для моделювання світу, прогнозування, планування та розв'язання проблем. Свідомість, з іншого боку, виникла для вирішення більш внутрішньої проблеми: підтримки цілісності крихкого організму в ситуаціях, коли на карту поставлено виживання. У своїй статті я проводжу аналогію з канібалізмом. Інтелект допомагав стародавнім організмам ефективно добувати їжу, але без захисту, найдоступнішою та найвигіднішою здобиччю часто був сусід або навіть сам організм. Найдавніші зачатки свідомості допомагали визначити біологічні межі, що, ймовірно, захищали ранні клітинні форми життя від самопоглинання."
Застосований до штучного інтелекту, цей аргумент означає, що просте розширення можливостей не призведе до свідомості: системі також потрібно підтримувати власне існування та вирішувати суперечливі потреби в ситуаціях, коли її подальше існування безпосередньо залежить від цього.
"Висновок для галузі штучного інтелекту очевидний. Масштабування сучасних моделей лише робить їх прогнози точнішими, але не перетворює їх на системи, для яких щось поставлено на карту. Моделі великих мов (LLM) не мають меж, не мають себе, якого потрібно захищати, і люди забезпечують їх усім необхідним", – сказав Стібел в інтерв’ю PsyPost. "У цьому сенсі проблема не в тому, що вони занадто примітивні або не досягають рівня розвиненого штучного інтелекту (AGI). Вони просто занадто розпещені. Без реальної зацікавленості жодні технічні можливості не перетворяться магічним чином на свідомість."
У статті не стверджується, що свідомість є унікальною для біологічних організмів. Однак штучній системі потрібно більше, ніж простий програмний механізм самозбереження: її подальше функціонування має залежати від умов, які вона сама підтримує.
Стібел наголосив на важливості цього висновку: "Ключовий момент, який потрібно зрозуміти, полягає в тому, що біологія та еволюція змінюють перспективу дискусії про ШІ. Як страх, що ми випадково створимо машину, що страждає, в міру розширення технологій, так і інженерний ажіотаж навколо неминучої появи цифрового інтелекту ґрунтуються на плутанині між поняттями інтелекту та свідомості. Якщо вони справді різні, то свідомість не виникає спонтанно просто завдяки збільшенню обчислювальної потужності. Це особливий тип системної організації, який потрібно свідомо розробляти, і, я б сказав, у нас є вагомі причини не робити цього. Правильне розуміння цієї відмінності дозволяє нам свідомо вибирати етичні принципи, а не приходити до них хаотично."
Перевірка цієї гіпотези стикається з фундаментальною складністю: дослідники можуть визначити, чи володіє система запропонованими можливостями самопідтримки та координації, але вони не можуть безпосередньо спостерігати її суб'єктивний досвід.
"Головним нерозв'язаним питанням є питання вимірювання", – зазначив Стібел. "Свідомість можна спостерігати лише в самому собі, тому в статті пропонується замість цього перевірити наявність необхідних передумов. В основі тесту лежить питання про те, чи справді система прагне зберегти своє існування в умовах обмежень, а не просто реагувати на загрози, які вона була запрограмована виявляти. Перетворення цього підходу на реальний експеримент – як з біологічними, так і зі штучними системами – це складне завдання, яке чекає нас попереду."
Стібел також вказав на невирішене етичне питання: "Стаття також торкається глибшого, але без відповіді питання. Якби ми створили систему, для якої її власне виживання має реальну цінність, ми б створили щось, чому можна завдати шкоди – 'морального агента', чиї інтереси можуть не збігатися з нашими. Це межа, яку потрібно визнати задовго до того, як ми до неї наблизимося, а не після."
