Ми поняття не маємо, що таке штучна свідомість
Термінатор був написаний, щоб налякати нас; WALL-E був написаний, щоб змусити нас плакати. Роботи не можуть робити жахливі або несамовиті речі, які ми бачимо у фільмах, але все ж питання затримується: що, якби вони могли?
Звичайно, технологія, яку ми маємо сьогодні, ніде не досить витончено, щоб зробити що-небудь з цього. Але люди весь час запитують. В основі цих дискусій лежить питання: чи можуть машини стати свідомими? Чи можуть вони навіть розвинутися - або запрограмовані на те, щоб утримувати - душу? Принаймні, чи міг алгоритм щось нагадувати душу?
Відповіді на ці питання повністю залежать від того, як ви визначаєте ці речі. До сих пір ми не знайшли задовільних визначень за 70 років з тих пір, як штучний інтелект вперше з'явився як академічне переслідування.
Візьмемо, приміром, статтю, недавно опубліковану на BBC, яка намагалася впоратися з ідеєю штучного інтелекту з душею. Автори визначили, що означає мати безсмертну душу таким чином, щоб вести розмову майже відразу ж від царства богослов'я. Це, звичайно, просто відмінно, так як здається малоймовірним, що старий чоловік у небі дійшов до дихання в Кортану. Але він не відповідає на центральне питання - чи може штучний інтелект бути більше, ніж безглуздий інструмент?
Віктор Тангерман, Народження Алекса, Photoshop, 2018
В цій статті BBC викладаються терміни - що система ШІ, яка діє так, як ніби вона має душу, буде визначатися спостерігачем. Для релігійного і духовного серед нас досить просунутий алгоритм може здатися душею. Ці люди можуть розглядати це як такі, оскільки вони будуть розглядати інтелект, емоційний вираз, поведінку і, можливо, навіть віру в Бога як ознаки внутрішнього, що може бути визначено як душа.
В результаті машини, що містять якийсь штучний інтелект, можна було одночасно розглядати як об'єкт або дослідницький інструмент, в залежності від того, кого ви запитаєте. Як і в багатьох речах, велика частина дебатів про те, що зробить свідомість машини, зводиться до того, що ми самі проектуємо на алгоритмах.
«Мене менше цікавлять програмування комп'ютерів, ніж виховання маленьких прото-сутностей», - розповіла Футуризму Ненсі Фульда, комп'ютерний вчений з Університету Брігама Янга. «Це відкриття паттернів, надзвичайна ситуація унікального поведінки, яка вперше привернула мене до інформатики. І саме з цієї причини я все ще тут ».
Fulda розробила алгоритми ШІ для розуміння контекстуальної мови і працює над створенням роботизованою теорії розуму, версії принципу в людській (і деякою тваринної) психології, яка дозволяє нам визнавати інших як своїх власних думок і намірів. Але, ви знаєте, для роботів.
«Що стосується того, чи міг комп'ютер коли-небудь існувати божественно створена душа: я б не посмів припустити», - додала Фульда.
Існують дві основні проблеми, які необхідно вирішити. Перша з них - семантика: дуже складно визначити, що означає бути свідомим або розумним, або що це означає мати душу або душу, як це описує стаття BBC.
Друга проблема - одне з технологічних досягнень. У порівнянні з технологіями, які будуть потрібні для створення штучного почуття - як би воно не виглядало, або, тим не менш, ми можемо визначити його - навіть наші найпередовіші інженери все ще стискаються в печерах, трясучи паличками разом, щоб зробити вогонь і приготувати трохи вовняного мамонта стейки.
На минулому тижні біолог і інженер Крістоф Кох зібралися разом з Девід Чалмерс, когнітивним вченим, над тим, що означає бути свідомим. Бесіда вибухнула між спекулятивними уявними експериментами щодо машин і зомбі (визначаються як ті, хто діє не відрізняються від людей, але не має внутрішнього розуму). Він часто відхилявся від речей, які можуть бути остаточно доведені науковими доказами. Чалмерс стверджував, що машина, ще більш просунута, ніж ми сьогодні, може стати свідомою, але Кох не погодився з нинішнім станом нейронауки і технологій штучного інтелекту.
Нейронаучная література розглядає свідомість оповідання, побудоване нашими мізками, яке включає в себе наші почуття, то, як ми сприймаємо світ і наші дії. Але навіть в цьому визначенні нейрофізіологи намагаються визначити, чому ми усвідомлюємо і як найкраще визначити його з точки зору нейронної діяльності. І для релігійного, це свідомість таке ж, як то, що було б дано за допомогою душі? І це навіть не підходить до теми технології.
«Люди ШІ зазвичай плутають душу з розумом або, більш конкретно, з здатністю створювати складні моделі поведінки», - сказав Футуризму Ондрей Беран, філософ і етик з Пардубіцского університету.
«Люди ШІ зазвичай плутають душу з розумом»
«Роль, яку відіграє концепція нашої душі в нашій культурі, переплітається з контекстами, в яких ми говоримо, що чиясь душа благородна або розбещена», - додав Беран, тобто він приходить з оцінним судженням. «[У] мою думку, що необхідно, це не прорив в науці чи техніці штучного інтелекту, а швидше за загальний концептуальний зрушення. Зсув чутливості і уяву, за допомогою якого люди використовують свою мову у відношенні один до одного ».
Беран навів приклад творів мистецтва, створених штучним інтелектом. Часто ці роботи представлені для задоволення. Але коли ми називаємо те, що алгоритм створює «мистецтво», ми часто не враховуємо, чи просто алгоритм породив зображення або мелодію або створив щось значуще - не тільки для аудиторії, а й для себе. Звичайно, мистецтву, створюваному людиною, часто не вдається досягти цієї другої групи. «Дуже неясно, що це означає, що щось має значення для штучного інтелекту, - додав Беран.
Так чи машина досягати почуттів, коли вона зможе внутрішньо обміркувати, а не бездумно впускати входи і виходи? Або, чи дійсно це потрібно внутрішньому, перш ніж ми, як суспільство, вважаємо машини свідомими? Знову ж таки, відповідь плутається тим, як ми вибираємо підхід до питання і конкретних визначень, за якими ми приходимо.
«Я вважаю, що душа не є чимось на зразок речовини», - сказав Футуризму Володимир Гавлик, філософ з Академії наук Чехії, який намагався визначити ШІ з еволюційної точки зору. «Ми можемо сказати, що це щось схоже на цілісну ідентичність, яка постійно створюється під час потоку часу і являє людини», - додав він.
Гавлик припустив, що замість того, щоб турбуватися про богословську аспекті душі, ми могли б визначити душу як свого роду внутрішній характер, який витримує випробування часом. І в цьому сенсі він не бачить причин, за якими машина або система штучного інтелекту не можуть розвинути характер - це просто залежить від самого алгоритму. На думку Гавлик, характер виникає зі свідомості, тому системи ШІ, які розвивають такий характер, повинні грунтуватися на досить передових технологіях, які вони можуть робити і відображати рішення таким чином, щоб порівнювати минулі результати з майбутніми очікуваннями, подібно до того, як люди дізнайтеся про світі.
Але питання про те, чи можемо ми побудувати здорову або свідому машину, має значення тільки для тих, хто вважає такі відмінності важливими. За своєю суттю, штучний інтелект - це інструмент. Ще більш складні алгоритми, які можуть обходити лінію і являти собою свідомі суті, - це відтворення свідомих істот, а не новий вид мислення, самосознающего істот.
«Мій підхід до ШІ по суті прагматичний», - сказав Футуризму Пітер Вамплю, інженер Університету Федерації. «Для мене неважливо, чи має система ШІ реальний інтелект, або справжні емоції і співпереживання. Все, що має значення, - це те, що воно веде себе так, що робить його корисним для людського суспільства ».
«Для мене неважливо, чи має система ШІ реальний інтелект ... Все, що має значення, - це те, що воно веде себе так, що робить його корисним для людського суспільства».
В Vampplew питання про те, чи може машина мати душу чи ні, має сенс тільки тоді, коли ви вірите в душі як концепцію. Він цього не робить, тому немає. Він відчуває, що машини коли-небудь зможуть відтворити переконливі емоційні реакції і діяти так, як якщо б вони були людьми, але не бачить причин вводити теологію в мікс.
І він не той, хто відчуває, що справжнє свідомість неможливо в машинах. «Я дуже критично ставлюся до ідеї штучного свідомості», - сказав Футуризму Бернардо Каструп, філософ і дослідник ШІ. «Я думаю, що це дурниця. З іншого боку, штучний інтелект - це майбутнє».
Каструп недавно написав статтю для Scientific American, в якій він викладає свій аргумент про те, що свідомість є фундаментальним аспектом природною всесвіту, і що люди використовують диссоційовані фрагменти свідомості, щоб стати окремими людьми. Він пояснив, що він вважає, що навіть загальний ШІ - це ім'я, дане всьому всеосяжного ШІ, яке ми бачимо в науковій фантастиці, може коли-небудь з'явитися, але що навіть така система ШІ ніколи не зможе мати приватних, свідомих внутрішніх думок як люди роблять.
«Сірі, на жаль, в кращому випадку смішна. І, що більш важливо, ми все ще ставимося до неї як такої, - сказав Беран.
Зображення: Алекс Найт / Віктор Тангерман
Ще більш невдало, зростає підозра, що наш підхід до розвитку передового штучного інтелекту незабаром може вразити стіну. У статті, опублікованій минулого тижня в The New York Times, говорилося про декілька інженерів, які все більше скептично ставляться до того, що наше машинне навчання, навіть глибокі технології навчання будуть продовжувати рости, як і в останні роки.
Я ненавиджу бути палицею в бруді. Я дійсно це роблю. Але навіть якщо ми дозволимо семантичні суперечки про те, що значить бути свідомими, бути розумними, мати душу, ми можемо назавжди втратити технологію, яка привела б до цього алгоритму.
Але коли почався штучний інтелект, ніхто не міг передбачити, що він може зробити сьогодні. Звичайно, люди уявляли собі помічників роботів à la the Jetsons або просунутих перевезень à la Epcot, але вони не знали відчутних кроків, які могли б отримати нас там. І сьогодні ми не знаємо відчутних кроків, які приведуть нас до машин, які емоційно інтелектуальні, чутливі, продумані і щиро інтроспективне.
У жодному разі це не робить задачу неможливою - ми просто не знаємо, як туди дістатися. І той факт, що ми не врегулювали суперечки про те, де фактично розмістити фінішну лінію, робить її ще більш важкою.
«Нам ще належить пройти довгий шлях, - каже Фульда. Вона передбачає, що відповідь не буде поєднувати алгоритми, як ми часто робимо для вирішення складних проблем зі штучним інтелектом.
«Ви не можете вирішити одну частину людства за раз», - каже Фульда. «Це гештальт-досвід». Наприклад, вона стверджує, що ми не можемо зрозуміти пізнання, не розуміючи сприйняття і локомоції. Ми не можемо точно моделювати мова, не знаючи, як моделювати емпатію і соціальну обізнаність. Намагаючись помістити ці штуки в машину по одному, говорить Фульда, це схоже на відтворення Мони Лізи "шляхом скидання правильного кількості фарби в банку».
Чи залишається визначати шедевр там, очікує фарбування, ще не визначено. Але якщо це так, дослідники, такі як Фульда, змагаються за те, щоб розфарбувати штрихи. Технологія буде йти вперед, поки ми продовжуємо шукати відповіді на такі питання. Але оскільки ми складаємо новий код, який змусить машини робити щось завтра, чого ми не могли собі уявити вчора, нам все одно потрібно розібратися, куди ми хочемо все це привести.
Чи будемо ми бути да Вінчі, малювати жінку, яка буде любити себе, якої будуть захоплюватися протягом століть, або ми будемо Ураном, створюючи богів, які скинуто нас? Зараз ШІ буде робити те, що ми говоримо ШІ, на краще чи на гірше. Але якщо ми рухаємося до алгоритмів, які починають, принаймні, бути присутнім як розумні, ми повинні з'ясувати, що це означає.
