Технології штучного інтелекту стають настільки просунутими, що в новій статті дослідники стверджують, що має бути найкращий спосіб перевірити, чи є людина в мережі людиною, а не роботом зі штучним інтелектом.
Дослідники з університетів та компаній Ліги плюща, включаючи OpenAI та Microsoft, пропонують систему «особистих облікових даних» (PHC) для перевірки людини в статті, яка ще не пройшла рецензування, яка замінить наявні процеси, такі як CAPTCHA.
Але для всіх, кого турбує конфіденційність та масове стеження, це вкрай недосконале рішення, яке перекладає тягар відповідальності на кінцевих користувачів — поширена тактика в Кремнієвій долині.
"Багато з цих схем засновані на ідеї, що суспільству та окремим людям доведеться змінити свою поведінку через проблеми, що виникають через те, що компанії впроваджують чат-боти та великі мовні моделі повсюди, а не через того, що компанії роблять більше для випуску продуктів, які безпечні», — розповів The Washington Post дослідник масового стеження Кріс Гілліард.
У статті дослідники запропонували систему PHC, оскільки вони стурбовані тим, що «зловмисники» використовуватимуть масову масштабованість ШІ та його схильність переконливо наслідувати людські дії в Інтернеті, щоб наповнити мережу нелюдським контентом.
Головне, що їх турбує: здатність ШІ створювати «людський контент, що виражає людський досвід чи погляди»; цифрові аватари, які виглядають, рухаються та звучать як справжні люди; і здатність ботів зі штучним інтелектом, що зростає, імітувати «людські дії в Інтернеті», наприклад «вирішувати CAPTCHA при виникненні проблем».
Саме тому ідея PHC така приваблива, стверджують дослідники. Організація, що пропонує цифрові послуги, наприклад уряд, може видати одне унікальне посвідчення особи кожному кінцевому користувачеві, який підтверджуватиме, що він є людиною, за допомогою доказу з нульовим розголошенням — запозиченого криптографічного методу, при якому людина надає конкретну інформацію без розкриття деталей даних.
На думку дослідників, кінцеві користувачі зберігатимуть свої облікові дані в цифровому вигляді на своїх особистих пристроях, що допоможе зберегти анонімність в Інтернеті.
Система автентифікації може замінити або доповнити процеси перевірки особистості в Інтернеті, такі як вищезгадані CAPTCHA та біометричні методи, наприклад відбитки пальців.
На папері це здається чудовим рішенням, але дослідники визнають, що система PHC все ще має підводні камені.
По-перше, здається неминучим, що багато людей продадуть свої PHC спамерам зі штучним інтелектом, що додасть автоматичному контенту атмосферу довіри та підірве цілі проєкту.
Згідно з документом, будь-яка організація, яка видає такі облікові дані, може стати занадто могутньою, тоді як вся система, як і раніше, може бути вразлива для атак хакерів.
«Однією з серйозних проблем для екосистеми PHC є те, як вона може сконцентрувати владу в руках небагатьох установ, особливо емітентів PHC, а також великих постачальників послуг, чиї рішення щодо використання PHC матимуть серйозні наслідки для екосистеми», — йдеться у повідомленні.
Система облікових даних також може стати джерелом проблем для користувачів, що менш розбираються в Інтернеті, наприклад літніх людей, які часто стають жертвами онлайн-шахраїв.
Тому дослідники стверджують, що урядам слід вивчити можливість використання PHC у рамках пілотної програми.
Але PHC обходить важливу проблему: така система просто покладає ще один цифровий тягар на кінцевих користувачів, яким доводиться боротися зі спамом та іншим сміттям у своєму насиченому цифровому житті. Технологічні компанії створили цю проблему, тому саме вони мають вирішити її.
Один із кроків, який вони можуть зробити, — це розміщення водяних знаків на контенті, створюваному їх моделями ШІ, або розробка процесу, здатного виявляти явні ознаки того, що частина даних була створена ШІ. Ні те, ні інше не є надійним, але вони перекладають тягар відповідальності назад на джерело проблеми з ШІ-ботами.
І якщо технологічні компанії взагалі знімуть із себе цю відповідальність, це стане ще однією чорною міткою для Кремнієвої долини, яка звикла створювати проблеми, про які ніхто не просив, і одночасно монетизувати їхній вплив.
Це схоже на те, як технологічні компанії поглинають дорогоцінну електроенергію та воду для живлення центрів обробки даних штучного інтелекту, у той час, як спільноти, особливо в регіонах, що постраждали від посухи, страждають від такого розподілу ресурсів.
І PHC, хоча на папері блискуча та приваблива, знову перекладає відповідальність.
Джерела: The Washington Post
