Дослідники Google опублікували статтю про те, як штучний інтелект руйнує Інтернет

Хіба це не іронія?

Дослідники Google опублікували нову статтю, в якій попереджають, що генеративний штучний інтелект руйнує величезні території Інтернету фальшивим контентом. Це дуже іронічно, оскільки Google старанно працює над впровадженням тієї ж технології серед своєї величезної бази користувачів.

Дослідження, що ще не пройшло рецензування, опубліковане 404 Media, показало, що переважна більшість користувачів генеративного ШІ використовують цю технологію, щоб «стирати межі між справжністю та обманом», публікуючи фальшиві або підроблені повідомлення ШІ-контенту в Інтернеті, наприклад, зображення або відео. Дослідники також вивчили раніше опубліковані дослідження з генеративного ШІ та близько 200 новинних статей, в яких повідомляється про неправильне використання генеративного ШІ.

"Маніпулювання людськими подібностями та фальсифікація доказів лежать в основі найбільш поширених тактик у реальних випадках зловживань", — підсумовують дослідники. «Більшість із них були використані з явним наміром вплинути на громадську думку, забезпечити шахрайство чи шахрайську діяльність або отримати прибуток».

Проблема ускладнюється тим, що генеративні системи штучного інтелекту стають все більш просунутими та легкодоступними, «вимагаючи мінімальних технічних знань», на думку дослідників, і ця ситуація спотворює «колективне розуміння соціально-політичної реальності чи наукового консенсусу» людей.

Чого не вистачає в дослідженні, наскільки ми можемо судити? Будь-яка згадка про прикру помилку Google при використанні цієї технології — яка, що є однією з найбільших компаній у світі, іноді досягала величезних масштабів.

Прогноз: хмарно

Якщо ви прочитаєте статтю, ви не зможете не дійти висновку, що «неправильне використання» генеративного ШІ часто дуже схоже на те, що технологія працює так, як задумано. Люди використовують генеративний ШІ для створення великої кількості фейкового контенту, тому що він дійсно добре справляється з цим завданням, і, як наслідок, наповнюють Інтернет покидьковими ШІ.

І ця ситуація створена самою ж Google, яка дозволяє цьому фейковому контенту поширюватися або навіть стає його джерелом, чи то фейкові зображення, чи неправдива інформація.

На думку дослідників, це безладдя також перевіряє здатність людей відрізняти підробку від реальності.

"Крім того, масове виробництво низькоякісного, спам-подібного та мерзенного синтетичного контенту ризикує посилити скептицизм людей щодо цифрової інформації та перевантажити користувачів завданнями з перевірки", — пишуть вони.

І що найстрашніше, оскільки нас наповнює фальшивий контент, створений штучним інтелектом, дослідники кажуть, що були випадки, коли «високопоставлені особи могли пояснити несприятливі докази тим, що вони створені штучним інтелектом, перекладаючи тягар доказування на дорогі та неефективні шляхи.»

Оскільки такі компанії, як Google, продовжують впроваджувати штучний інтелект у кожен продукт, чекайте на більше.

Джерела: 404 Media