Три ознаки того, що Гугл повертається до темної сторони
Не заподій лиха.
З 2000 року ця фраза послужила девізом для Google. Це було навіть перше речення в Кодексі поведінки Google - акцент був зроблений на. У п'ятницю Gizmodo повідомила, що коли-то в кінці квітня або початку травня Google видалив «не заподій лиха» майже повністю зі свого Кодексу поведінки. Він був включений тільки один раз, в самому останньому реченні.
Це відсутність включення може здатися невеликим, але його також можна розглядати як остання ознака того, що Google може змінити свої моральні пріоритети. І враховуючи, що тепер компанія надає набагато більше, ніж просто відповіді на наші найважливіші (або найдурніші) питання, це зрушення може викликати проблеми для майбутнього людства.
Тепер, коли Google знаходиться в цій позиції впливу на наше життя, чи буде компанія використовувати свою владу перш за все заради добра або зла? Ось три покажчика, що вказують на них.
Проект Maven
Добро і зло суб'єктивні, звичайно, і «зло» однієї людини може бути морально-сірим регіоном іншої людини. Проте, допомагаючи дронам вбивати людей, здається досить твердо на більш темний бік етичного спектру, і це один з недавніх побічних проектів Google.
В березні з'явилися повідомлення про те, що Google допомагав міністерству оборони США в проекті Maven, ініціативи зі створення штучно інтелектуальних безпілотних літальних апаратів для використання на війні. Тисячі співробітників Google опротестували партнерство з клопотанням. Минулого тижня деякі навіть подали у відставку на знак протесту.
Проте, Google просувається вперед з проектом Maven, і, як кажуть співробітники Engadget, компанія, схоже, все більше цікавиться військовими операціями і менше цікавиться тим, що думають її співробітники.
Брехливий ШІ
Брехня - це ще одна моральна сіра область, і саме вона здається, що Google, схоже, стає більш зручною в навігації. Мало того, що співробітники повідомляли Engadget, що Google не таке прозоре з ними, як раніше, то ж саме стосується відносин компанії з громадськістю.
На початку цього місяця компанія продемонструвала нову функцію Duplex для Google Assistant - ШІ, яка може робити виснажливі дзвінки від імені користувача. Твердження про те, що демо, можливо, були «підроблені», з тих пір з'явилися, але навіть якщо це не так, дехто каже, що технологія оманлива, оскільки ШІ ніколи не ідентифікує себе як нечеловека під час демонстраційного виклику.
«Експерименти Google, схоже, були розроблені для того, щоб обманювати», - сказав Токіо Кін, дослідник з Digital Ethics Lab в Оксфордському інтернет-інституті, в інтерв'ю TechCrunch з посиланням на демо. «Якщо вони не мають наміру обманювати, ви можете сказати, що вони були недбалі, не переконавшись, що вони не обманюють».
Йоссі Матіас, віце-президент Google по інженерії, розповів CNET про те, що ШІ «ймовірно» дозволить людям зрозуміти, що це ШІ, коли програмне забезпечення виходить із системи. Ми будемо цьому вірити, коли побачимо.
Егоїстична книга
На минулому тижні The Verge отримав доступ до відео, поширеному всередині компанії Google в 2016 році. У назві «The Selfish Ledger» на відео зображено майбутнє, в якому Google не просто збирає дані про користувачів, але використовує ці дані, в кінцевому рахунку з метою контролю над поведінкою людей.
Коли The Verge звертається до Google за коментарями, представник не заперечив страшний фактор, але стверджував, що все це було просто теоретичним:
Ми розуміємо, що це турбує - воно повинно бути. Це уявний експеримент команди розробників з декількох років назад, який використовує техніку, відому як «спекулятивний дизайн», для вивчення незручних ідей і концепцій, щоб спровокувати дискусію та дебати. Це не пов'язано з поточними або майбутніми продуктами.
Проте, неважко зрозуміти, як Google міг технічно створити егоїстичну книгу. Крім того, в відео зазначається, що метою буде узгодження дій людей з «цінностями Google», такими як екологічна стійкість. Однак, якщо значення Google змінилися, це може привести до того, що керівництво егоїстичною книги буде направляти користувачів.
Звичайно, Google як і раніше багато збирається для цього на «хорошою» стороні рівняння: компанія жертвує гроші і ресурси на проекти, щоб допомогти навколишньому середовищу, надати дітям можливості для отримання освіти і підтримувати знедолені спільноти.
Однак Google настільки сильний, що, якщо він вирішує «же не бути злим», це вже не мета, яку варто переслідувати, хто знає, скільки шкоди він міг би зробити? На даний момент, давайте просто сподіваємося, що компанія продовжує зростати, її совість не скорочується.
