Фейсбук почне створювати свої власні ШІ чипи, щоб зупиняти насильницькі трансляції
Коли ви даєте людям канал для відправки живих відео, деякі будуть використовувати його для трансляції самих жахливих, огидних речей, які тільки можна собі уявити. Facebook дізнався про це з перших рук; сайт став сумно відомим для живих подій насильницьких дій, вбивств і навіть самогубств.
Щоб зберегти ці види насильницьких відео з платформи, Facebook представив системи, як системи ШІ, так і людські модератори, для сканування насильницьких трансляцій і їх зняття. Поступово компанія більше покладалася на своїх модераторів ШІ.
Facebook, поряд з іншими онлайн-платформами, якийсь час розробляє ці алгоритми по боротьбі з насильством. Але тепер у Facebook є плани по розробці свого власного апаратного забезпечення ШІ - чипа, на якому розміщується ШІ. Найбільша перевага чипа? За словами Блумберга, вони вимагають набагато меншою обчислювальної потужності, що призведе до значно більш швидким алгоритмам. Як і зараз, фільтри ШІ можуть захоплювати насильницькі відео приблизно за десять хвилин в середньому, хоча іноді вони залишаються на сайті годинами. В ідеалі, однак, Facebook хотів би взяти ці livestreams вниз, як вони відбуваються. Не можна сказати, чи зможе такий чип дістатися до цієї мети, але майже напевно наблизить їх до цього.
Це здається хорошою інвестицією для компанії, яка розробляє більш-менш корисну соціальну мережу, орієнтовану на сім'ю. І якщо їх інструменти для відеозахвату значно поліпшать то, як відзначаються відеоролики самогубств і вбивств, деякі з цих насильницьких дій можуть навіть не відбутися, оскільки у злочинців не буде аудиторії. Це та ж сама логіка, яка зупиняє засоби масової інформації від прославлення серійних вбивць.
Але те, що залишається неясним, - це те, як Facebook буде навчати свій алгоритм або прапорам, або дозволяти насильницькі відео, опубліковані активістами спостерігачів, для підвищення обізнаності про насильницькі дії, що здійснюються іншими. Як, скажімо, контролювати поліцейське насильство.
Коли Джеронімо Янез, поліцейський-поліцейський, вбив Філанд Кастилія в 2017 році, подруга Кастилії зняла цей захід на Facebook Live. Facebook не міг вирішити, що робити з кадром, спочатку видаляючи, а потім повторно завантажуючи його з попередженнями про графічному змісті, перш ніж в кінцевому рахунку видаляти його знову. Логіка Facebook полягала в тому, що відео, що підвищує обізнаність про насильство, буде дозволено, а ті, хто святкує його, будуть видалені.
В теорії це означає, що сторожові пси повинні мати можливість продовжувати залучати до відповідальності людей через Facebook Live, але неясно, що зростаюча залежність Facebook від ШІ для прапора насильства буде враховувати тонкий контекст для кожного насильницького відео. Таким чином, можливо, що нові фільтри компанії можуть повністю позбутися від насильницьких трансляцій, незалежно від їх мети.
Джерела: Washington Post, Bloomberg, Wired
