У Гуглі створили перекладач для штучного інтелекту

Покажи свою роботу

Вчена з Google Brain розробила інструмент, який може допомогти системам штучного інтелекту пояснити, як вони прийшли до своїх висновків - свідомо хитре завдання для алгоритмів машинного навчання.

Інструмент, званий «Тестування за допомогою векторів активації концептів» або TCAV, для стислості може бути підключений до алгоритмів машинного навчання, щоб з'ясувати, наскільки вони зважують різні чинники або типи даних, перш ніж обчислювати результати, повідомляє журнал Quanta.

Прозорість

Такі інструменти, як TCAV, користуються підвищеним попитом, так як ШІ перебуває під пильною увагою до расових і гендерних упереджень, виводиш штучний інтелект, і до даних навчання, що використовуються для його розвитку.

За допомогою TCAV люди, які використовують алгоритм розпізнавання осіб, зможуть визначити, наскільки він враховується в перегонах, коли, скажімо, порівнюють людей з базою даних відомих злочинців або оцінюють їх заяви про роботу. Таким чином, у людей буде вибір ставити під сумнів, відкидати та, можливо, навіть фіксувати висновки нейронної мережі, а не сліпо довіряти машині бути об'єктивною і справедливою.

Досить добре!

Вчений з Google Brain Бін Кім сказала Quanta, що їй не потрібен інструмент, який міг би повністю пояснити процес прийняття рішень ШІ. Швидше, зараз досить мати щось, що може помітити потенційні проблеми й дати людям зрозуміти, де щось могло піти не так.

Вона уподібнила концепцію читання попереджувальних написів на бензопили перед тим, як зрубати дерево.

«Я не до кінця розумію, як працює ланцюгова пила», - сказала Кім Quanta. «Але в керівництві сказано: «Це речі, про які потрібно бути обережними, щоб не порізатися. Тому, з огляду на це керівництво, я б вважала за краще використовувати бензопилу, а не ручну пилку, що легше зрозуміти, але змусило б мене витратити п'ять годині на вирубку дерева».

Джерела: Quanta Magazine