Прискорення машинного навчання
На симпозіумі «Гарячі чіпи» у 2017 році корпорація Майкрософт представила нове обладнання, здатне розвивати програми штучного інтелекту (ШІ). Майкрософт вважає, що Мозкова хвиля (Brainwave) буде стимулювати роботу моделей машинного навчання, так як ця платформа спроектована саме для цього.
«Ми розробили систему для ШІ в реальному часі, що означає, що система обробляє запити так швидко, як вона їх отримує, з ультранизької затримкою», - пояснюється в прес-релізі Майкрософту. «ШІ в реальному часі стає все більш важливим, оскільки хмарні інфраструктури обробляють потоки реальних даних, будь то пошукові запити, відео, потоки сенсорів або взаємодії з користувачами».
Платформа більше, ніж інше обладнання, доступна для ШІ. Вона оснащена вентильним рекурентним вузлом (Gated Recurrent Unit), що працює зі швидкістю 39,5 терафлопс на новому чіпсеті Інтелу Stratix 10 (FPGA). Крім того, вона не використовує так звані операції пакетної обробки, що означає, що вона надає інформацію в режимі реального часу для систем машинного навчання, обробляючи запити в міру їх надходження.
«Ми називаємо це ШІ в реальному часі, тому що ідея полягає в тому, що ви відправляєте запит, ви хочете отримати відповідь», - сказав на семінарі Майкрософт Рісерч інженер Дуг Бургер, як повідомляє Venture Beat. «Якщо це відеопотік, якщо це розмова, якщо він шукає зловмисників, виявлення аномалій, все, що вам потрібно для взаємодії і швидких результатів, ви хочете отримати в реальному часі».
Підтримка швидкого ШІ
Мозкова хвиля дозволяє хмарним глибоким навчальним моделям без проблем реалізовувати масивну інфраструктуру FPGA, встановлену Майкрософтом в своїх центрах обробки даних за останні кілька років. За словами Бургера, це означає, що функції ШІ в додатках отримують більш швидку підтримку з боку служб Майкрософту. При запуску на безлічі FPGA моделі машинного навчання, які можуть бути занадто великими для одного чіпа FPGA, отримують одночасну підтримку від кількох апаратних плат.
На додаток до швидкостей продуктивності, більш швидким і гнучким, ніж інші процесори або графічні процесори, Мозкова хвиля також включає програмне забезпечення, призначене для підтримки безлічі популярних систем глибокого навчання. Таким чином, як сказав Бургер, можливо, що програмоване апаратне забезпечення Майкрософту може працювати на рівних з чіпами, призначеними для операцій машинного навчання - наприклад, в Google Tensor Processing Unit. Фактично, він вважає, що в майбутньому можна збільшити продуктивність з 39,5 терафлопс до 90 терафлоп, поліпшивши роботу з чіпом Stratix 10.
Оскільки моделі машинного навчання і алгоритми бачать велику зайнятість безліччю додатків, їх прив'язка до Мозкової хвилі скоротить час очікування користувачів на реакцію цих програм. Майкрософт ще не зробила Мозкову хвилю доступною для клієнтів, і терміни не встановлені. Але вони працюють над тим, щоб зробити її доступною для сторонніх клієнтів за допомогою хмарної платформи Microsoft Azure.
Література: VentureBeat, Microsoft, футуризм
