Науковці виявили ключову вразливість у безпеці штучного інтелекту

Дослідники заявили про серйозну вразливість у системах штучного інтелекту, яка може загрожувати безпеці багатьох технологій. Стало відомо, що моделі ШІ можна «вкрасти», аналізуючи електромагнітні сигнали пристроїв, на яких вони працюють. Ця техніка була продемонстрована на Google Edge TPU з вражаючою точністю 99,91% в відтворенні архітектури та функціональності ШІ-моделі без попередніх знань про її характеристики, пише SciTechDaily.

Метод крадіжки моделей ШІ

Цей інноваційний метод ґрунтується на моніторингу змін в електромагнітному полі під час роботи моделей штучного інтелекту. Дослідники збирають сигнали та порівнюють їх із базою даних, яка містить підписи інших моделей. Завдяки цьому вони можуть покроково відтворити шари ШІ, використовуючи електромагнітні «підписи» кожного з них. В результаті, їм вдається створити копію моделі без прямого доступу до неї.

Умови зловмисництв

Ця техніка є ефективною на багатьох пристроях, за умови, що зловмисник має доступ до пристрою під час роботи моделі ШІ та до аналогічного пристрою. У демонстрації використовувався комерційний чіп Google Edge TPU, який активно застосовується в пристроях кінцевих користувачів. Таким чином, перебування зловмисника поруч з пристроєм може стати серйозною загрозою для безпеки даних.

Ризики і рекомендації

Виявлена вразливість ставить під загрозу не лише інтелектуальну власність, а й може відкрити доступ до вразливостей моделей, що дає змогу стороннім особам здійснювати атаки. Автори дослідження закликають розробників впроваджувати захисні заходи, щоб убезпечити свої моделі від такого роду атак.

Читайте також: Найяскравіша комета 2025 року вже наближається до Сонця: коли та де на неї дивитись

Презентація на конференції

Ця робота, що фінансувалася Національним науковим фондом США, була представлена на конференції з криптографічного обладнання та вбудованих систем. Дослідники також проінформували компанію Google про виявлену вразливість, сподіваючись на швидке впровадження необхідних заходів безпеки.