Categories: Техніка

Науковці виявили ключову вразливість у безпеці штучного інтелекту

Дослідники заявили про серйозну вразливість у системах штучного інтелекту, яка може загрожувати безпеці багатьох технологій. Стало відомо, що моделі ШІ можна «вкрасти», аналізуючи електромагнітні сигнали пристроїв, на яких вони працюють. Ця техніка була продемонстрована на Google Edge TPU з вражаючою точністю 99,91% в відтворенні архітектури та функціональності ШІ-моделі без попередніх знань про її характеристики, пише SciTechDaily.

Метод крадіжки моделей ШІ

Цей інноваційний метод ґрунтується на моніторингу змін в електромагнітному полі під час роботи моделей штучного інтелекту. Дослідники збирають сигнали та порівнюють їх із базою даних, яка містить підписи інших моделей. Завдяки цьому вони можуть покроково відтворити шари ШІ, використовуючи електромагнітні «підписи» кожного з них. В результаті, їм вдається створити копію моделі без прямого доступу до неї.

Умови зловмисництв

Ця техніка є ефективною на багатьох пристроях, за умови, що зловмисник має доступ до пристрою під час роботи моделі ШІ та до аналогічного пристрою. У демонстрації використовувався комерційний чіп Google Edge TPU, який активно застосовується в пристроях кінцевих користувачів. Таким чином, перебування зловмисника поруч з пристроєм може стати серйозною загрозою для безпеки даних.

Ризики і рекомендації

Виявлена вразливість ставить під загрозу не лише інтелектуальну власність, а й може відкрити доступ до вразливостей моделей, що дає змогу стороннім особам здійснювати атаки. Автори дослідження закликають розробників впроваджувати захисні заходи, щоб убезпечити свої моделі від такого роду атак.

Читайте також: Найяскравіша комета 2025 року вже наближається до Сонця: коли та де на неї дивитись

Презентація на конференції

Ця робота, що фінансувалася Національним науковим фондом США, була представлена на конференції з криптографічного обладнання та вбудованих систем. Дослідники також проінформували компанію Google про виявлену вразливість, сподіваючись на швидке впровадження необхідних заходів безпеки.

 

Aleksandr V.

Recent Posts

ПриватБанк вимагає обов’язковий перевипуск карток для українців

ПриватБанк оголосив про обов'язковий перевипуск карток для певних клієнтів. Дізнайтеся, хто саме підлягає цим змінам.

37 хвилин ago

Вчені нарешті розкрили таємницю календаря мая: як він передбачає затемнення на Землі

Вчені розкрили таємниці календаря мая, що дозволяє передбачати затемнення з точністю до дня. Результати дослідження…

6 години ago

Осінні новинки: 5 найкращих смартфонів для покупки цього сезону

Відкрийте для себе найкращі смартфони осені 2023: топ-5 моделей, які варто розглянути для покупки!

7 години ago

Дослідники виявили два вулкани, що спричинили глобальне похолодання у XV столітті

Дослідження вказує на два вулканічні виверження як причини похолодання XV століття, відкриваючи нові факти про…

8 години ago

Tesla готує світ без бідності: роботаксі Cybercab і гуманоїди Optimus змінюють майбутнє

Tesla розробляє інноваційні технології, такі як роботаксі Cybercab та гуманоїди Optimus, для боротьби з бідністю…

9 години ago

Вчені виявили новий тип льоду, що залишається твердим за кімнатної температури

Вчені відкрили новий тип льоду "Лід XXI", який залишається твердим при кімнатній температурі завдяки високому…

11 години ago