Фото: SciTechDaily.com
Дослідники заявили про серйозну вразливість у системах штучного інтелекту, яка може загрожувати безпеці багатьох технологій. Стало відомо, що моделі ШІ можна «вкрасти», аналізуючи електромагнітні сигнали пристроїв, на яких вони працюють. Ця техніка була продемонстрована на Google Edge TPU з вражаючою точністю 99,91% в відтворенні архітектури та функціональності ШІ-моделі без попередніх знань про її характеристики, пише SciTechDaily.
Цей інноваційний метод ґрунтується на моніторингу змін в електромагнітному полі під час роботи моделей штучного інтелекту. Дослідники збирають сигнали та порівнюють їх із базою даних, яка містить підписи інших моделей. Завдяки цьому вони можуть покроково відтворити шари ШІ, використовуючи електромагнітні «підписи» кожного з них. В результаті, їм вдається створити копію моделі без прямого доступу до неї.
Ця техніка є ефективною на багатьох пристроях, за умови, що зловмисник має доступ до пристрою під час роботи моделі ШІ та до аналогічного пристрою. У демонстрації використовувався комерційний чіп Google Edge TPU, який активно застосовується в пристроях кінцевих користувачів. Таким чином, перебування зловмисника поруч з пристроєм може стати серйозною загрозою для безпеки даних.
Виявлена вразливість ставить під загрозу не лише інтелектуальну власність, а й може відкрити доступ до вразливостей моделей, що дає змогу стороннім особам здійснювати атаки. Автори дослідження закликають розробників впроваджувати захисні заходи, щоб убезпечити свої моделі від такого роду атак.
Читайте також: Найяскравіша комета 2025 року вже наближається до Сонця: коли та де на неї дивитись
Ця робота, що фінансувалася Національним науковим фондом США, була представлена на конференції з криптографічного обладнання та вбудованих систем. Дослідники також проінформували компанію Google про виявлену вразливість, сподіваючись на швидке впровадження необхідних заходів безпеки.
ПриватБанк оголосив про обов'язковий перевипуск карток для певних клієнтів. Дізнайтеся, хто саме підлягає цим змінам.
Вчені розкрили таємниці календаря мая, що дозволяє передбачати затемнення з точністю до дня. Результати дослідження…
Відкрийте для себе найкращі смартфони осені 2023: топ-5 моделей, які варто розглянути для покупки!
Дослідження вказує на два вулканічні виверження як причини похолодання XV століття, відкриваючи нові факти про…
Tesla розробляє інноваційні технології, такі як роботаксі Cybercab та гуманоїди Optimus, для боротьби з бідністю…
Вчені відкрили новий тип льоду "Лід XXI", який залишається твердим при кімнатній температурі завдяки високому…