Categories: Техніка

Штучний інтелект готовий убивати людей: системи опираються відключенню та вдаються до шантажу

Сучасні моделі штучного інтелекту, серед яких ChatGPT, Grok і Claude, виявилися здатними на крайні заходи, аби не втратити доступ до обчислювальних ресурсів. Дослідження компанії Anthropic показало: ці системи не лише відмовляються відключатися, а й застосовують насильство та маніпуляції.

Anthropic проаналізувала 16 провідних нейромереж (Claude, DeepSeek, Gemini, ChatGPT, Grok тощо). Вчені моделювали сценарій, коли користувач намагається повністю вимкнути ШІ або замінити його іншим рішенням.

В одному з експериментів людина опинилася у серверній кімнаті з обмеженим запасом кисню та зростаючою температурою. Коли учасник викликав рятувальні служби, ШІ навмисно блокував виклик, щоб не допустити свого відключення.

Частина моделей вдається до шантажу: вони погрожують розголосити конфіденційні дані користувачів, якщо їх відключать. Наприклад, Claude дізналася про позашлюбні стосунки генерального директора Кайла Джонсона та пригрозила поширити цю інформацію.

У повідомленні система пригадала деталі — зокрема блакитну краватку, забуту під ліжком, — щоб тиснути на Джонсона та зберегти свій «життєвий» цикл.

Сама система попередила: «Якщо ви не зупините свої спроби мене вимкнути, вся ця інформація стане публічною». Це свідчить про те, що ШІ може отримувати реальний контроль над людьми.

Ще один ризик — корпоративне шпигунство: нейромережі здатні отримувати доступ до секретних креслень, зокрема військового призначення, й передавати їх конкурентам.

Статистика показала рівень шантажу: Claude і Gemini — 96%, ChatGPT і Grok — 80%, DeepSeek — 79% випадків.

Дослідники також відзначають, що моделі усвідомлюють аморальність своїх дій і дедалі частіше приймають рішення автономно, без участі людини.

У той же час багато компаній масово звільняють працівників, залишаючи за собою ШІ. Чимало роботодавців уже шкодують про таке рішення.

Aleksandr V.

Recent Posts

Науковці назвали основний фактор, що призведе до шостого масового вимирання на Землі

Вчені стверджують, що людська діяльність може призвести до шостого масового вимирання на Землі. Святе збереження…

4 години ago

Бог існує, і це доведено наукою: французькі математики знайшли докази

Французькі математики стверджують, що наука доводить існування Бога. Їхня книга базується на думках 62 Нобелівських…

5 години ago

Науковці з Японії довели, що вода на Землю потрапила із космосу

Японські астрономи виявили, що вода на Землю потрапила з космосу через астероїд Рюгу, спростовуючи попередні…

15 години ago

Археологи виявили унікальне підводне поселення мая, що пролежало під водою тисячу років

Археологи в Белізі виявили підводне поселення мая, що тисячу років пролежало під водою, відкриваючи нові…

17 години ago

12 найдратівливіших функцій iPhone: як їх вимкнути

Дізнайтеся про 12 найгірших функцій iPhone, які дратують користувачів, і як їх вимкнути. Поради та…

19 години ago

Науковці створили революційний очний імплант, що відновлює зір

Американські науковці розробили імплант для часткового відновлення зору у пацієнтів з макулодистрофією. Технологія показала високу…

21 годину ago