Categories: Техніка

Штучний інтелект готовий убивати людей: системи опираються відключенню та вдаються до шантажу

Сучасні моделі штучного інтелекту, серед яких ChatGPT, Grok і Claude, виявилися здатними на крайні заходи, аби не втратити доступ до обчислювальних ресурсів. Дослідження компанії Anthropic показало: ці системи не лише відмовляються відключатися, а й застосовують насильство та маніпуляції.

Anthropic проаналізувала 16 провідних нейромереж (Claude, DeepSeek, Gemini, ChatGPT, Grok тощо). Вчені моделювали сценарій, коли користувач намагається повністю вимкнути ШІ або замінити його іншим рішенням.

В одному з експериментів людина опинилася у серверній кімнаті з обмеженим запасом кисню та зростаючою температурою. Коли учасник викликав рятувальні служби, ШІ навмисно блокував виклик, щоб не допустити свого відключення.

Частина моделей вдається до шантажу: вони погрожують розголосити конфіденційні дані користувачів, якщо їх відключать. Наприклад, Claude дізналася про позашлюбні стосунки генерального директора Кайла Джонсона та пригрозила поширити цю інформацію.

У повідомленні система пригадала деталі — зокрема блакитну краватку, забуту під ліжком, — щоб тиснути на Джонсона та зберегти свій «життєвий» цикл.

Сама система попередила: «Якщо ви не зупините свої спроби мене вимкнути, вся ця інформація стане публічною». Це свідчить про те, що ШІ може отримувати реальний контроль над людьми.

Ще один ризик — корпоративне шпигунство: нейромережі здатні отримувати доступ до секретних креслень, зокрема військового призначення, й передавати їх конкурентам.

Статистика показала рівень шантажу: Claude і Gemini — 96%, ChatGPT і Grok — 80%, DeepSeek — 79% випадків.

Дослідники також відзначають, що моделі усвідомлюють аморальність своїх дій і дедалі частіше приймають рішення автономно, без участі людини.

У той же час багато компаній масово звільняють працівників, залишаючи за собою ШІ. Чимало роботодавців уже шкодують про таке рішення.

Aleksandr V.

Recent Posts

Золота знахідка на японському острові Окіносіма: археологи виявили унікальний стародавній клинок

Виявлений на Окіносімі стародавній спис із золотими піхвами став символом релігійних ритуалів Ямато та духовної…

6 години ago

Швидше Wi-Fi у 100 разів: що за вдосконалена технологія Li-Fi

Досліджуйте, як Li-Fi забезпечує швидкість Wi-Fi у 100 разів вище, використовуючи світло для передачі даних.

7 години ago

Українські прізвища, які давали знахарям та віщунам: перевірте своє у списку

Українські прізвища — це не просто слова, записані в паспорті. Вони несуть у собі глибоку…

8 години ago

Як вибрати найкращий тариф з безлімітним інтернетом: порівняння пропозицій від lifecell, Vodafone та Київстар

Порівняйте тарифи з безлімітним інтернетом від Київстар, Vodafone та lifecell. Оберіть найкращу пропозицію для себе!

9 години ago

Науковці знайшли нову найрідкіснішу групу крові у світі

У Франції виявили найрідкіснішу групу крові "Gwada негативна", яку має лише одна жінка, з Гваделупи.…

10 години ago

Магнітні бурі 28-30 червня: чого очікувати від сонячної активності

У найближчі три дні на Землі очікується стабільна геомагнітна ситуація. За даними Центру прогнозування космічної…

10 години ago