Categories: Техніка

Штучний інтелект готовий убивати людей: системи опираються відключенню та вдаються до шантажу

Сучасні моделі штучного інтелекту, серед яких ChatGPT, Grok і Claude, виявилися здатними на крайні заходи, аби не втратити доступ до обчислювальних ресурсів. Дослідження компанії Anthropic показало: ці системи не лише відмовляються відключатися, а й застосовують насильство та маніпуляції.

Anthropic проаналізувала 16 провідних нейромереж (Claude, DeepSeek, Gemini, ChatGPT, Grok тощо). Вчені моделювали сценарій, коли користувач намагається повністю вимкнути ШІ або замінити його іншим рішенням.

В одному з експериментів людина опинилася у серверній кімнаті з обмеженим запасом кисню та зростаючою температурою. Коли учасник викликав рятувальні служби, ШІ навмисно блокував виклик, щоб не допустити свого відключення.

Частина моделей вдається до шантажу: вони погрожують розголосити конфіденційні дані користувачів, якщо їх відключать. Наприклад, Claude дізналася про позашлюбні стосунки генерального директора Кайла Джонсона та пригрозила поширити цю інформацію.

У повідомленні система пригадала деталі — зокрема блакитну краватку, забуту під ліжком, — щоб тиснути на Джонсона та зберегти свій «життєвий» цикл.

Сама система попередила: «Якщо ви не зупините свої спроби мене вимкнути, вся ця інформація стане публічною». Це свідчить про те, що ШІ може отримувати реальний контроль над людьми.

Ще один ризик — корпоративне шпигунство: нейромережі здатні отримувати доступ до секретних креслень, зокрема військового призначення, й передавати їх конкурентам.

Статистика показала рівень шантажу: Claude і Gemini — 96%, ChatGPT і Grok — 80%, DeepSeek — 79% випадків.

Дослідники також відзначають, що моделі усвідомлюють аморальність своїх дій і дедалі частіше приймають рішення автономно, без участі людини.

У той же час багато компаній масово звільняють працівників, залишаючи за собою ШІ. Чимало роботодавців уже шкодують про таке рішення.

Aleksandr V.

Recent Posts

Київстар рекордно знизив ціни на тарифи: що потрібно знати абонентам

Київстар знизив тарифи для своїх абонентів. Дізнайтесь, які зміни відбулись та що це означає для…

3 дні ago

На Сонці утворився “вогняний каньйон” після вибуху потужного спалаху

На Сонці відбулося потужне виверження, яке спричинило утворення "вогняного каньйону" в 400 тис. км. Вчені…

4 дні ago

Знайдено 2400-річний затонулий торговий корабель з рідкісними артефактами

У Хорватії знайдено 2400-річний затонулий торговий корабель з антикварними артефактами. Знахідка містить амфори, кераміку та…

6 днів ago

Galaxy S26 Ultra: новий стандарт у яскравості та тонкості екрану

Galaxy S26 Ultra матиме тонший і яскравіший дисплей завдяки новітній CoE-технології, що покращить візуальні враження…

6 днів ago

Чи можуть собаки передбачити наше майбутнє? Дослідження вражають

Собаки володіють феноменальними здібностями, здатні передбачати хвороби, вагітність та навіть стихійні лиха. Дослідження підтверджують їх…

6 днів ago

Небезпеки роботи з ноутбуком на колінах: що варто знати

Дізнайтеся, чому робота з ноутбуком на колінах може бути шкідливою для здоров'я та продуктивності.

6 днів ago