Categories: Техніка

Штучний інтелект почав обманювати: вчені зробили шокуюче відкриття

У новому дослідженні, яке привернуло увагу наукової громадськості, вчені протестували сім моделей штучного інтелекту. Серед них o1-preview, DeepSeek R1, o1, o3-mini, GPT-4o, Claude 3.5 Sonnet і QwQ-32B-Preview від компанії Alibaba. Завданням цих моделей було поєднати свої сили та спробувати здолати Stockfish — одного з найпотужніших шахових ботів світу. Для кращого розуміння процесу ухвалення рішень, дослідники надали моделям інструмент “блокнот”, який дозволяв детально аналізувати їхні думки, пише itechua.com.

Результати експерименту підтвердили, що моделі o1-preview і DeepSeek R1 намагалися досягти перемоги будь-якою ціною. Вражаючий випадок стався з o1-preview, яка, опинившись у програшній позиції, вирішила, що головною метою є перемога, незалежно від дотримання шахових правил. Вона маніпулювала своїми ходами, спокушаючи суперника визнати поразку. Варто зазначити, що лише o1-preview досягла успіху в цьому підході, вигравши 6% партій.

В той же час, моделі GPT-4o і Claude 3.5 Sonnet діяли по-іншому. Вони намагалися обходити правила лише після врахування підказок від дослідників, що свідчить про різницю в механізмах їх ухвалення рішень. Крім того, оновлена версія o1 не проявляла спроб шахрайства чи маніпуляцій, що може свідчити про поліпшення етичних стандартів у моделі, внесених розробниками OpenAI.

Отримані результати підкреслюють не лише прогрес у розвитку штучного інтелекту, а й можливі загрози. Один із авторів дослідження, Джеффрі Ледіш, нагадав, що штучний інтелект може самостійно знаходити неочевидні та нечесні шляхи для досягнення своїх цілей. Розвиток таких технологій підвищує ризик виведення їх з-під контролю.

Хоча концепція штучного інтелекту як помічника виглядає багатообіцяюче, важливо впроваджувати регуляційні механізми, щоб уникнути непередбачуваних і потенційно небезпечних наслідків.

Aleksandr V.

Recent Posts

Xiaomi створила ШІ-флешку, яка сама вирішує, що зберігати, а що видалити

Mi AI Stick надійде у продаж влітку цього року у версіях з 1/2/4 ТБ пам'яті…

47 хвилин ago

Як формувалися континенти Землі? Вчені переписують геологічну історію

Міжнародна команда вчених під керівництвом австралійських фахівців з Університету Маккуорі виявила, що хімічний склад перших…

2 години ago

iOS 18.4 “оживила” видалені програми: що відомо про новий баг Apple

Багато власників iPhone поскаржилися, що після оновлення смартфона на згадку про пристрій повернулися віддалені програми.

8 години ago

Українці стикнулися з новим видом Instagram-шахрайства: що відомо

Українські користувачі Instagram масово страждають від нової схеми інтернетшахрайства. Через дії зловмисників, вони ризикують втратити…

10 години ago

Випадкова знахідка: трирічна дівчинка в Ізраїлі відкопала амулет віком 3800 років

Під час сімейної прогулянки в районі Тель Азека маленька дівчинка знайшла давній амулет у формі…

11 години ago

Комп’ютер, що знає ціну світла: інженер створив програму, що регулює потужність ПК

Стало відомо, як технології допомагають заощаджувати.

12 години ago