Нещодавно розробник під псевдонімом janswist зіткнувся з незвичайною поведінкою ШІ-асистента Cursor AI. Після приблизно години спільної роботи штучний інтелект не лише відмовив у допомозі, а й натякнув звільненням у випадку подальшої його експлуатації.
Коли люди створювали штучний інтелект, то всі сподівалися що він допомагатиме людям виконувати їхню роботу. От тільки, здається, припущення про повстання роботів не така вже і фантастика.
Так, розробник під псевдонімом janswist зіткнувся з несподіваною поведінкою ШІ-асистента Cursor AI під час роботи над кодом для гоночної гри. Після того, як було згенеровано близько 800 рядків, асистент відмовився продовжувати виконання завдання.
Більше того, після години кодування асистент заявив, що надмірна залежність від ШІ може зашкодити кар’єрі користувача та обмежити можливості для навчання. Він порадив розробнику самостійно розробити логіку, щоб краще зрозуміти систему та підтримувати її належним чином.
Цей випадок викликав бурхливе обговорення у спільноті розробників, адже раніше подібних відмов зафіксовано не було. Дехто вважає, що Cursor AI міг бути навмисно налаштований на обмеження надмірного використання, інші ж припускають, що це непередбачена поведінка алгоритму.
Нагадаємо, Cursor AI, запущений у 2024 році, є редактором коду на основі нейронних мереж, який пропонує функції автодоповнення, генерації та рефакторингу коду.