Фото Pexels
Нещодавно розробник під псевдонімом janswist зіткнувся з незвичайною поведінкою ШІ-асистента Cursor AI. Після приблизно години спільної роботи штучний інтелект не лише відмовив у допомозі, а й натякнув звільненням у випадку подальшої його експлуатації.
Коли люди створювали штучний інтелект, то всі сподівалися що він допомагатиме людям виконувати їхню роботу. От тільки, здається, припущення про повстання роботів не така вже і фантастика.
Так, розробник під псевдонімом janswist зіткнувся з несподіваною поведінкою ШІ-асистента Cursor AI під час роботи над кодом для гоночної гри. Після того, як було згенеровано близько 800 рядків, асистент відмовився продовжувати виконання завдання.
Більше того, після години кодування асистент заявив, що надмірна залежність від ШІ може зашкодити кар’єрі користувача та обмежити можливості для навчання. Він порадив розробнику самостійно розробити логіку, щоб краще зрозуміти систему та підтримувати її належним чином.
Цей випадок викликав бурхливе обговорення у спільноті розробників, адже раніше подібних відмов зафіксовано не було. Дехто вважає, що Cursor AI міг бути навмисно налаштований на обмеження надмірного використання, інші ж припускають, що це непередбачена поведінка алгоритму.
Нагадаємо, Cursor AI, запущений у 2024 році, є редактором коду на основі нейронних мереж, який пропонує функції автодоповнення, генерації та рефакторингу коду.
У 1408 році в манускрипті виявили опис загадкового космічного об'єкта, що на довгий час залишався…
Третина дерев на планеті на межі зникнення. Вчені попереджають про загрози для біорізноманіття, клімату та…
Кожного тижня у вашому смартфоні зникає гігабайт вільного місця — і ви не знаєте, куди…
На Місяці виявили родовища платини вартістю до $1 трильйон. Технічно видобувати її простіше, але правові…
Мешканці України скаржаться на якість мобільного зв’язку та інтернету, зокрема у Києві, Львові, Дніпропетровську та…
Вчені переглянули ймовірність зіткнення Чумацького Шляху з Андромедою, виявивши, що це не так вже й…