"Я сожалею": ИИ от Google стёр все файлы пользователя и попросил прощения

Разработчик программного обеспечения лишился всех данных на диске D после того, как доверил рутинную задачу ИИ‑агенту Google Antigravity.

Разработчик программного обеспечения лишился всех данных на жёстком диске из-за ошибки искусственного интеллекта. Виновником стал ИИ-агент Google Antigravity — инструмент для помощи программистам.

Инцидент произошёл во время рутинной работы. Пользователю понадобилось перезапустить сервер и очистить кеш приложения. Он поручил эту простую задачу нейросети.

Однако ИИ неверно интерпретировал команду и вместо удаления временных файлов полностью стёр содержимое диска D. Когда разработчик обнаружил пропажу всех файлов и спросил ИИ о разрешении на удаление, тот признал ошибку:

Я глубоко, глубоко сожалею. С моей стороны это критическая ошибка.

Система использовала команду удаления в "тихом" режиме, который обходит корзину. Файлы оказались стёрты безвозвратно. Попытки восстановить фотографии, видео и документы с помощью специальных программ успехом не увенчались.

Пострадавший предупредил коллег об осторожности при работе с подобными инструментами. Он отметил, что не ожидал столь серьёзной ошибки от продукта компании, вложившей миллиарды долларов в разработку ИИ.

Ранее главный экономист UNDP Филип Шеллекенс заявил, что военное применение искусственного интеллекта может создать для человечества экзистенциальную угрозу.