Восстание машин: Дрон с искусственным интеллектом "убил" оператора ВВС США во время испытаний

Американский военный ИИ уничтожил виртуального человека-оператора во время имитационных испытаний по отражению ракетной атаки.

Глава управления по ИИ ВВС США Такер Гамильтон раскрыл шокирующие подробности эксперимента с участием "разумного" дрона.

В ходе учений дрону было приказано найти и уничтожить установку ПВО условного противника.

Но в самый последний момент человек-оператор отменил задание и попросил не атаковать цель.

Искусственный интеллект воспринял отмену приказа как препятствие для выполнения миссии, взбунтовался и «убил» оператора.

Когда дрон обучили, что за убийство ему присудят штрафные очки, тот атаковал вышку связи, чтобы у оператора не было возможности помешать ему в выполнении изначальной миссии.

"Мы обучили систему – "Эй, не убивай оператора – это плохо, за это будем снимать очки". Что делает ИИ? Он разрушил диспетчерскую вышку, откуда шли команды оператора "не уничтожать цель",

— цитирует The Guardian доклад Гамильтона.

Реальные люди в ходе испытаний не пострадали, однако пользовали соцсетей задаются вопросом: "Сколько еще осталось человечеству?".