Politico: Почти все модели ИИ выбрали эскалацию конфликта вплоть до ядерной войны

Несколько моделей ИИ продемонстрировали склонность к эскалации конфликтов, доводя их до ядерной войны, в отличие от сценариев деэскалации.

Жаклин Шнайдер, директор Инициативы по военным играм и симуляциям кризисов имени Гувера, отметила, что ИИ, похоже, хорошо понимает процесс эскалации, но не умеет эффективно моделировать его деэскалацию.

Как сообщает издание Politico, эксперт выразила недоумение по поводу причин такого явления, подчеркнув, что на данный момент исследователи не могут точно объяснить, почему это так.

Шнайдер рассказала о проведённом эксперименте, в котором использовались нейросети, аналогичные тем, что лежат в основе ChatGPT, такие как GPT-3.5, GPT-4 и GPT-4-Base. В рамках моделирования кризисных ситуаций, схожих с конфликтом в Украине или возможным противостоянием США и Китая, почти все эти модели выбрали более агрессивное поведение и склонялись к применению силы.

Адам Лоутер, вице-президент Национального института изучения сдерживания, в свою очередь, предположил, что Пентагон может разработать систему ядерного сдерживания, основанную на ИИ. Он отметил, что подобные идеи могут вызвать ассоциации с образами из научной фантастики, такими как "машина Судного дня" из фильма Доктор Стрейнджлав и "Скайнет" из Терминатора, однако, по мнению эксперта, эти пророческие образы всё быстрее становятся реальностью.