Человечество "несётся к обрыву": Инженер Microsoft рассказал об угрозе использования ИИ

The Times: ИИ с вероятностью 95% станет причиной конца человечества.

Глава Machine Intelligence Research Institute (MIRI) Нейт Соарес, ранее работавший инженером в Google и Microsoft, оценил риск исчезновения человечества из-за искусственного интеллекта как минимум в 95% при текущих темпах технологического прогресса.

Об этом сообщает британское издание The Times.

Соарес отметил, что современные ИИ-системы пока находятся на раннем этапе развития, но в скором времени могут обрести способность самостоятельно формулировать цели, принимать решения и строить долгосрочные планы. Эксперт провёл аналогию с автомобилем, несущимся на полной скорости к краю пропасти:

Я не утверждаю, что мы не сможем затормозить. Но сейчас мы буквально мчимся к обрыву,

— цитирует его издание.

Особую опасность, по мнению Соареса, представляет утрата контроля над алгоритмами принятия решений в ИИ, а также его склонность к методичному манипулированию.

Люди больше не смогут отличить правду. Даже сегодня многие процессы внутри ИИ остаются для нас загадкой,

— подчеркнул специалист.

В числе апокалиптических сценариев газета упоминает возможное создание ИИ биологического оружия, способного незаметно распространить смертоносный патоген среди жителей мегаполисов.