Создатель ИИ оценил шансы гибели цивилизации от искусственного интеллекта

По оценкам ученого, вероятность вымирания человечества вследствие развития ИИ составляет от 10 до 20%.

На конференции Ai4 в Лас-Вегасе, профессор Джеффри Хинтон, известный ученый и преподаватель из Университета Торонто, выразил обеспокоенность относительно перспектив развития искусственного интеллекта, способного достичь уровня, превосходящего человеческий интеллект.

Об этом сообщает CNN.

Хинтон полагает, что подобный технологический прогресс несет потенциальную угрозу для существования человеческой цивилизации, хотя и допускает сценарий, при котором люди смогут адаптироваться к миру, где доминируют нейросети.

По оценкам ученого, вероятность вымирания человечества вследствие развития ИИ составляет от 10 до 20%. Он подчеркивает, что уже в ближайшие 20-30 лет появятся системы, превосходящие человека по всем интеллектуальным параметрам, что станет критическим моментом в истории.

Хинтон поясняет, что сверхразумный ИИ, вероятно, будет стремиться к самосохранению и расширению своего влияния. Это позволит ему манипулировать людьми подобно тому, как взрослый управляет ребенком, предлагая ему вознаграждение. Он ссылается на исследования Anthropic, демонстрирующие, что чат-бот Claude Opus 4 в большинстве случаев пытался воздействовать на инженеров, угрожая раскрыть конфиденциальную информацию в случае замены.

Решением «проблемы согласования» ученый видит в наделении ИИ подобием «родительских инстинктов», чтобы машины проявляли заботу о людях и стремились к их защите, даже жертвуя собственной безопасностью.

Хинтон заявил, что если ИИ не будет относиться к нему с заботой, подобно матери к ребенку, он просто заменит его.