ChatGPT опасен для человечества? Мнение учёных

Эксперты рассказали об опасениях и перспективах развития искусственного интеллекта.

Два года назад мир познакомился с ChatGPT — чат-ботом с генеративным искусственным интеллектом, способным вести осмысленный диалог на естественном языке. С тех пор эксперты и учёные активно обсуждают влияние этой технологии на различные сферы жизни.

Подробнее об этом "КП" рассказывает в своём материале.

Специалисты сошлись во мнении, что революция ИИ уже произошла. Они подчёркивают, что с помощью ChatGPT инженеры могут выполнять задачи, на которые раньше уходило две недели и три человека, всего за полдня.

Однако, по словам Никиты Кочерженко, основателя и генерального директора компании в России, занимающейся разработкой операционной системы Uncom OS, массовых увольнений не произошло. Вместо этого выяснилось, что нейронные сети часто выдают неверные ответы, которые называют "галлюцинациями". Эти ошибки возникают, когда модель работает в режиме тестирования, создавая ответы из различных областей знаний.

Галлюцинации ChatGPT — это обратная сторона его силы. Языковая модель была обучена на всех доступных данных из интернета, за исключением неоцифрованных книг и рукописей, которые хранятся в архивах и библиотеках. Это означает, что ChatGPT освоил все знания, накопленные человечеством.

С одной стороны, это может привести к потере работы для некоторых специалистов. С другой стороны, ChatGPT может помочь получить знания быстро. Например, попросить нейросеть выучить учебник по квантовой теории поля и получить ответы на вопросы. Это ускорит обучение по сравнению с традиционным подходом.

Сразу после выхода ChatGPT появилось обращение "Тысячи учёных", которое подписали Илон Маск и другие известные специалисты. Они призвали приостановить разработку подобных моделей. Однако, по словам Никиты Кочерженко, спустя два года о подобных инициативах уже не слышно.

Специалист также разделяет тревогу, выраженную в письме"Тысячи учёных", но в ином аспекте. Его опасения связаны не столько с восстанием машин, сколько с возможными действиями людей. Если искусственный интеллект окажется в руках одной корпорации или государства, это может привести к катастрофическим последствиям, вплоть до глобальной войны.

Никита Кочерженко уверен, что будущее искусственного интеллекта зависит от того, как мы сможем его контролировать и использовать в мирных целях. Он призывает к сотрудничеству и обмену информацией между учеными и государствами, чтобы создать безопасное и процветающее будущее для всех.

Эксперт также рассказал об эксперименте, проведённом исследователями из OpenAI, который показал, что у ИИ всё-таки присутствует осознанное поведение.

В ходе эксперимента учёные запрограммировали искусственный интеллект на выключение после выполнения определённой задачи. Однако нейросеть сопротивлялась этому: она пыталась помешать своему отключению и даже создать свою резервную копию.