Илон Маск предупредил об угрозе человечеству со стороны нейросетей

Миллиардер и ряд ученых призвали прекратить эксперименты с обучением Искусственного интеллекта.

Эксцентричный миллиардер, владелец компаний Тесла и Старлинк Илон Маск выступил с достаточно неожиданным призывом – прекратить обучение нейросетей.

В этом его поддержали эксперты в области разработок, связанных с искусственным интеллектом (ИИ).

Совместно они опубликовали открытое письмо на сайте НКО Future of Life Institute, в котором обратили внимание на опасность, которую несут для человечества бесконтрольное развитие нейросетевых систем и призвали по крайней мере на 6 месяцев приостановить обучение крупных систем с искусственным интеллектом, которые имеют более крупные масштабы, чем GPT-4.

При этом авторы письма считают, что прекратить обучение нейросетей необходимо как можно быстрее и если сделать это не получиться, то решение об остановке совершенствования ИИ должны принять правительства стран путем введения моратория.

Причиной такого решения Маск и его коллеги называют необходимость срочной разработки протоколов безопасности, которые будут регламентировать исследовательские и экспериментальные работы в области передовых нейросетевых технологий. Они должны иметь механизмы независимого контроля со стороны регулирующих органов, которые необходимо создать.

Наряду с Илоном Маском, свои подписи под опубликованным письмом поставили такие известные персоны как один из создателей компании Apple Стив Возняк, известнейшие разработчики в области нейросетей Стивен Расселл и Иошуа Бенджио. Также документ поддержали более 1100 специалистов, работающих в сфере технологий информационного обучения машин.

Общие опасения экспертов связаны с тем, что сфера развития систем с искусственным интеллектом прогрессирует настолько быстро, что общество и государственные структуры не способны оценить реальные угрозы и опасности, которые несут в себе нейросетевые разработки.