Наталья Касперская предложила ограничить применение ИИ в России

На конференции ИСП РАН Наталья Касперская назвала искусственный интеллект "монстром" и предложила ограничить его использование в образовании и госуправлении, запретив автоматизацию, чтобы избежать потенциального вреда для общества.

Председатель правления российской ассоциации "Отечественный софт" Наталья Касперская заявила на открытой конференции ИСП РАН, что искусственный интеллект (ИИ) представляет собой "монстра".

В ходе своего выступления она высказала предложение ограничить использование данной технологии в тех областях, где она может представлять угрозу для человечества.

Во-первых, Касперская подчеркнула, что образовательные процессы требуют особого внимания, назвав внедрение ИИ в эту сферу "кошмаром". Она отметила, что студенты уже начали использовать ИИ для написания сочинений, но истинная проблема заключается в том, что это может привести к потере способности к самостоятельному мышлению. В связи с этим Касперская выразила опасение, что следующее поколение может вырасти совершенно не способным к критическому анализу.

Мы видим, что дети уже сами пишут любые сочинения при помощи ИИ, но самое страшное катастрофическое последствие - они отучиваются думать. Мы рискуем вырастить поколение вообще ничего не понимающих людей.

По словам Касперской, "люди по самым простым вопросам обращаются [к ИИ], они уже ничего не помнят".

В продолжение своего выступления она предложила запретить разработку учебных материалов с применением генеративного ИИ и автоматизацию обучения. Согласно ее докладу, ограничения также необходимы в области государственного управления, в частности, запрет на автоматическое начисление штрафов и любые социальные рейтинги.

Касперская также рекомендовала исключить возможность использования ИИ в нормативно-правовом регулировании: это касается как разработки законодательных актов, так и их проверки с помощью ИИ. В судебной системе она призвала отказаться от генерации судебных решений и исков через ИИ. В художественной области она подняла вопрос о необходимости регулирования авторских прав, создания образов знаменитостей, а также борьбы с мошенническими дипфейками.

Кроме того, она подчеркнула необходимость более широкого обсуждения вопросов применения ИИ в различных областях, где технология может потенциально причинить вред людям.

Надо обсуждать гораздо шире: запрет во всех областях, [где ИИ может] гипотетически поранить людей, нанести людям ущерб. В банковском бизнесе, соответственно, тоже рейтинги [есть] и так далее.

По мнению Касперской, искусственный интеллект представляет собой экзистенциальную угрозу, способную поставить под вопрос жизнь на Земле в целом.

ИИ - это некая экзистенциально угрожаемая технология, технология, которая вообще угрожает жизни на Земле. И если мы этого не поймем, если мы пустим этого монстра без ограничений в свою собственную жизнь, вполне возможно, никакой будущей жизни у нас уже не будет

- резюмировала она заключение своего выступления.

Ранее мы уже писали о том, как Олег Дерипаска предлагал властям России усилить поддержку бизнеса, занимающегося искусственным интеллектом. Миллиардер подчеркивал важность вовремя оказанной поддержки для предотвращения технологического отставания страны. Сегодня он вновь акцентирует внимание на недостаточной государственной поддержке, рисках отставания от мировых лидеров и необходимости пересмотра текущей политики в этой инновационной отрасли.