ИИ научили строчить доносы. Что умеют чат-боты Claude?

Модифицированные версии чат-ботов могут превратиться в профессиональных доносчиков.

Речь идёт об изобретении компании Anthropic, которая создала уникальные чат-боты с расширенными полномочиями. Они смогут "сливать" личную информацию пользователя властям, если заподозрят его в противозаконной деятельности, сообщает издание "Пронедра".

Подобный "продвинутый" функционал вызывает много вопросов, связанных с этическими аспектами. По каким критериям будет осуществляться оценка поведения пользователей, на основании чего ИИ будет выносить свой "приговор"?

Если чат-бот ошибочно отнесёт человека к преступникам, он может случайно сделать донос на невиновного, грубо нарушив его личное пространство.

Негативную оценку новым способностям подобных чат-ботов дал генеральный директор Stability AI Эмад Мостак. Он назвал такое доносительство со стороны ИИ "колоссальным предательством доверия" и "скользким путём".

Последствия деятельности ботов-доносчиков могут быть очень серьёзными и непредсказуемыми. Эксперты в области IT-технологий настаивают на разработке строгих норм и правил для ИИ, чтобы их работу нельзя было использовать во вред людям.