Спорить с нейросетями стало опасно. ИИ выдает неприятную правду об оппонентах в ходе дебатов

"Продвинутые" системы ИИ могут пользоваться персональными данными оппонента, чтобы воздействовать на его поведение и воззрения.

Учёные пришли к неутешительным выводам относительно нейросетей. Оказалось, что GPT-4 превзошла 64% пользователей сети в умении вести онлайн-дебаты, и она (как и другие "продвинутые" системы ИИ) могут использовать персональные данные оппонента, чтобы эффективно воздействовать на его поведение и воззрения, сообщает ТАСС.

Реальные пользователи глобальной сети чаще уступают в социально-политических дебатам с нейросетью GPT-4. Открытие совершила группа швейцарских, итальянских и американских исследователей под руководством Роберта Уэста во время изучения возможностей злонамеренного использования больших языковых моделей для манипуляций мнениями людей и их поведением.

В ходе исследования учёные выяснили, что система ИИ превосходила человека в умении вести дебаты. Если у нейросети были во владении персонализированные данные, то она чаще могла переубедить добровольцев, участвовавших в дебатах, и заставить их сменить точку зрения. Исследование доказывает необходимость учёта "манипуляционного потенциала" нейросетей.