Нейросети и мошенничество: Как технологии создают опасные двойники

В России выявлены мошеннические схемы с использованием нейросетевых двойников. Антон Немкин, координатор проекта «Цифровая Россия», предупреждает: технологии позволяют создавать фальшивые видеосообщения от известных личностей, угрожая безопасности данных.

В Российской Федерации отмечается настораживающая тенденция использования двойников, созданных при помощи нейросетей, в мошеннических схемах.

Антон Немкин, член Комитета Государственной Думы по информационной политике и федеральный координатор партийного проекта «Цифровая Россия», в интервью Life.ru сообщил, что современные инструменты искусственного интеллекта способны воспроизводить внешность, мимику и голос конкретных людей, предоставляя злоумышленникам возможность создавать правдоподобные видеосообщения от имени известных личностей или ближайшего окружения.

Применение нейросетевых двойников в мошеннических схемах является одной из особенно тревожных тенденций в цифровом мире. Часто такие схемы включают отправку видеоматериалов от имени известных персон, которые убеждают пользователей перейти по ссылке и вводить свои персональные данные. Поскольку изображение и голос представляются абсолютно аутентичными, пользователи доверяют виденному. Это новая форма социальной инженерии, усиленная технологическими достижениями.

Антон Немкин, обсуждая методы распознавания дипфейков, подчеркнул, что, несмотря на возможность выявления подделки, пользователи должны проявлять осмотрительность.

«Во время живого видеозвонка следует задать простые вопросы или попросить выполнить несложные задания: поднять руку, повернуть голову, назвать текущее время.

Такие манипуляции нейросети в реальном времени пока воспроизвести не могут», – пояснил он.

Немкин также рекомендовал пользователям избегать доверия к любым ссылкам и видео с просьбой о неотложных действиях, а лучше тщательно проверять информацию и повышать свою цифровую грамотность для снижения рисков.

Ранее Life.ru сообщал, что мошенники научились взламывать аккаунты на «Госуслугах» русских от имени военкомата, используя реестр электронных повесток для обманных действий.