Ошибки в распознавании эмоций: почему нейросетям нужно улучшать алгоритмы

Искусственный интеллект обучается на текстах, которые ему предварительно помечают люди.

В последнее время алгоритмы машинного обучения и большие языковые модели стали хорошо справляться с решением многих задач. Например, нейросети могут работать в области обработки теста, изображений, музыки и робототехнике.

Искусственный интеллект обучается на той информации (тексты, изображения, аудио и видео), которую люди предварительно помечают и выделяют эмоции.

В ходе исследований учёные выяснили, что люди часто сами могут неправильно определять эмоции в текстах. А модели искусственного интеллекта ориентируются на эти установки, считая их точными. Сара Райтмайер отметила, что люди могут делать неправильные оценки эмоций, и ИИ, полагаясь на эти данные, может совершать ошибки, что приведёт к нежелательным последствиям.

Аспирант Цзяи Ли занимался распознаванием эмоций в текстах и выяснил, что многие нейросети используют текстовые сообщения. Согласно исследованию, люди зачастую неправильно понимают эмоции в текстах других людей. Это может наложить свой отпечаток на работу ИИ-моделей.