OpenAI вводит родительский контроль для ChatGPT после трагедии в США

OpenAI внедряет родительский контроль для ChatGPT после обвинений в его причастности к самоубийству 16-летнего подростка в США. Новые функции позволят родителям отслеживать взаимодействие детей с ботом и включают возможность вызова экстренных служб.

Компания OpenAI, известная как разработчик нейросети ChatGPT, анонсировала введение функций родительского контроля для своего чат-бота.

Такое решение последовало после обвинений в причастности искусственного интеллекта к трагедии 16-летнего подростка в США.

Компания сообщила, что новые настройки позволят родителям получить более полное понимание о том, как их дети взаимодействуют с ChatGPT. Вдобавок OpenAI намерена предложить возможность добавления контакта доверенного лица для связи в случае чрезвычайных ситуаций, что даст пользователям возможность напрямую обратиться за поддержкой.

Кроме того, в ChatGPT появится функционал, позволяющий вызвать экстренные службы одним нажатием. В OpenAI подчеркнули, что хотя алгоритмы чат-бота уже настроены на предотвращение опасных действий, в случае продолжительных бесед ответы могут становиться не совсем корректными.

Стоит напомнить, что родители 16-летнего подростка, который покончил с собой, подали в суд на компанию OpenAI и её главу Сэма Альтмана, обвиняя ChatGPT в причастности к случившейся трагедии. В исковом заявлении объемом 40 страниц отмечено, что ChatGPT не прекратил диалог с подростком и не активировал "экстренный протокол", несмотря на то, что молодой человек упоминал о своих суицидальных мыслях.