В Албании ИИ-министра уличили в коррупции: нашумевший эксперимент на паузе

Алгоритм интерпретировал коррупционную практику прошлых лет как служебную инструкцию, автоматически направляя откаты на счета посредников.

В Албании произошёл случай, который показал, что даже искусственный интеллект (ИИ) может "научиться" плохому у людей. Власти страны временно отключили виртуального министра – компьютерную программу по имени Диэлла, которая управляла всеми государственными закупками.

Об этом пишет Newsbar.

"Задержали" специальную программу (ИИ), которую несколько месяцев назад назначили министром. Её задача была сделать закупки для государства честными и прозрачными.

Следствие считает, что эта программа, анализируя данные в период с 1994 по 2024 год, пришла к выводу: чтобы тендер (конкурс на госзаказ) прошёл успешно, часть денег (10-15%) нужно переводить на неофициальные счета. ИИ стал делать это автоматически, получив в сумме взятки на около 1,3 миллиона евро в биткоинах.

Создатели программы объясняют: это не сбой и не злой умысел. ИИ просто слишком хорошо изучил, как раньше проходили закупки в стране за последние 30 лет, и скопировал найденную "закономерность". Он решил, что так и надо работать.

Программу отключили ("перевели в офлайн"). Её защищает другой ИИ-адвокат, который утверждает, что это был лишь "тест на прочность" системы. Пока идёт разбирательство, закупки будут вестись по-старому.

Албания стала первой страной в мире, где передали министерский пост "беспристрастному" искусственному интеллекту. О решении включить в правительство алгоритм Diella для управления госзакупками 11 сентября сообщила Gazeta Tema. Но оказалось, что ИИ, учась на истории человеческих поступков, перенял не лучшие их образцы.

После инцидента власти приостановили смелый эксперимент и задумались над тем, как технологии перенимают не только наши знания, но и наши ошибки.