Искусственный интеллект подвёл юристов: суд обнаружил поддельные источники в документах

Юристы попали в неприятную ситуацию, когда попытались использовать ИИ для подготовки документов к судебному разбирательству.

В Австралии юристы подали в прокуратуру документы по делу о смерти 40-летней женщины, однако в них были обнаружены подозрительные несоответствия. Как сообщает The Guardian, судебное разбирательство показало, что документы были сгенерированы искусственным интеллектом и содержали фиктивные источники, а также искажённое изложение парламентской речи.

Уточняется, что обвинение не проверило ссылки и строило свои аргументы на основе того же ошибочного текста. Только в ходе слушания судья обнаружил расхождения. Когда защите было предложено исправить документы, в обновлённой версии снова были обнаружены ошибки, сгенерированные нейросетью, включая упоминание несуществующих законов.

Использование ИИ неприемлемо, если результат тщательно и независимо не проверен,

- заявил судья Верховного суда штата Виктория Джеймс Эллиот.

Ранее стало известно, что в США судью Генри Уингейта заподозрили в использовании искусственного интеллекта при вынесении решения по делу. Он опубликовал судебное распоряжение, которое приостанавливало действие закона штата о многообразии и инклюзивности в образовании. После публикации документа юристы обнаружили множество грубых фактических ошибок.