В суде аргентинской провинции объяснили запрет на использование ИИ

Верховный суд аргентинской провинции Буэнос-Айрес вынес решение о полном запрете на использование систем искусственного интеллекта в судебном производстве. Как сообщает «Российская газета», инстанция обосновала этот шаг тем, что правосудие является исключительной прерогативой человека, а юрисдикционные функции не могут быть делегированы алгоритмам.

В постановлении подчеркивается, что ИИ перестал быть экспериментальной технологией и активно внедряется в юридическую практику, однако нейросети по-прежнему склонны к выдаче недостоверной информации и предвзятости. Судьи указали на риск возникновения так называемых алгоритмических галлюцинаций, которые могут привести к вынесению ошибочных и необъективных вердиктов, нарушающих базовые права граждан.

Новые правила категорически запрещают применять генеративные модели и коммерческие чат-боты для анализа доказательств, формирования судебных решений, а также прогнозирования вероятности рецидива у подсудимых. Кроме того, недопустимо использование автоматизированных систем при решении вопросов об аресте или освобождении, создании синтетических доказательств и подготовке экспертных заключений без контроля со стороны профильных специалистов.