Искусственный интеллект не может заменить судей.

Стремительное развитие искусственного интеллекта (ИИ) в последние годы преобразило многие ключевые сектора, от здравоохранения и образования до финансов. Однако по мере того, как эта технология начинает проникать в залы суда, возникает волна глубокой обеспокоенности по поводу справедливости и этических основ системы правосудия.

Семинар по использованию ИИ в эстонской судебной системе (ФОТО: AVALIK)

Это не всегда хорошо.

Использование ИИ в судебных решениях сопряжено с серьезными рисками. Вызывают опасения неточности, вызванные «иллюзорной» информацией, дискриминационные решения и отсутствие прозрачности. Хотя ИИ мог бы помочь разрешить миллионы находящихся на рассмотрении дел, риски подрыва человеческого правосудия представляют собой серьезную проблему для правовых систем.

Изначально самым большим стимулом для внедрения ИИ в судебную систему стало огромное давление со стороны перегруженной судебной системы. В Индии к 2026 году в судах будет находиться более 55 миллионов нерассмотренных дел, что почти вдвое больше, чем примерно 29 миллионов дел в 2018 году. Из них более 17 миллионов дел затянулись более чем на 5 лет. По оценкам, судебной системе страны может потребоваться более 300 лет, чтобы решить эту проблему. ИИ стал цифровой «спасательной линией».

По всему миру многие страны экспериментируют с использованием ИИ для обработки дел с низким уровнем риска или с применением автоматизированных методов. Эстония внедрила полуавтоматическую систему для рассмотрения мелких гражданских исков. В Германии Франкфуртский суд тестирует систему Frauke для помощи в составлении судебных решений. Высокопоставленный британский судья Джеффри Вос предположил возможность использования ИИ для принятия решений, таких как расчет алиментов или компенсации ущерба, с целью экономии средств.

Однако чрезмерное использование ИИ привело ко многим серьезным ошибкам. Земельный спор в Андхра-Прадеше (Индия) стал тревожным сигналом, когда судья вынес решение, основываясь на четырех совершенно несуществующих прецедентах. Эти решения звучали логично, содержали собственные имена и убедительные аргументы, но на самом деле были всего лишь вымышленными продуктами, созданными ИИ. Дело было раскрыто только тогда, когда ответчик подал апелляцию в Верховный суд, где судьи назвали этот поступок «правонарушением», а не просто профессиональной ошибкой. Аналогично, в Колумбии судья признался в использовании ChatGPT для помощи в своих аргументах по делу, касающемуся медицинского лечения детей с аутизмом. В Нью-Йорке два адвоката были привлечены к дисциплинарной ответственности за представление юридических заключений, в которых цитировались шесть дел, «созданных» чат-ботом GPT… Эти инциденты демонстрируют, что когда ИИ участвует в судебном процессе, грань между помощью и заменой становится опаснее, чем когда-либо.

Отсутствие человечности

Наибольшую обеспокоенность при использовании ИИ в клинических испытаниях, даже в случаях, которые считаются простыми, вызывает риск системной предвзятости. ИИ сам по себе не создает предвзятости; он лишь отражает и усиливает то, что уже присутствует в данных.

Как сообщает немецкий телеканал DW, Миманса Амбастха, эксперт по стратегии в области ИИ из юридической консалтинговой фирмы Starlex Consultants (Индия), заявила, что ИИ не может заменить человеческую совесть в отправлении правосудия. Чрезмерное использование ИИ может исказить судебные решения.

Кроме того, бразильский юрист и исследователь Матеус Пуппе, специализирующийся на пересечении ИИ и права, также предостерег об опасностях « научного вида», который создает ИИ. Он утверждал, что судьи должны с осторожностью относиться к анализу, проводимому ИИ, как к нейтральному, поскольку ИИ может опираться на прошлые ошибочные решения.

Кроме того, по мнению юристов, вынесение судебного решения — это не просто применение математических формул к закону. Это всеобъемлющий процесс, требующий прямых межличностных аргументов и психологической эмпатии. Искусственный интеллект, каким бы продвинутым он ни был, не может «понять» настроение свидетеля по его глазам или голосу. Именно этих элементов справедливости ИИ не хватает.

По мнению международных экспертов в области права, судебная система должна придерживаться принципа, согласно которому технологии служат человечеству, а не заменяют совесть. Сохранение контроля над реальными судьями необходимо не только для предотвращения технических ошибок, но и для защиты гуманистических ценностей права.

Составитель: Хань Минь

Источник: https://www.sggp.org.vn/tri-tue-nhan-tao-khong-the-thay-the-quan-toa-post848882.html