必ずしも良いことばかりではない。
裁判におけるAIの利用は、深刻なリスクを伴う。「虚偽」の情報に基づく不正確な判決、差別的な決定、透明性の欠如などが懸念される。AIは数百万件に及ぶ未解決事件の解決に役立つ可能性がある一方で、人間の正義を損なうリスクは、法制度にとって大きな課題となっている。
当初、司法分野におけるAI導入の最大の原動力は、過負荷状態にある裁判制度からの途方もないプレッシャーだった。インドでは、2026年までに裁判所レベルで5500万件を超える未処理事件が発生すると予測されており、これは2018年の約2900万件のほぼ2倍にあたる。これらのうち、1700万件以上が5年以上も係争中である。この未処理事件の解消には、インドの司法制度で300年以上かかる可能性があると推定されている。AIは、まさにデジタル版の「ライフライン」として登場したのだ。
世界各地で、リスクの低い案件や機械的に処理される案件にAIを活用する試みが数多く行われている。エストニアでは、軽微な民事訴訟向けに半自動システムを導入している。ドイツでは、フランクフルト裁判所が判決文作成を支援するFraukeシステムを試験運用している。英国のベテラン判事ジェフリー・ボス氏は、養育費や損害賠償額の算定といった決定にAIを活用することでコスト削減を図る可能性を示唆している。
しかし、AIへの依存は多くの深刻な誤りを招いています。インドのアーンドラ・プラデーシュ州での土地紛争は、裁判官が全く存在しない4つの判例に基づいて判決を下したことで、警告の兆候となりました。これらの判決は、固有名詞や鋭い論拠を備え、論理的に聞こえましたが、実際にはAIによって作成された架空の産物に過ぎませんでした。この問題は、被告が最高裁判所に上訴した際に初めて発覚し、裁判官はこれを単なる職業上の過失ではなく「不正行為」とみなしました。同様に、コロンビアでは、自閉症児の治療に関する訴訟において、裁判官がChatGPTを使用して弁論を補助したことを認めました。ニューヨークでは、2人の弁護士がチャットボットGPTによって「作成された」6つの判例を引用した法的要約を提出したとして懲戒処分を受けました。これらの事例は、AIが司法プロセスに参加する場合、補助と代替の境界線がこれまで以上に危険なものになっていることを示しています。
人間性の欠如
臨床試験においてAIを使用する際に、たとえ単純なケースであっても、最も深刻な懸念事項は、体系的なバイアスのリスクです。AI自体がバイアスを生み出すわけではなく、データに既に存在するバイアスを反映し、増幅するだけです。
ドイツのテレビ局DWによると、インドの法律コンサルティング会社スターレックス・コンサルタンツのAI戦略専門家であるミマンサ・アンバスタ氏は、司法においてAIは人間の良心に取って代わることはできないと主張した。AIが過剰に使用されれば、判決を歪める可能性があるという。
さらに、AIと法律の交わりを専門とするブラジルの弁護士兼研究者であるマテウス・プッペ氏も、AIがもたらす「 科学的外観」の危険性について警告した。同氏は、AIは過去の誤った判断に基づいている可能性があるため、裁判官はAI分析を中立的なものとみなすことに注意すべきだと主張した。
さらに、法律専門家によれば、裁判とは単に法律に数式を適用するだけのものではない。それは、直接的な対人交渉と心理的な共感を必要とする包括的なプロセスである。どんなに高度なAIであっても、証人の目や声を通してその感情を「理解」することはできない。これこそが、AIに欠けている公平性の要素なのである。
国際的な法律専門家によると、司法制度は、技術は人類に奉仕するものであり、良心に取って代わるものではないという原則を堅持する必要がある。生身の裁判官による監督を維持することは、技術的な誤りを回避するためだけでなく、法の持つ人道的な価値を守るためにも重要である。
出典: https://www.sggp.org.vn/tri-tue-nhan-tao-khong-the-thay-the-quan-toa-post848882.html
コメント (0)