AIエージェントの行為に誰が責任を負うか、弁護士の能力義務

広がる能力の義務

対談の出発点は、自分で作っていないエージェントを使う弁護士に何が求められるかという問いです。所属する部門が作ったものや、サブスクリプションで契約したものを業務に使う場面が想定されています。問われたのは、米国の弁護士職務規範のモデル規則にある能力（competence）の義務をどう満たすかです。

最初に答えた出演者は、技術に関わる能力の義務がここ数年で実際に問われるようになったと指摘します。以前はOutlookやWordを理解していないことで懲戒や大きな報道が起きることはなく、弁護士には「不意を突かれた」面があると語ります。それでも、システムの設計まで理解する技術者になる必要はないという立場です。

代わりに求めるのは、エージェントが指示を超えて動いてよい範囲を事務所として定めることです。小規模事務所なら同僚と、大規模事務所なら技術チームと決めることを想定しています。青・黄・赤の信号で分ける考え方を挙げ、自分たちは外部への行為はさせず、文書や受信箱の要約、ブリーフィングの作成は任せると説明しています。

確認と記録の仕組み

加えて、弁護士が途中で確認し、エージェントの行為を取り消せる機会を組み込むこと、判断の経緯をたどれる監査記録を残すことを挙げます。理由は責任の所在です。AI開発企業のトップは必ずしも責任を問われないのに対し、「弁護士は責任を問われる」と述べています。

Bridgetと呼ばれるもう一人の出演者も、技術の作り方まで理解する必要はないと同意します。そのうえで、ツールが何をし何をしてはいけないのか、どの依頼者データにどう接続しているのかを把握し、依頼者に説明できることが必要だという考えです。弁護士に確認せずにできることの範囲も、確認すべき事項に挙げました。

メールの送信や支払い、書面の提出ができるツールは、調査メモを作って届けるだけのツールより深い理解が要るといいます。後者には自然な確認点があるからです。慣れるまで動作を遅くできるかも問うべきだとし、火おこしを知らなくても夕食は作れると例えました。相手は「煙探知機は必要」と応じています。

冤罪弁護の経験から

Bridgetはミシガン・イノセンス・クリニックを創設した当時の経験を振り返ります。冤罪の主張を検討するなかで、鑑定者の質が低い事例や、科学そのものが根拠を欠く「ジャンクサイエンス」だった事例に多く接したといいます。有罪確定後の審査の事件で、弁護士も裁判官も誰も気づかなかったという説明です。

そうした事件は、科学が妥当でないという理論だけでなく、弁護士が実効的な弁護の義務を怠ったという理論でも争われたといいます。弁護士は歴史的に技術的な問題に苦労してきたとし、今回は被害が出る前の段階で皆が懸念していることを「良いことかもしれない」と評価しました。専門職全体で依頼者への義務を考える議論を歓迎すると締めくくっています。