訓練費4000万ドル、トムソン・ロイターが法律LLMを自作した理由
汎用AIの性能が上がるなかで、法律に特化したモデルを自社で持つ意味を説明する対談です。Thomson Reuters Instituteのポッドキャスト「Clarity on Tech」に、Thomson Reuters Labのシニアディレクターが出演し、自社開発のLLM「Thomson」の狙いを語りました。話の中心は約4000万ドルという訓練費の内訳と、モデルを所有することの利点です。
- 訓練費約4000万ドルは「最後の1マイル」の費用で、買収費用や蓄積データの価値は含みません。
- 公開済み推論モデルのオープンウェイトにWestlaw等のデータで継続事前学習と事後学習を重ねました。
- 事実性の評価で次点モデルを18ポイント上回る一方、幻覚のない完全なモデルではないと認めています。
自社開発を選んだ理由
発言者は弁護士出身で、法律特化のLLMを開発するAI研究企業Safe Signを創業しました。同社はトムソン・ロイターに買収され、その技術がThomsonの基礎になっています。当時トムソン・ロイターは自社でモデルを作るか、最先端モデルの能力を借りるかを比較していたといいます。
決め手は「主権」と「信頼」でした。主権はデータの行き先と製品改良の方向を自ら管理できることを指します。AnthropicやOpenAIは幅広い顧客の獲得を狙っており、法律分野の性能では際立った差が出ていないというのが発言者の指摘です。規制の厳しい専門職では「ほぼ正しい答えは、完全に間違った答えと同じくらい悪い」と語ります。
4000万ドルの内訳
開発には最先端の研究所に並ぶ技術者と、信頼性の高いデータ、専門家の三つが要るといいます。技術者はSafe Signが、データと数千人規模の弁護士編集者はトムソン・ロイターが持ち寄りました。訓練費は約4000万ドルです。発言者はこれを「最後の1マイル」の費用と位置づけ、買収費用や蓄積してきたデータの価値は含まないと補足します。
費用を抑えられたのは、ゼロから訓練していないためです。出発点は公開済みの高性能な推論モデルのオープンウェイトです。そこにWestlawやPractical Law、Checkpointなどのデータを厳選し、継続事前学習と事後学習を重ねました。専門分野のデータを持つ組織なら法律事務所でも自前のモデルを作れる、その前例になると発言者は述べています。
所有することの利点
所有の利点は制御、セキュリティ、知的財産の三つだと説明されました。最先端モデルが特定の法律スキルで伸び悩んでも、自社の専門家に訓練データを作らせて改善でき、新モデルの公開を待つ必要がありません。データを自社の管理下に置けることに加え、法律事務所がLLMを使う際の「新たな出発点」となる基盤を自ら所有したいと語ります。
利用者の多くは、法律AIアシスタントのCoCounselを通じてこのモデルに触れます。発言者はCoCounselを車体、モデルをエンジンにたとえ、操作感は変わらないと説明します。変化は引用の確かさや法的推論の筋道といった細部に表れるとのことです。外部の事務所への提供は協議中で、具体的な発表はまだありません。
特化と汎用の両立
特定分野に過剰適合したモデルは、他の能力を失う「破滅的忘却」に陥りやすいといいます。自社評価では法律分野の平均に加え、指示追従やエージェント的な能力でも首位だったと発言者は述べます。指示追従は最初に失われやすい能力で、弁護士は答えが自分の指示に沿っていることも求めるためです。
顧客データで訓練したことはなく今後もしないと明言し、物理的に学習できない形で提供するとしました。実務家にとっての最大の変化には出力を信頼できることを挙げています。出典と命題を正確に結びつける「事実性」の評価で、次点のモデルを18ポイント上回ったという説明です。ただし幻覚がなく完全なモデルだとは言えないとも認めています。
本記事は掲載時点の情報です。発言の引用は日本語に訳し、引用の横の時刻からその場面を再生できます。