AIの判断は“人間が確認しただけ”では任せられない　GhostDriftがAI判断検証の基礎理論公開

　GhostDrift数理研究所は、AIの判断を後から検証できるようにする「責任OS」の基礎理論を公開した。広島発のAIアシュアランス（AIが信頼できる形で動いていることを証拠で確かめる仕組み）技術として位置づけている。

　AIによる判断を人間が画面上で確認し、その記録が残っていたとしても、後から判断の根拠を説明できないケースがあることが指摘されている。AIが参照した情報や人間の確認範囲、停止判断の基準などが記録として保持されないことが要因とされる。

　GhostDrift数理研究所は、こうした課題の解決に向けた基礎理論を、定理証明支援系「Lean 4」を用いて数式化し、公開した。Lean 4は、数学的定理やプログラムの性質をコンピューターで厳密に検証可能な形式で記述できるシステムである。

　今回の公開には3つのポイントがある。1つ目は、確認すべき項目が多すぎる場面では、人間がすべてを確認するやり方には限界があることを、数式で示した点。2つ目は、AIの判断根拠・確認状態・止めるべき条件・責任の記録が、処理が終わった後もバラバラにならずに残る仕組みを示した点。3つ目は、AIガバナンスの国際議論で知られる広島を、実装技術の起点として位置づけた点である。

　公開されたのは6つのLean形式化で、それぞれGitHub上で見ることができる。人間によるレビューの限界をモデル化した「ALS Finite Experiment Kernel」、判断の順序や履歴を責任の区別として残す「Responsibility Information Kernel」、通常の監査ログでは復元できない責任情報の構造を扱う「Responsibility Information Capacity」、AI判断の根拠や証拠を保持する「Responsibility OS Kernel」、第三者が後から再確認できる証拠として残す「ADIC AI Assurance Lean」、企業判断を責任ある構造へ変換するモデル「Hiroshima Responsibility Functor」の6つである。

　GhostDrift数理研究所は、責任OSおよびADICに関連する技術について複数の特許出願を進めている。

　今後は、来歴・監査証跡・追跡可能性といった情報学の標準的な考え方と責任OSを結びつけ、AIアシュアランスの要件を日本発の規格として定義していくための基盤づくりを進める。社会実装に向けた検証は、株式会社オンザリンクスとの戦略的パートナーシップのもと、広島発の物流領域でのPoC（実証実験）として進められている。

　なお、今回公開されたLean形式化は、AIシステムそのものの安全性や法令適合性を直接証明するものではなく、AI判断を後から検証可能な責任情報として残すための基礎構造を示したものである。実際の運用への適用には、対象業務や運用ルール、監査体制との接続が必要になる。

■株式会社GhostDrift数理研究所　代表取締役　前木秀光コメント
AIが社会に入るほど、現場が直面するのは、AIの答えをどう信頼するかという問題です。人間が確認したから安心、ログがあるから安心、だけでは足りない局面があります。同時に、自律型AIに任せるだけでも責任は消えません。必要なのは、AIがどの条件で判断し、どの根拠を通り、どこで止まり、後から誰が確かめられるのかを残すことです。今回公開した基礎理論群は、その仕組みを日本発・広島発の技術基盤として実装していくための土台です