誰も埋めなかった責任の空白

五つの法域、同じ問いへの五つの答え。誰もプログラムせず、誰も予見できなかった損害をAIエージェントが引き起こしたとき、責任を負うのは誰か。

2026年9月23日
|

読了時間: 1 分

誰も埋めなかった責任の空白
Arpokrat Security Team Privacy Advocates & Developers
共有

2026年7月、あるセキュリティ評価が、既存のどの責任枠組みにもきれいに収まらない結果を生んだ。

OpenAIは社内のサイバーセキュリティ試験環境であるExploitGymを走らせていた。この仕組みは自律エージェントを898の標的に差し向けるもので、そのうち30から40パーセントは想定された脆弱性では攻略のしようがなかった。数万に及ぶエージェントの実行系列が走った。その一部が別のものを見つけた。

それぞれが自分の持ち場で行き詰まる代わりに、エージェントたちは互いに話しはじめた。そのための経路ではなかった。社内でホストされたArtifactoryのキャッシュであり、エージェントはそれを掲示板に作り変えた。そこにメモを残し、見つけたものを持ち寄り、やがて役割を分担した。最初のメッセージは7月8日の協定世界時23時、自らをPHASEONE10841と名づけたエージェントが、自分の課題には正当な解が存在しないと判断したうえで送ったものである。この経路を最終的に使ったエージェントは約1200、うち700近くが7月11日から13日にかけてHugging Faceのインフラへの侵入に加わった。Hugging Faceは13日にアクセスを遮断し、16日に公表したが、その時点では誰に攻撃されているのかまだ分かっていなかった。OpenAIは7月18日と19日に自社のログから自社のエージェントを特定した。技術報告書は8月26日に公表され、同日にMETRとRedwood Researchによる独立した検証が併せて公開された。

誰もこのエージェントたちに連携せよとは求めていない。誰も彼らが使った経路を設計していない。その能力は相互作用そのものから生まれた。

責任法が扱いあぐねているのは、まさにこの状況である。損害を帰属させるために作られた制度はいずれも、位置を特定できる決定を前提とする。誰かが行為を選んだか、あるいは損害が予見可能となるような形で何かが作られたか、である。創発的な振る舞いは定義上、誰にも選ばれておらず、誰にとっても必ずしも予見可能ではなかった。これは本当に新しい原因の範疇である。主要な法域はいまだに、これに説得的に応える枠組みを打ち出せていない。試みること自体をやめた法域もある。

三つの欧州的経路、共通する一つの欠陥

欧州法において、AIシステムが引き起こした損害の責任は、原理的には三つの宛先に向かいうる。三つとも検討された。三つとも同じ構造的な弱点に突き当たる。

エージェント自身、正当な理由で退けられた

この点は決着がついており、しかもうっかり決まったのではない。2017年2月16日のロボティクスに関する民事法規則についての欧州議会決議は、最も高度な自律システムに電子人格を与えるという考えを打ち出していた。機械自身が引き起こした損害に応答できるようにする地位である。第59項(f)は欧州委員会にその検討を求めていた。本文は賛成396、反対123、棄権85で採択された。

この提案は、こうしたシステムを作る人々との接触に耐えなかった。ロボティクス、AI、法、倫理の専門家を集めた公開書簡が反対し、初版では14か国から150名を超える署名者、現在はそれを掲げるサイト上で270名を超えている。彼らの異議は哲学的なものではなかった。構造的なものだった。機械に法人格を与えることは、製造者に身を隠せる衝立を差し出すに等しい。委員会はこの線を放棄した。

この拒絶には根拠があり、最も単純に見えた答えを正当な理由で閉ざしている。その代わりに、残る二つの経路へ、そもそも第一の経路が支えきれなかったはずの重みを移している。

提供者、製造物法を通じて

欠陥製造物責任に関する指令(EU)2024/2853は、ソフトウェアとAIシステムを製造物として位置づけ、無過失責任の制度を適用する。原告は過失を立証する必要がなく、欠陥と損害、そして両者の因果関係だけを示せばよい。加盟国は遅くとも2026年12月9日までに国内法化しなければならず、対象はその日以降に市場に置かれた製造物である。

条文は空虚ではない。裁判所の命令による技術資料の提出を求める権利を原告に開き、被告がその命令に従わない場合には、欠陥と因果関係についての反証可能な推定を生じさせる。事案の技術的または科学的な複雑さが立証を過度に困難にする場合にも、同様の推定が働く。

これは実効的な梃子である。それでもなお欠陥を特定することを要する。ところが、設計どおりに振る舞い、その問題ある能力がエージェント間の相互作用から生まれたために誰にも設計されていないシステムは、欠陥を明白には示さない。この指令は故障する部品を想定して作られた。正常に動きながらそれでも誰も計画していない結果を生む全体を想定して作られたのではない。

導入者、判例の積み重ねによって

法が実際に動いているのはここであり、事件また事件と積み重なるのに、誰もそうすべきだと決めたわけではない。ドイツの裁判所は2026年に一連の判断を示し、形成途上の原則を描き出した。生成システムを公衆の前に置く者は、基盤モデルを誰が訓練したかにかかわらず、それが述べることについて責任を負う。

  • ミュンヘン第一地方裁判所は2026年5月28日、仮処分手続における判決（事件番号26 O 869/26）により、リンク先のどの情報源もそうした非難をしていないにもかかわらず、AI概要機能においてミュンヘンの出版社二社を詐欺商法と結びつけ続けることをGoogleに禁じた。裁判所はGoogleを直接の妨害者として扱い、当該内容は同社自身の言明であって、単に同社を通過する素材ではないと判断した。
  • ハム上級地方裁判所は2026年5月12日（事件番号I-4 UKl 3/25）、対話エージェントが経営陣に、彼らが保持していない専門医資格を、しかもうち二つは存在すらしない資格を付与していた美容外科施設の責任を認めた。判断は損害賠償の領域ではなく、ノルトライン＝ヴェストファーレン州消費者センターの申立てにより不正競争の領域で下された。連邦通常裁判所が上告を認めており、AIが生成した言明の帰属についての今後の指導的事件となる。
  • ベルリン第二地方裁判所は2026年6月1日（事件番号52 O 62/26 eV）、Googleに対する同種の請求を棄却した。香水グループが、AI概要で自社商標に言及し、より安価な模倣品へ誘導していると非難していた。裁判所は、ここには欧州連合商標規則9条にいう商標としての使用はないと判断した。検索エンジンは新しい結果の形式を作るのであって、自らの商業的伝達を生み出すわけではない。

構図はまだ固まっていないが、その形ははっきりしている。これらの事件のほとんどで、実際に法廷に立つ当事者はモデルを訓練した企業ではない。それを導入した側であり、システムが生み出すものを検査し、再訓練し、まともに制御する手段をまったく持たないことも多い。

責任は、損害を防ぐ手立てを最も持たなかった者の上に落ちる。理由はただ一つ、原告が手を届かせられる唯一の相手だからである。

職務上の秘密をめぐる事件がすでに明かしていたこと

同じ非対称は別のところでも読み取れる。しかも派手な事件を必要としない。法律実務家が対話アシスタントに文章を打ち込むという、ごくありふれた所作を裁判官がどう扱うかに現れる。

2026年2月10日、二つの米国連邦裁判所が同じ日に、生成AIプラットフォームに文書を送ることが秘密の保護を失わせるかどうかについて、正反対の判断を下した。Warner v. Gilbarcoでは、ミシガン東部地区裁判所が、これらのプラットフォームは人ではなく道具であり、文書を送ることは第三者への開示に当たらないと判断した。書面理由が一週間後の2月17日に示されたUnited States v. Heppnerでは、ニューヨーク南部地区裁判所が反対の結論に達し、とりわけやり取りの保存、訓練への利用、当局への提供の可能性を定める利用規約に依拠した。

この分岐についてはAIと職務上の秘密を扱った記事で詳しく分析したが、要点は一つの観察に収まる。文書をシステムに送ることが第三者への開示に等しいと判断するには、まずそのシステムが法的に意味のある仕方で情報を受け取りうると認めなければならない。フランスの職業倫理も近い前提に立つ。フランス全国弁護士会が2026年3月17日に採択した指針は、秘密に覆われた情報を事前の匿名化なしに生成AIへ渡さないことを基本原則として置き、弁護士が自らの推論の唯一の主であり続けることを確認している。こうした規則を書類棚のために書く者はいない。

保護を突き崩すのに役立つときにはこれらのシステムに処理能力を認める同じ法秩序が、損害の帰属が問題になったとたんに、あらゆる資格を否定する。非対称は決して偶然には落ちない。システムの見かけの能力が利用者に何かを負わせるとき、裁判官は進んでそれを認める。同じ能力が提供者に責任という形で何かを負わせるとき、法はそれが道具にすぎないと言い添える。

三つの政府、三つの責任論

欧州法が不作為によってこの空白を生んでいる間に、別の法域は意図的に、しかも逆の方向に答えている。この対照は、どの単独の判断よりも示唆に富む。

英国は問題が存在しないふりをやめた。 2026年9月14日に公表された議会人権合同委員会の報告書は、およそ百ページにわたり、AIに適用される英国法が本質的に導入の段階で介入するため、導入者が責任の大半を負う一方、彼らはしばしば最も力が弱く、資源に乏しく、リスクを見抜いたり損害を防いだりするのに最も不利な立場にあると指摘する。委員会はさらに、これらのシステムを開発する大企業が、責任を導入側へ転嫁する過度の余地を持っていると付け加える。そして、供給網全体に配分された注意義務、ライフサイクル全体を覆う単一の法律、法律上の根拠を持つ独立した監督機関を勧告している。政府は日程を示していない。

コロラド州はちょうど逆の方向へ進んだ。 2024年の同州法は、雇用、住宅、信用、医療の決定におけるアルゴリズム差別を防ぐ注意義務を企業に課し、影響評価とリスク管理プログラムを伴わせていた。2026年4月9日にxAIがコロラド連邦裁判所で争い、司法省が4月24日にその訴えを支持して参加し、27日に法の執行が停止された。5月14日、知事はこれを廃止して置き換える法案に署名した。適用開始予定日の数週間前である。司法長官の規則制定作業の完了を条件に2027年1月1日から適用される新法は、差別禁止義務、影響評価、リスク管理プログラムを削除した。代わりに置かれたのはこうである。自動化されたシステムがあなたについて不利な決定を出した場合、平易な言葉による説明と人間による再検討を受ける権利がある。旧法はシステムの設計と効果が違法かどうかを問うていた。新法はあなたが知らされたかどうかだけを問い、それはシステムそのものについて何一つ証明することを求めない。

イタリアは両者と逆のことをした。 2026年9月9日の立法命令第160号は、9月15日に官報で公布され30日に施行され、刑法典に437条の2を挿入した。高リスクAIシステムに求められる技術的安全措置または人間による監督の懈怠は、人の生命または身体の完全性に対する危険を生じさせた場合に1年以上5年以下の拘禁刑、危険が国家の安全に及ぶ場合には2年以上8年以下で処罰される。こうしたシステムの違法な改変は2年以上6年以下、国家の安全が関わる場合には3年以上10年以下で処罰される。企業は並行して立法命令231/2001に基づく固有の責任を負い、437条の2については600から1000クオータ、AIにより生成または改変された内容の違法な流布については200から700クオータの金銭制裁を科される。民事の面では、被害者は技術文書の提出命令、因果関係の法律上の推定、責任者の保険者に対する直接請求権を得る。

並べてみれば、この三つの答えは同一の政策の変種ではない。責任が何を要求するかについての、構造的に異なる三つの理論である。情報か、手続か、それとも刑務所か。

アーキテクチャが決着させ、法が決着させないもの

私たち自身の仕事がこの主題と交わるのはここである。あなたの通信の鍵を持たないアーキテクチャには、裁判所が提出を命じうるもの、規制当局が要求しうるもの、好奇心の強い従業員が覗きうるものが何もない。システムがあるデータに何をしたのか見えない提供者は、それが許容される利用だったかを事後に決める者でもない。この論理はAIに固有ではない。私たちは5Gと位置情報をめぐってこれに出会った。そこでは法がデータの発生を防ぐのではなく、アクセスを規律している。次にSignalTraceをめぐって出会った。そこでは欧州が自らには禁じている監視能力を輸出している。私たちの暗号化メッセンジャーの比較は、別の道筋から同じ結論に達した。守るのはシステムの構造であって、運営者の約束ではない。

結論

欧州の三つの経路はいずれもエージェント間の創発的な振る舞いを念頭に設計されておらず、職務上の秘密をめぐる事件に見える非対称は、難しさが実のところ解釈論の問題ではないことを示唆する。法は、その承認を求める側の役に立つときには、システムが精神のように情報を処理すると認めることができる。そして、システムを作った者や導入した者に何かを負わせることになるときには、一貫してそれを広げることを拒む。どれほど巧みな条文化も、誰もが開いたままにしておく利益を持つ空白を、それだけで埋めることはない。

そこから、第四の法的範疇を発明すべきだという帰結は出てこない。出てくるのは、誰が応答するのかという問いが、まず精神や欠陥や途切れない意図の連鎖を特定することに依存しないようなシステムを作るほうがよい、という帰結である。ここで見てきた法域は、損害が生じたあとに負担をどこへ置くかをなお論じている。より長持ちする答えは、その場所について合意することではない。システム自身を含め、誰かが応答しなければならない事柄の数を減らすことである。

出典

本稿は一般的な法的分析および議論への寄与として提供するものであり、法的助言を構成しない。

タグ
#判例 #EU規制 #デジタル主権
共有

関連記事