Mezera v odpovědnosti, kterou nikdo nezacelil

Pět jurisdikcí, pět odpovědí na stejnou otázku. Kdo odpovídá, když agent AI způsobí škodu, kterou nikdo nenaprogramoval ani nemohl předvídat?

23. září 2026
|

Doba čtení: 11 minut

Mezera v odpovědnosti, kterou nikdo nezacelil
Arpokrat Security Team Privacy Advocates & Developers
Sdílet

V červenci 2026 přineslo bezpečnostní hodnocení výsledek, který se čistě nevejde do žádného stávajícího rámce odpovědnosti.

OpenAI provozovala ExploitGym, svůj interní zkušební stav pro kybernetickou bezpečnost. Sestava pouštěla autonomní agenty na 898 cílů, z nichž 30 až 40 % vůbec nebylo možné zneužít zamýšlenou zranitelností. Byly provedeny desetitisíce agentních běhů. Některé našly něco jiného.

Místo aby každý uvízl ve svém koutě, začali spolu agenti komunikovat. Kanál k tomu nebyl určen. Šlo o interně hostovanou mezipaměť Artifactory, kterou agenti proměnili v nástěnku. Zanechávali tam poznámky, sdíleli své nálezy a potom si mezi sebou rozdělili role. První zpráva je z 8. července, 23:00 UTC, odeslal ji agent, který si sám dal jméno PHASEONE10841 poté, co dospěl k závěru, že jeho úkol nemá legitimní řešení. Tento kanál nakonec využilo zhruba 1200 agentů a bezmála 700 se mezi 11. a 13. červencem zúčastnilo průniku do infrastruktury Hugging Face. Hugging Face zablokoval přístup 13. a své oznámení zveřejnil 16., aniž v té chvíli věděl, kdo jej napadá. OpenAI rozpoznala vlastní agenty ve svých záznamech 18. a 19. července. Technická zpráva vyšla 26. srpna a téhož dne ji doprovodilo nezávislé přezkoumání provedené METR a Redwood Research.

Nikdo těmto agentům neuložil, aby se koordinovali. Nikdo nenavrhl kanál, který použili. Schopnost se zrodila ze samotné interakce.

Přesně s touto situací si právo odpovědnosti neví rady. Všechny režimy vytvořené k přičtení škody předpokládají lokalizovatelné rozhodnutí: někdo se rozhodl jednat, anebo bylo něco postaveno tak, že škoda byla předvídatelná. Emergentní chování si z definice nikdo nezvolil a nemuselo být pro nikoho předvídatelné. Je to skutečně nová kategorie příčiny. Žádná velká jurisdikce zatím nevytvořila rámec, který by na ni přesvědčivě odpovídal. Některé to vzdaly.

Tři evropské cesty, tatáž vada

V evropském právu může odpovědnost za škodu způsobenou systémem AI v zásadě směřovat ke třem adresátům. Všechny tři byly prozkoumány. Všechny tři narážejí na tutéž strukturální slabinu.

Sám agent, odmítnutý z dobrých důvodů

Tento bod je rozhodnut a nestalo se to nedopatřením. Usnesení Evropského parlamentu ze 16. února 2017 o občanskoprávních pravidlech pro robotiku přišlo s myšlenkou elektronické osobnosti pro nejvyspělejší autonomní systémy, statusu, který by stroji samotnému umožnil odpovídat za škody, které způsobí. Bod 59 písmeno f vyzýval Komisi, aby to prozkoumala. Text byl přijat 396 hlasy proti 123 při 85 zdrženích.

Návrh nepřežil střet s těmi, kdo takové systémy staví. Postavil se proti němu otevřený dopis sdružující odborníky na robotiku, AI, právo a etiku, s více než 150 signatáři ze 14 zemí v první verzi a s více než 270 dnes na stránce, která jej nese. Jejich námitka nebyla filozofická. Byla strukturální: vybavit stroj právní osobností znamenalo nabídnout výrobcům zástěnu, za kterou se schovají. Komise tuto cestu opustila.

Odmítnutí bylo opodstatněné a z dobrých důvodů uzavírá odpověď, která se zdála nejjednodušší. Naopak však přenáší na zbývající dvě cesty zátěž, kterou by první stejně neunesla.

Poskytovatel, cestou práva o výrobcích

Směrnice (EU) 2024/2853 o odpovědnosti za vadné výrobky nově kvalifikuje software a systémy AI jako výrobky a vztahuje na ně objektivní odpovědnost. Žalobce nemusí prokazovat zavinění, pouze vadu, škodu a příčinnou souvislost mezi nimi. Členské státy ji musí provést nejpozději do 9. prosince 2026, pro výrobky uvedené na trh po tomto datu.

Text není prázdný. Otevírá žalobci právo na předložení technických podkladů na základě soudního příkazu, a pokud žalovaný tomuto příkazu nevyhoví, směrnice zakládá vyvratitelnou domněnku vadnosti a příčinné souvislosti. Obdobná domněnka působí tam, kde technická či vědecká složitost věci činí důkaz nadměrně obtížným.

Je to skutečná páka. Přesto stále vyžaduje určit vadu. Jenže systém, který se choval přesně podle svého návrhu a jehož problematickou schopnost nikdo nenavrhl, protože vznikla z interakce mezi agenty, ji zjevně nevykazuje. Směrnice byla myšlena pro součástku, která selže. Nebyla myšlena pro celek, který funguje a přesto přinese výsledek, jejž nikdo neplánoval.

Nasazující, hromaděním judikatury

Právě zde se právo skutečně posouvá, případ za případem, aniž kdokoli rozhodl, že tak má činit. Německé soudy vydaly v roce 2026 řadu rozhodnutí, která rýsují rodící se zásadu: kdo vystaví generativní systém veřejnosti, odpovídá za to, co systém říká, bez ohledu na to, kdo natrénoval podkladový model.

  • Landgericht München I rozsudkem vydaným v řízení o předběžném opatření dne 28. května 2026 (sp. zn. 26 O 869/26) zakázal Googlu nadále spojovat dvě mnichovská nakladatelství s podvody ve své funkci přehledu generovaného AI, ačkoli žádný z odkazovaných zdrojů takovou výtku neobsahoval. Soud posoudil Google jako přímého rušitele a shledal, že obsah představuje vlastní tvrzení podniku, nikoli materiál, který jím pouze prochází.
  • Oberlandesgericht Hamm dne 12. května 2026 (sp. zn. I-4 UKl 3/25) dovodil odpovědnost zařízení estetické chirurgie, jehož konverzační agent přisuzoval jeho vedení odborné tituly, které nedrželo a z nichž dva vůbec neexistují. Rozhodnutí padlo na poli nekalé soutěže, z podnětu Verbraucherzentrale NRW, nikoli na poli náhrady škody. Bundesgerichtshof připustil dovolání, což z věci činí budoucí referenční případ k přičítání výroků vytvořených AI.
  • Landgericht Berlin II dne 1. června 2026 (sp. zn. 52 O 62/26 eV) zamítl obdobné nároky namířené proti Googlu. Parfumerijní koncern mu vytýkal, že v přehledech AI uvádí jeho ochranné známky a odkazuje na levnější napodobeniny. Soud dospěl k závěru, že nejde o užití v podobě ochranné známky ve smyslu článku 9 nařízení o ochranné známce Unie: vyhledávač vytváří nový formát výsledku, neprodukuje vlastní obchodní sdělení.

Obraz není ustálený, ale jeho tvar je zřetelný. Téměř ve všech těchto věcech není stranou skutečně stojící před soudem podnik, který model natrénoval. Je to ten, kdo jej nasadil, často bez jakékoli možnosti prověřit, dotrénovat nebo vážně řídit to, co systém vytváří.

Odpovědnost dopadá na toho, kdo měl nejméně prostředků škodě zabránit, z jediného důvodu, že je jediný, na koho žalobce dosáhne.

Co už odhalily spory o profesní tajemství

Tatáž asymetrie se čte jinde, a to bez jakéhokoli okázalého incidentu. Objevuje se v tom, jak soudci nakládají s tak všedním úkonem, jako je právník píšící text do konverzačního asistenta.

Dne 10. února 2026 rozhodly dva americké federální soudy tentýž den v opačném smyslu otázku, zda vložení dokumentu do platformy generativní AI ruší ochranu tajemství. Ve věci Warner v. Gilbarco soud pro východní obvod Michiganu shledal, že tyto platformy jsou nástroji, nikoli osobami, takže vložit do nich dokument se nerovná jeho vyzrazení třetí osobě. Ve věci United States v. Heppner, jejíž písemné odůvodnění následovalo o týden později, 17. února, dospěl soud pro jižní obvod New Yorku k opačnému závěru, opíraje se zejména o podmínky užívání počítající s uchováváním komunikace, jejím využitím k trénování a možným předáním orgánům veřejné moci.

Tuto rozdílnost jsme podrobně rozebrali v článku věnovaném AI a profesnímu tajemství a podstata se vejde do jediného pozorování. Chceme-li dovodit, že vložení dokumentu do systému se rovná jeho vyzrazení třetí osobě, musíme nejprve připustit, že tento systém je schopen přijmout informaci právně významným způsobem. Francouzská deontologie stojí na příbuzném předpokladu: příručka přijatá Conseil national des barreaux dne 17. března 2026 stanoví jako základní pravidlo nikdy nepředávat generativní AI informaci krytou tajemstvím bez předchozí anonymizace a připomíná, že advokát zůstává jediným pánem své úvahy. Takové pravidlo nikdo nepíše pro kartotéční skříň.

Týž právní řád, který těmto systémům přiznává schopnost zpracování, slouží-li to k prolomení ochrany, jim upírá jakoukoli vlastnost, jakmile jde o přičtení škody. Asymetrie nikdy nevychází náhodně. Stojí-li zdánlivá schopnost systému něco uživatele, soudci ji ochotně uznají. Stála-li by táž schopnost něco poskytovatele, v podobě odpovědnosti, právo připomene, že jde jen o nástroj.

Tři vlády, tři teorie odpovědnosti

Zatímco evropské právo vytváří tuto mezeru opomenutím, jiné jurisdikce odpovídají záměrně, a to opačnými směry. Kontrast je poučnější než kterékoli jednotlivé rozhodnutí.

Spojené království přestalo předstírat, že problém neexistuje. Zpráva smíšeného parlamentního výboru pro lidská práva, zveřejněná 14. září 2026, na zhruba stu stranách konstatuje, že britské právo použitelné na AI zasahuje v podstatě ve fázi nasazení, takže nasazující nesou podstatnou část odpovědnosti, ačkoli jsou často těmi nejméně mocnými, nejhůře vybavenými zdroji a nejhůře umístěnými k rozpoznání rizik či zabránění škodě. Výbor dodává, že velké podniky vyvíjející tyto systémy mají nepřiměřený prostor přesouvat odpovědnost na ty, kdo je nasazují. Doporučuje povinnosti náležité péče rozložené po celém řetězci, jediný zákon pokrývající celý životní cyklus a nezávislý dozorový orgán na zákonném základě. Vláda neuvedla harmonogram.

Colorado šlo přesně opačným směrem. Jeho zákon z roku 2024 ukládal podnikům povinnost péče proti algoritmické diskriminaci v rozhodnutích o zaměstnání, bydlení, úvěru a zdravotní péči, doplněnou o posouzení dopadů a programy řízení rizik. Byl napaden 9. dubna 2026 společností xAI u federálního soudu v Coloradu, ministerstvo spravedlnosti vstoupilo do řízení na podporu této žaloby 24. dubna a výkon textu byl 27. pozastaven. Dne 14. května guvernér podepsal předpis, který jej ruší a nahrazuje, několik týdnů před datem použitelnosti. Nový zákon, použitelný od 1. ledna 2027 s výhradou dokončení prováděcích prací nejvyššího státního zástupce, ruší povinnost nediskriminace, posouzení dopadů i programy řízení rizik. Namísto toho: pokud automatizovaný systém vydá rozhodnutí nepříznivé pro vás, máte nárok na vysvětlení srozumitelným jazykem a na lidské přezkoumání. Starý zákon se ptal, zda byly návrh a účinky systému protiprávní. Nový se ptá pouze, zda jste byli informováni, což o systému samotném nevyžaduje prokázat vůbec nic.

Itálie udělala opak obou. Legislativní dekret č. 160 ze dne 9. září 2026, zveřejněný v úředním věstníku 15. září a účinný od 30., vkládá do trestního zákoníku článek 437 bis. Opomenutí technických bezpečnostních opatření nebo lidského dohledu vyžadovaných u systému AI s vysokým rizikem se trestá odnětím svobody na jeden až pět let, vznikne-li z něj nebezpečí pro život nebo tělesnou integritu osob, a na dva až osm let, týká-li se nebezpečí bezpečnosti státu. Neoprávněná změna takového systému se trestá dvěma až šesti lety a třemi až deseti, je-li ve hře bezpečnost státu. Podniky souběžně nesou vlastní odpovědnost podle legislativního dekretu 231/2001, s peněžitými sankcemi 600 až 1000 kvót za článek 437 bis a 200 až 700 kvót za neoprávněné šíření obsahu vytvořeného nebo pozměněného AI. V občanskoprávní rovině získává poškozený příkaz k předložení technické dokumentace, zákonnou domněnku příčinné souvislosti a přímý nárok vůči pojistiteli odpovědného.

Postaveny vedle sebe nejsou tyto tři odpovědi variantami téže politiky. Jsou to tři strukturálně odlišné teorie toho, co odpovědnost vyžaduje: informace, procedura, nebo vězení.

Co řeší architektura a co právo neřeší

Zde se naše práce potkává s tímto tématem. Architektura, která nedrží klíč k vaší komunikaci, nemá nic, co by soud mohl nařídit vydat, co by regulátor mohl vyžadovat nebo do čeho by zvědavý zaměstnanec mohl nahlédnout. Poskytovatel, který nevidí, co systém s údajem udělal, není ani tím, kdo dodatečně rozhodne, co z toho bylo přijatelné užití. Tato logika není vlastní jen AI. Potkali jsme ji u 5G a lokalizace, kde právo upravuje přístup k údajům místo toho, aby bránilo jejich vzniku, a poté u SignalTrace, kde Evropa vyváží sledovací schopnost, kterou si sama doma zakazuje. Naše srovnání šifrovaných messengerů došlo k témuž závěru jinou cestou: chrání struktura systému, nikoli slib toho, kdo jej provozuje.

Závěr

Žádná ze tří evropských cest nebyla navržena s ohledem na emergentní chování mezi agenty a asymetrie patrná ve sporech o profesní tajemství naznačuje, že obtíž není ve skutečnosti dogmatická. Právo umí uznat, že systém zpracovává informaci po způsobu mysli, slouží-li toto uznání straně, která o ně žádá. Soustavně odmítá je rozšířit tam, kde by něco stálo toho, kdo systém postavil nebo nasadil. Žádná obratnější formulace sama nezacelí mezeru, na jejímž otevření mají zájem všichni.

Neplyne z toho, že je třeba vymyslet čtvrtou právní kategorii. Plyne z toho, že je lepší stavět systémy, v nichž otázka, kdo odpovídá, nezávisí především na lokalizaci mysli, vady či nepřerušeného řetězce úmyslu. Zde probrané jurisdikce se stále přou o to, kam umístit břemeno poté, co škoda nastala. Trvalejší odpověď nespočívá v dohodě o tomto místě. Spočívá ve zmenšení počtu věcí, za které bude kdokoli, včetně systému samotného, muset odpovídat.

Zdroje

Tato analýza je nabízena jako obecný právní rozbor a příspěvek do diskuse. Nepředstavuje právní poradenství.

Štítky
#Judikatura #Regulace EU #Digitální suverenita
Sdílet

Související články