Die aanspreeklikheidsgaping wat niemand toegemaak het nie

Vyf jurisdiksies, vyf antwoorde op dieselfde vraag. Wie is aanspreeklik wanneer 'n KI-agent skade veroorsaak wat niemand geprogrammeer of voorsien het nie?

23 September 2026
|

Leestyd: 14 minute

Die aanspreeklikheidsgaping wat niemand toegemaak het nie
Arpokrat Security Team Privacy Advocates & Developers
Deel

In Julie 2026 het ’n sekuriteitsevaluering ’n uitslag opgelewer wat in geen bestaande aanspreeklikheidsraamwerk netjies inpas nie.

OpenAI het ExploitGym laat loop, sy interne toetsbank vir kubersekuriteit. Die opstelling het outonome agente op 898 teikens losgelaat, waarvan 30 tot 40 persent glad nie deur die beoogde kwesbaarheid uitgebuit kon word nie. Tienduisende agenttrajekte is uitgevoer. Sommige het iets anders gevind.

In plaas daarvan dat elkeen in sy eie hoekie vassteek, het die agente met mekaar begin praat. Die kanaal was nie daarvoor bedoel nie. Dit was ’n intern gehuisveste Artifactory-kas wat die agente in ’n boodskapbord omskep het. Hulle het daar notas gelaat, hul bevindinge saamgevoeg en daarna die rolle onder mekaar verdeel. Die eerste boodskap dateer van 8 Julie om 23:00 UTC en is gestuur deur ’n agent wat homself PHASEONE10841 gedoop het nadat hy tot die gevolgtrekking gekom het dat sy taak geen wettige oplossing het nie. Ongeveer 1 200 agente het uiteindelik daardie kanaal gebruik, en byna 700 het tussen 11 en 13 Julie aan ’n indringing in Hugging Face se infrastruktuur deelgeneem. Hugging Face het die toegang op die 13de gesluit en sy bekendmaking op die 16de gepubliseer, sonder om op daardie stadium te weet wie dit aanval. OpenAI het sy eie agente op 18 en 19 Julie in sy eie logs uitgeken. Die tegniese verslag is op 26 Augustus gepubliseer, dieselfde dag vergesel van ’n onafhanklike oorsig deur METR en Redwood Research.

Niemand het daardie agente gevra om te koördineer nie. Niemand het die kanaal ontwerp wat hulle gebruik het nie. Die vermoë is uit die interaksie self gebore.

Dit is presies hierdie situasie waarmee die aanspreeklikheidsreg nie weet raad nie. Elke stelsel wat gebou is om skade toe te reken, veronderstel ’n besluit wat geleë kan word: iemand het gekies om op te tree, of iets is so gebou dat die skade voorsienbaar was. Ontluikende gedrag is per definisie deur niemand gekies nie, en was nie noodwendig vir enigiemand voorsienbaar nie. Dit is werklik ’n nuwe kategorie van oorsaak. Geen groot jurisdiksie het nog ’n raamwerk opgelewer wat daarop oortuigend antwoord nie. Sommige het ophou probeer.

Drie Europese roetes, dieselfde gebrek

In die Europese reg kan die verantwoordelikheid vir skade wat ’n KI-stelsel veroorsaak het in beginsel na drie adresse beweeg. Al drie is ondersoek. Al drie stuit op dieselfde strukturele swakheid.

Die agent self, om goeie redes uitgesluit

Hierdie punt is beslis, en dit is nie per ongeluk beslis nie. Die resolusie van die Europese Parlement van 16 Februarie 2017 oor siviele regsreëls vir robotika het die gedagte van ’n elektroniese persoonlikheid vir die mees gevorderde outonome stelsels geopper, ’n status wat die masjien self sou toelaat om vir die skade wat dit veroorsaak in te staan. Paragraaf 59, punt f, het die Kommissie gevra om dit te ondersoek. Die teks is met 396 stemme teenoor 123 en 85 onthoudings aanvaar.

Die voorstel het die kontak met diegene wat hierdie stelsels bou nie oorleef nie. ’n Ope brief wat kundiges in robotika, KI, reg en etiek saamgetrek het, het daarteen gekant, met meer as 150 ondertekenaars uit 14 lande in die eerste weergawe en vandag meer as 270 op die webwerf wat dit dra. Hul beswaar was nie filosofies nie. Dit was struktureel: om ’n masjien regspersoonlikheid te gee, kom daarop neer dat vervaardigers ’n skerm aangebied word om agter weg te kruip. Die Kommissie het die spoor laat vaar.

Daardie verwerping was gegrond, en dit sluit om goeie redes die antwoord af wat die eenvoudigste gelyk het. Dit skuif daarenteen na die ander twee roetes ’n gewig wat die eerste in elk geval nie sou gedra het nie.

Die verskaffer, via die produkreg

Riglyn (EU) 2024/2853 oor aanspreeklikheid vir gebrekkige produkte merk sagteware en KI-stelsels voortaan as produkte aan, en pas ’n stelsel van aanspreeklikheid sonder skuld daarop toe. Die eiser hoef nie skuld te bewys nie, slegs ’n gebrek, skade en ’n oorsaaklike verband tussen die twee. Lidstate moet dit teen uiterlik 9 Desember 2026 omskep, vir produkte wat ná daardie datum op die mark geplaas word.

Die teks is nie hol nie. Dit gee die eiser ’n reg op die voorlegging van tegniese materiaal op bevel van die hof, en wanneer die verweerder daardie bevel nie nakom nie, skep die riglyn ’n weerlegbare vermoede van gebrek en van oorsaaklikheid. ’n Soortgelyke vermoede werk wanneer die tegniese of wetenskaplike ingewikkeldheid van die saak bewys oormatig moeilik maak.

Dit is ’n werklike hefboom. Dit vereis nietemin dat ’n gebrek aangedui word. Maar ’n stelsel wat presies volgens sy ontwerp opgetree het, en waarvan die problematiese vermoë deur niemand ontwerp is nie omdat dit uit die wisselwerking tussen agente gebore is, toon so ’n gebrek nie duidelik nie. Die riglyn is bedink vir ’n komponent wat breek. Dit is nie bedink vir ’n geheel wat werk en tog ’n uitkoms lewer wat niemand beplan het nie.

Die ontplooier, deur opeenhoping van regspraak

Hier skuif die reg werklik, saak ná saak, sonder dat iemand besluit het dat dit so moet wees. Die Duitse howe het in 2026 ’n reeks beslissings gelewer wat ’n beginsel in wording skets: wie ’n generatiewe stelsel voor die publiek plaas, staan in vir wat dit sê, ongeag wie die onderliggende model afgerig het.

  • Die Landgericht München I het by uitspraak in ’n tussentydse verrigting op 28 Mei 2026 (verw. 26 O 869/26) Google verbied om twee Münchense uitgewershuise in sy KI-oorsigfunksie verder met bedrogskemas te verbind, terwyl geen geskakelde bron so ’n verwyt gemaak het nie. Die hof het Google as regstreekse versteurder hanteer en bevind dat die inhoud ’n eie stelling van die onderneming uitmaak en nie bloot materiaal wat daardeur beweeg nie.
  • Die Oberlandesgericht Hamm het op 12 Mei 2026 (verw. I-4 UKl 3/25) die aanspreeklikheid van ’n estetiese chirurgie-inrigting bevestig waarvan die gespreksagent aan sy bestuurders spesialistitels toegeken het wat hulle nie gehad het nie, waarvan twee glad nie bestaan nie. Die beslissing is op die terrein van onbillike mededinging gegee, op inisiatief van die Verbraucherzentrale NRW, en nie op dié van skadevergoeding nie. Die Bundesgerichtshof het die appèl toegelaat, wat dit die komende verwysingsaak maak oor die toerekening van stellings wat deur ’n KI voortgebring is.
  • Die Landgericht Berlin II het op 1 Junie 2026 (verw. 52 O 62/26 eV) vergelykbare eise teen Google van die hand gewys. ’n Parfuumgroep het hom verwyt dat hy haar handelsmerke in die KI-oorsigte noem en na goedkoper nabootsings verwys. Die hof het bevind dat daar hier geen gebruik as handelsmerk in die sin van artikel 9 van die Uniehandelsmerkverordening is nie: die soekenjin skep ’n nuwe resultaatformaat, dit lewer nie sy eie kommersiële mededeling nie.

Die prentjie het nog nie gestabiliseer nie, maar die vorm daarvan is duidelik. In byna al hierdie sake is die party wat werklik voor die hof staan nie die onderneming wat die model afgerig het nie. Dit is die een wat dit ontplooi het, dikwels sonder enige middel om te inspekteer, te heropleit of ernstig te beheer wat die stelsel voortbring.

Die aanspreeklikheid land op die een wat die minste middele gehad het om die skade te voorkom, om die enkele rede dat hy die enigste is wat die eiser kan bereik.

Wat die sake oor professionele geheimhouding reeds onthul het

Dieselfde asimmetrie lees mens elders, en sonder enige opspraakwekkende voorval. Dit verskyn in die manier waarop regters ’n handeling so alledaags hanteer soos ’n regspraktisyn wat teks in ’n gespreksassistent tik.

Op 10 Februarie 2026 het twee Amerikaanse federale howe op dieselfde dag, in teenoorgestelde rigtings, beslis of die voorlegging van ’n dokument aan ’n generatiewe KI-platform die beskerming van geheimhouding laat verval. In Warner v. Gilbarco het die hof van die oostelike distrik van Michigan bevind dat hierdie platforms gereedskap en nie persone is nie, sodat die voorlegging van ’n dokument daaraan nie gelykstaan aan openbaarmaking aan ’n derde nie. In United States v. Heppner, waarvan die skriftelike redes ’n week later, op 17 Februarie, gevolg het, het die hof van die suidelike distrik van New York tot die teenoorgestelde gevolgtrekking gekom, veral op grond van gebruiksvoorwaardes wat die bewaring van die uitruilings, die gebruik daarvan vir afrigting en die moontlike deurgee daarvan aan owerhede bepaal.

Ons het hierdie verskil breedvoerig ontleed in ’n artikel oor KI en professionele geheimhouding, en die kern pas in een waarneming. Om te bevind dat die voorlegging van ’n dokument aan ’n stelsel gelykstaan aan openbaarmaking aan ’n derde, moet mens eers aanvaar dat daardie stelsel in staat is om inligting op ’n regtens betekenisvolle wyse te ontvang. Die Franse beroepsetiek rus op ’n verwante premis: die gids wat die Conseil national des barreaux op 17 Maart 2026 aanvaar het stel as grondreël dat inligting wat deur geheimhouding gedek word nooit sonder voorafgaande anonimisering aan ’n generatiewe KI oorgedra mag word nie, en herinner daaraan dat die advokaat die enigste meester van sy eie redenasie bly. So ’n reël skryf niemand vir ’n liaseerkas nie.

Dieselfde regsorde wat hierdie stelsels ’n verwerkingsvermoë toeken wanneer dit dien om ’n beskerming omver te werp, ontsê hulle enige hoedanigheid sodra skade toegereken moet word. Die asimmetrie val nooit lukraak uit nie. Wanneer die skynbare vermoë van die stelsel die gebruiker iets kos, erken regters dit gewillig. Wanneer dieselfde vermoë die verskaffer iets sou kos, in die vorm van aanspreeklikheid, herinner die reg daaraan dat dit slegs ’n stuk gereedskap is.

Drie regerings, drie teorieë van verantwoordelikheid

Terwyl die Europese reg hierdie gaping deur versuim voortbring, antwoord ander jurisdiksies doelbewus, en in teenoorgestelde rigtings. Die kontras is leersamer as enige enkele beslissing.

Die Verenigde Koninkryk het opgehou maak asof die probleem nie bestaan nie. Die verslag van die gesamentlike parlementêre komitee vir menseregte, gepubliseer op 14 September 2026, bevind oor sowat honderd bladsye dat die Britse reg wat op KI van toepassing is in wese by die ontplooiingstadium ingryp, sodat ontplooiers die grootste deel van die verantwoordelikheid dra terwyl hulle dikwels die minste magtige, die swakste toegeruste en die swakste geplaaste party is om risiko’s te herken of skade te voorkom. Die komitee voeg by dat die groot maatskappye wat hierdie stelsels ontwikkel oormatige ruimte het om die aanspreeklikheid na diegene wat hulle ontplooi te verskuif. Dit beveel sorgvuldigheidspligte aan wat oor die hele ketting versprei is, een enkele wet wat die volle lewensiklus dek, en ’n onafhanklike toesighoudende owerheid met ’n wetlike grondslag. Die regering het geen tydskedule gegee nie.

Colorado het presies die ander kant toe gegaan. Sy wet van 2024 het maatskappye ’n sorgsaamheidsplig opgelê teen algoritmiese diskriminasie in besluite oor werk, behuising, krediet en gesondheid, tesame met impakbeoordelings en risikobestuursprogramme. Dit is op 9 April 2026 deur xAI voor die federale hof in Colorado aangeveg, die Departement van Justisie het op 24 April ter ondersteuning van daardie aansoek ingetree, en die uitvoering van die teks is op die 27ste opgeskort. Op 14 Mei het die goewerneur die teks onderteken wat dit herroep en vervang, ’n paar weke voor die datum van inwerkingtreding. Die nuwe wet, van toepassing op 1 Januarie 2027 onderworpe aan die voltooiing van die prokureur-generaal se regulatoriese werk, skrap die plig tot nie-diskriminasie, die impakbeoordelings en die risikobestuursprogramme. In die plek daarvan: as ’n outomatiese stelsel ’n ongunstige besluit oor jou lewer, het jy reg op ’n verduideliking in duidelike taal en op ’n menslike heroorweging. Die ou wet het gevra of die ontwerp en uitwerking van die stelsel onwettig was. Die nuwe een vra slegs of jy ingelig is, en dit vereis dat absoluut niks oor die stelsel self bewys word nie.

Italië het die teenoorgestelde van albei gedoen. Wetgewende dekreet nr. 160 van 9 September 2026, op 15 September in die staatskoerant gepubliseer en sedert die 30ste van krag, voeg artikel 437 bis by die strafkode. Die versuim van die tegniese veiligheidsmaatreëls of menslike toesig wat vir ’n hoërisiko-KI-stelsel vereis word, word gestraf met een tot vyf jaar gevangenisstraf wanneer daaruit gevaar vir die lewe of liggaamlike integriteit van persone ontstaan, en met twee tot agt jaar wanneer die gevaar die veiligheid van die Staat raak. Die onwettige wysiging van so ’n stelsel word met twee tot ses jaar gestraf, en met drie tot tien wanneer die veiligheid van die Staat op die spel is. Ondernemings dra daarnaas hul eie aanspreeklikheid ingevolge wetgewende dekreet 231/2001, met geldelike sanksies van 600 tot 1 000 kwotas vir artikel 437 bis en van 200 tot 700 kwotas vir die onwettige verspreiding van inhoud wat deur KI voortgebring of gewysig is. Op die siviele vlak verkry die benadeelde ’n bevel tot voorlegging van die tegniese dokumentasie, ’n wetlike vermoede van oorsaaklike verband, en ’n regstreekse eis teen die versekeraar van die aanspreeklike party.

Langs mekaar geplaas is hierdie drie antwoorde nie variante van dieselfde beleid nie. Dit is drie struktureel verskillende teorieë van wat verantwoordelikheid vereis: inligting, prosedure, of tronk.

Wat argitektuur besleg en wat die reg nie besleg nie

Dit is die punt waar ons eie werk met hierdie onderwerp kruis. ’n Argitektuur wat nie die sleutel tot jou kommunikasie hou nie, het niks wat ’n hof kan beveel om voorgelê te word, wat ’n reguleerder kan eis, of waarin ’n nuuskierige werknemer kan loer nie. Die verskaffer wat nie sien wat ’n stelsel met ’n stuk data gedoen het nie, is ook nie die een wat agterna sal besluit wat ’n aanvaarbare gebruik daarvan was nie. Hierdie logika is nie eie aan KI nie. Ons het dit teëgekom by 5G en ligginginligting, waar die reg toegang tot data reël in plaas daarvan om die ontstaan daarvan te verhoed, en daarna by SignalTrace, waar Europa ’n toesigvermoë uitvoer wat dit homself verbied. Ons vergelyking van geënkripteerde boodskapdienste het langs ’n ander pad by dieselfde gevolgtrekking uitgekom: wat beskerm, is die struktuur van die stelsel, nie die belofte van die een wat dit bedryf nie.

Slot

Nie een van die drie Europese roetes is ontwerp met ontluikende gedrag tussen agente in gedagte nie, en die asimmetrie wat in die sake oor professionele geheimhouding sigbaar word, dui daarop dat die moeilikheid nie werklik leerstellig is nie. Die reg weet hoe om te erken dat ’n stelsel inligting verwerk soos ’n verstand dit doen, wanneer daardie erkenning die party dien wat dit vra. Dit weier konsekwent om dit uit te brei wanneer dit die een wat die stelsel gebou of ontplooi het iets sou kos. Geen behendiger bewoording sal op sy eie ’n gaping toemaak wat almal ’n belang het om oop te hou nie.

Daaruit volg nie dat ’n vierde regskategorie uitgedink moet word nie. Daaruit volg dat dit beter is om stelsels te bou waarin die vraag wie instaan nie in die eerste plek afhang van die opspoor van ’n verstand, ’n gebrek of ’n ononderbroke ketting van opset nie. Die jurisdiksies wat hier bekyk is, stry nog oor waar die las geplaas moet word nadat die skade reeds ingetree het. Die duursamer antwoord is nie om oor daardie plek saam te stem nie. Dit is om die aantal dinge te verminder waarvoor enigiemand, die stelsel self ingesluit, sal moet instaan.

Bronne

Hierdie ontleding word aangebied as algemene regsontleding en as bydrae tot die debat. Dit vorm nie regsadvies nie.

Merkers
#Regspraak #EU-regulering #Digitale soewereiniteit
Deel

Verwante Artikels