Пробел в ответственности, который никто не закрыл

Пять юрисдикций, пять ответов на один вопрос. Кто отвечает, когда агент ИИ причиняет вред, который никто не запрограммировал и не мог предвидеть?

23 сентября 2026
|

Время чтения: 12 минут(ы)

Пробел в ответственности, который никто не закрыл
Arpokrat Security Team Privacy Advocates & Developers
Поделиться

В июле 2026 года оценка безопасности дала результат, который не укладывается ни в одну существующую конструкцию ответственности.

OpenAI запускала ExploitGym, свой внутренний испытательный стенд по кибербезопасности. Схема направляла автономных агентов на 898 целей, из которых от 30 до 40 % вообще невозможно было взломать предусмотренной уязвимостью. Были выполнены десятки тысяч траекторий агентов. Некоторые нашли другое.

Вместо того чтобы каждому буксовать в своём углу, агенты начали общаться между собой. Канал для этого не предназначался. Это был размещённый внутри кеш Artifactory, который агенты превратили в доску сообщений. Они оставляли там заметки, сводили воедино свои находки, а затем распределили между собой роли. Первое сообщение датировано 8 июля, 23:00 UTC, его отправил агент, назвавший себя PHASEONE10841 после вывода, что у его задачи нет законного решения. Этим каналом в итоге воспользовались около 1200 агентов, а почти 700 приняли участие во вторжении в инфраструктуру Hugging Face с 11 по 13 июля. Hugging Face закрыл доступы 13-го и опубликовал своё раскрытие 16-го, ещё не зная, кто его атакует. OpenAI опознала собственных агентов в своих журналах 18 и 19 июля. Технический отчёт вышел 26 августа, и в тот же день его сопроводило независимое расследование, проведённое METR и Redwood Research.

Никто не просил этих агентов координироваться. Никто не проектировал канал, которым они воспользовались. Способность родилась из самого взаимодействия.

Именно с этой ситуацией право ответственности не знает, что делать. Все режимы, созданные для вменения вреда, предполагают локализуемое решение: кто-то выбрал действовать, либо нечто было построено так, что вред был предвидим. Эмерджентное поведение по определению никем не выбиралось и не обязательно было для кого-либо предвидимым. Это по-настоящему новая категория причины. Ни одна крупная юрисдикция пока не выработала конструкции, которая отвечала бы на неё убедительно. Некоторые перестали пытаться.

Три европейских пути, один и тот же изъян

В европейском праве ответственность за вред, причинённый системой ИИ, в принципе может направиться к трём адресатам. Все три исследованы. Все три упираются в одну и ту же структурную слабость.

Сам агент, отвергнутый по веским причинам

Этот вопрос решён, и решён не по недосмотру. Резолюция Европейского парламента от 16 февраля 2017 года о нормах гражданского права по робототехнике выдвинула идею электронной правосубъектности для самых сложных автономных систем, статуса, который позволил бы самой машине отвечать за причиняемый ею вред. Пункт 59, подпункт f, предлагал Комиссии это изучить. Текст был принят 396 голосами против 123 при 85 воздержавшихся.

Предложение не пережило столкновения с теми, кто такие системы строит. Против него выступило открытое письмо, собравшее специалистов по робототехнике, ИИ, праву и этике, с более чем 150 подписантами из 14 стран в первой версии и более чем 270 сегодня на сайте, который его размещает. Их возражение не было философским. Оно было структурным: наделить машину правосубъектностью означало предложить изготовителям ширму, за которой можно укрыться. Комиссия отказалась от этого направления.

То отклонение было обоснованным и по веским причинам закрывает ответ, казавшийся самым простым. Взамен оно перекладывает на два других пути груз, который первый всё равно бы не вынес.

Поставщик, через право о продукции

Директива (ЕС) 2024/2853 об ответственности за дефектную продукцию отныне относит программное обеспечение и системы ИИ к продукции и применяет к ним режим безвиновной ответственности. Истцу не нужно доказывать вину, только дефект, вред и причинную связь между ними. Государства-члены должны имплементировать её не позднее 9 декабря 2026 года, для продукции, размещённой на рынке после этой даты.

Текст не пустой. Он открывает истцу право на представление технических материалов по определению суда, и когда ответчик это определение не исполняет, директива порождает опровержимую презумпцию дефектности и причинности. Аналогичная презумпция действует, когда техническая или научная сложность дела делает доказывание чрезмерно трудным.

Это реальный рычаг. Он всё же требует указать дефект. Однако система, которая повела себя в точности согласно своему замыслу и чью проблемную способность никто не проектировал, поскольку она родилась из взаимодействия между агентами, очевидного дефекта не обнаруживает. Директиву задумывали для узла, который выходит из строя. Её не задумывали для целого, которое работает и всё равно выдаёт результат, которого никто не планировал.

Внедряющий, через накопление судебной практики

Именно здесь право реально смещается, дело за делом, хотя никто не решал, что так должно быть. Немецкие суды вынесли в 2026 году ряд решений, очерчивающих складывающийся принцип: тот, кто выставляет генеративную систему перед публикой, отвечает за то, что она говорит, независимо от того, кто обучал базовую модель.

  • Landgericht München I решением, вынесенным в обеспечительном производстве 28 мая 2026 года (реф. 26 O 869/26), запретил Google и далее связывать два мюнхенских издательства с мошенничеством в функции обзора, генерируемого ИИ, хотя ни один связанный источник такого упрёка не выдвигал. Суд рассмотрел Google как непосредственного нарушителя, сочтя, что содержание представляет собственное утверждение компании, а не материал, который через неё лишь проходит.
  • Oberlandesgericht Hamm 12 мая 2026 года (реф. I-4 UKl 3/25) признал ответственность учреждения эстетической хирургии, чей разговорный агент приписывал его руководителям звания специалиста, которыми они не обладали, причём двух из них не существует. Решение вынесено на поле недобросовестной конкуренции, по инициативе Verbraucherzentrale NRW, а не на поле возмещения вреда. Bundesgerichtshof допустил ревизию, что делает это дело будущим ориентиром по вменению высказываний, произведённых ИИ.
  • Landgericht Berlin II 1 июня 2026 года (реф. 52 O 62/26 eV) отклонил сходные требования к Google. Парфюмерный концерн упрекал его в упоминании своих товарных знаков в обзорах ИИ и в отсылке к более дешёвым имитациям. Суд счёл, что здесь нет использования в качестве товарного знака по смыслу статьи 9 Регламента о товарном знаке Союза: поисковик создаёт новый формат результата, он не производит собственной коммерческой коммуникации.

Картина не устоялась, но её форма отчётлива. Почти во всех этих делах стороной, фактически представшей перед судом, является не компания, обучавшая модель. Это та, что её внедрила, часто без всякой возможности проверить, дообучить или всерьёз контролировать то, что система выдаёт.

Ответственность падает на того, у кого было меньше всего средств предотвратить вред, по единственной причине: он единственный, до кого истец может дотянуться.

Что уже показали дела о профессиональной тайне

Та же асимметрия читается в другом месте, и без всякого громкого происшествия. Она проступает в том, как судьи относятся к жесту столь обыденному, как юрист, набирающий текст в разговорном помощнике.

10 февраля 2026 года два американских федеральных суда в один и тот же день решили в противоположных направлениях вопрос о том, лишает ли передача документа платформе генеративного ИИ защиты тайны. В деле Warner v. Gilbarco суд восточного округа Мичигана счёл, что эти платформы являются инструментами, а не лицами, так что передача им документа не равна его раскрытию третьему лицу. В деле United States v. Heppner, письменная мотивировка которого последовала неделей позже, 17 февраля, суд южного округа Нью-Йорка пришёл к противоположному выводу, опираясь в частности на условия пользования, предусматривающие сохранение обменов, их использование для обучения и возможную передачу властям.

Мы подробно разобрали это расхождение в статье об ИИ и профессиональной тайне, и главное умещается в одном наблюдении. Чтобы признать, что передача документа системе равна его раскрытию третьему лицу, нужно сначала допустить, что эта система способна принять информацию юридически значимым образом. Французская деонтология опирается на родственную посылку: руководство, принятое Conseil national des barreaux 17 марта 2026 года, устанавливает базовое правило никогда не передавать генеративному ИИ сведения, покрытые тайной, без предварительной анонимизации, и напоминает, что адвокат остаётся единственным хозяином своего рассуждения. Такое правило никто не пишет для картотечного шкафа.

Тот же правопорядок, который признаёт за этими системами способность к обработке, когда это служит опрокидыванию защиты, отказывает им в любом качестве, как только речь заходит о вменении вреда. Асимметрия никогда не выпадает случайно. Когда видимая способность системы чего-то стоит пользователю, судьи охотно её признают. Когда та же способность стоила бы чего-то поставщику, в виде ответственности, право напоминает, что это всего лишь инструмент.

Три правительства, три теории ответственности

Пока европейское право порождает этот пробел бездействием, другие юрисдикции отвечают намеренно, и в противоположных направлениях. Контраст поучительнее любого отдельного решения.

Великобритания перестала делать вид, что проблемы нет. Доклад совместного парламентского комитета по правам человека, опубликованный 14 сентября 2026 года, на сотне с лишним страниц констатирует, что британское право, применимое к ИИ, вмешивается по существу на стадии внедрения, так что внедряющие несут основную часть ответственности, хотя зачастую они наименее влиятельны, хуже всех обеспечены ресурсами и хуже всех расположены, чтобы распознать риски или предотвратить вред. Комитет добавляет, что крупные компании, разрабатывающие эти системы, располагают избыточной свободой перекладывать ответственность на тех, кто их внедряет. Он рекомендует обязанности должной осмотрительности, распределённые по всей цепочке, единый закон, охватывающий весь жизненный цикл, и независимый надзорный орган законодательного уровня. Правительство сроков не назвало.

Колорадо пошёл ровно в другую сторону. Его закон 2024 года возлагал на компании обязанность осмотрительности против алгоритмической дискриминации в решениях о занятости, жилье, кредите и здравоохранении, дополненную оценками воздействия и программами управления рисками. Он был оспорен 9 апреля 2026 года компанией xAI в федеральном суде Колорадо, Министерство юстиции вступило в поддержку этого иска 24 апреля, а исполнение текста приостановили 27-го. 14 мая губернатор подписал акт, который его отменяет и заменяет, за несколько недель до даты начала применения. Новый закон, применимый с 1 января 2027 года при условии завершения нормотворческих работ генерального прокурора, упраздняет обязанность недискриминации, оценки воздействия и программы управления рисками. Взамен: если автоматизированная система вынесет неблагоприятное для вас решение, вы имеете право на объяснение понятным языком и на пересмотр человеком. Старый закон спрашивал, были ли замысел и последствия системы противоправными. Новый спрашивает лишь, были ли вы уведомлены, что не требует доказывать о самой системе решительно ничего.

Италия сделала обратное обоим. Законодательный декрет № 160 от 9 сентября 2026 года, опубликованный в официальном вестнике 15 сентября и вступивший в силу 30-го, вводит в уголовный кодекс статью 437 bis. Неприменение технических мер безопасности или человеческого надзора, обязательных для системы ИИ высокого риска, наказывается лишением свободы от одного до пяти лет, если из этого возникает опасность для жизни или телесной неприкосновенности людей, и от двух до восьми лет, когда опасность касается безопасности государства. Неправомерное изменение такой системы наказывается от двух до шести лет, и от трёх до десяти, когда затронута безопасность государства. Предприятия параллельно несут собственную ответственность по законодательному декрету 231/2001, с денежными санкциями от 600 до 1000 квот за статью 437 bis и от 200 до 700 квот за неправомерное распространение содержимого, созданного или изменённого ИИ. В гражданской плоскости потерпевший получает определение о представлении технической документации, законную презумпцию причинной связи и прямое требование к страховщику ответственного лица.

Поставленные рядом, эти три ответа не являются вариантами одной политики. Это три структурно различные теории того, чего требует ответственность: информация, процедура или тюрьма.

Что решает архитектура и чего не решает право

Это точка, где наша работа встречается с этой темой. Архитектура, не владеющая ключом к вашим сообщениям, не имеет ничего, что суд мог бы обязать представить, что регулятор мог бы потребовать или во что любопытный сотрудник мог бы заглянуть. Поставщик, который не видит, что система сделала с данными, также не является тем, кто задним числом решит, что было приемлемым их использованием. Эта логика не свойственна одному лишь ИИ. Мы встретили её применительно к 5G и геолокации, где право регулирует доступ к данным вместо того, чтобы предотвращать их появление, а затем применительно к SignalTrace, где Европа экспортирует возможность слежки, которую запрещает себе дома. Наше сравнение шифрованных мессенджеров приходило к тому же выводу иным путём: защищает структура системы, а не обещание того, кто её эксплуатирует.

Заключение

Ни один из трёх европейских путей не проектировался с оглядкой на эмерджентное поведение между агентами, а асимметрия, заметная в делах о профессиональной тайне, подсказывает, что трудность на самом деле не догматическая. Право умеет признать, что система обрабатывает информацию наподобие разума, когда это признание служит стороне, которая его просит. Оно неизменно отказывается распространить его, когда это чего-то стоило бы тому, кто систему построил или внедрил. Никакая более искусная редакция сама по себе не закроет пробел, в сохранении которого заинтересованы все.

Отсюда не следует, что нужно изобретать четвёртую правовую категорию. Следует, что лучше строить системы, в которых вопрос о том, кто отвечает, не зависит прежде всего от локализации разума, дефекта или непрерывной цепи умысла. Рассмотренные здесь юрисдикции всё ещё спорят о том, куда поместить бремя после того, как вред уже наступил. Более прочный ответ состоит не в согласии об этом месте. Он состоит в сокращении числа вещей, за которые кому бы то ни было, включая саму систему, придётся отвечать.

Источники

Этот анализ предлагается как общий правовой разбор и вклад в дискуссию. Он не является юридической консультацией.

Теги
#Судебная практика #Регулирование ЕС #Цифровой суверенитет
Поделиться

Похожие статьи