Искусственный интеллект всё чаще оказывает реальное, измеримое воздействие на повседневную жизнь — от медицинских диагнозов до кредитных решений, от систем управления дорожным движением до подбора персонала. Когда система ИИ принимает ошибочное решение или причиняет вред, возникает фундаментальный правовой вопрос: кто несёт ответственность и каким образом пострадавший может получить возмещение? Ответ на этот вопрос не прост, и ЕС взял на себя пионерскую роль в попытке установить чёткую правовую базу. Настоящий текст носит информационный характер и не заменяет индивидуальную юридическую консультацию.
Почему классических деликтных механизмов недостаточно
Традиционное деликтное право основано на доказывании причинно-следственной связи между действием (или бездействием) конкретного лица и причинённым вредом. Применительно к системам ИИ эта модель сталкивается с рядом вызовов:
Проблема непрозрачности («чёрный ящик») — многие системы ИИ, особенно основанные на глубоком обучении, функционируют таким образом, что объяснить, почему было принято то или иное решение, крайне затруднительно, а порой практически невозможно. Доказывание причинно-следственной связи становится исключительно сложным, когда восстановить логику работы системы невозможно.
Распределённая ответственность — разработка и применение одной системы ИИ, как правило, охватывает целую цепочку участников: исследователей, создавших алгоритм; компанию, обучившую модель; интеграторов, встроивших модель в конкретный продукт; а также компанию или физическое лицо, непосредственно использующих систему. Кто из этих участников несёт ответственность и в какой мере?
Адаптивность систем — системы ИИ, которые обучаются и изменяют своё поведение в ходе эксплуатации в производственной среде, могут причинять вред действиями, которые их разработчик не предвидел и не мог предвидеть на момент выпуска в обращение.
Асимметрия информации — пользователь или пострадавший от вреда редко имеет доступ к технической документации, обучающим данным или внутренней логике системы, причинившей ему вред.
Законодательная база ЕС: три опоры
ЕС подходит к вопросу ответственности за ИИ через три взаимосвязанных инструмента:
1. AI Act как превентивный уровень
AI Act (Акт об искусственном интеллекте, Регламент (ЕС) 2024/1689), вступивший в силу 1 августа 2024 года и применяемый постепенно, прежде всего не является напрямую деликтным регулированием — он устанавливает обязательства ex ante (до возникновения вреда) в отношении разработки и применения систем ИИ. Тем не менее нарушение AI Act влечёт прямые последствия для ответственности: неисполнение технических и организационных требований (в части документации, прозрачности, тестирования) может служить ключевым доказательством в гражданских делах о возмещении вреда.
Компания, не проводившая оценку рисков для высокорисковой системы ИИ или не создавшая механизмов контроля со стороны человека, если впоследствии эта система причинила вред, окажется в крайне затруднительном положении при защите в гражданском или уголовном процессе.
2. Новая Директива об ответственности за продукты
Директива об ответственности за продукты 1985 года (85/374/ЕЭС), введшая строгую ответственность (strict liability) за дефектные продукты, была пересмотрена: новая Директива (ЕС) 2024/2853 об ответственности за дефектные продукты опубликована в Официальном журнале ЕС 18 ноября 2024 года, вступила в силу 9 декабря 2024 года, а государства-члены обязаны имплементировать её в национальное законодательство до декабря 2026 года. Новая директива прямо включает программное обеспечение и системы ИИ в категорию «продуктов», что означает возможность в определённых случаях предъявлять иски о возмещении вреда без необходимости доказывания вины. Кроме того, директива предусматривает обязанность раскрытия доказательств и презумпцию дефектности в пользу пострадавшего в определённых ситуациях.
3. Директива об ответственности в сфере ИИ (отозванный проект)
В 2022 году Европейская комиссия представила проект Директивы об ответственности в сфере искусственного интеллекта (AI Liability Directive). Данный инструмент был направлен на адаптацию правил доказывания в судебных разбирательствах, а не на введение специального деликтного режима.
Ключевые положения проекта включали:
Право на объяснение — лица, понёсшие вред, имели бы право требовать от оператора (deployer) и поставщика (provider) системы ИИ документацию и информацию о функционировании системы, относящуюся к причинённому вреду.
Презумпция причинно-следственной связи — если истец докажет, что ответчик нарушил применимые нормы (включая AI Act) и что между данным нарушением и причинённым вредом существует связь, причинно-следственная связь предполагалась бы, а бремя доказывания переходило бы на ответчика.
Эти положения непосредственно отвечали на проблему информационной асимметрии, ставящей пострадавших в невыгодное положение в суде. Однако в 2025 году Европейская комиссия отозвала данный проект из законодательной процедуры, и на дату публикации настоящего текста новый инструмент аналогичного назначения предложен не был. Часть проблем, которые адресовал проект, охвачена новой Директивой об ответственности за продукты, тогда как остальное пока регулируется общими национальными нормами о доказывании.
Распределение ответственности в цепочке создания стоимости ИИ
На практике идентификация ответственного лица требует анализа конкретной роли каждого участника:
Разработчик (developer/provider): Несёт ответственность за дефекты проектирования, ошибки в обучающих данных, недостаточное тестирование и документирование системы. Обязательства по AI Act наиболее обременительны именно для этой роли.
Интегратор (deployer): Несёт ответственность за надлежащий выбор системы ИИ для конкретного применения, соответствие требованиям AI Act в качестве оператора, прозрачность в отношении конечных пользователей и мониторинг системы в процессе эксплуатации.
Конечный пользователь/оператор: Несёт ответственность за надлежащее использование системы в соответствии с инструкциями и назначением. Он не вправе ссылаться на ошибку системы ИИ, если использовал её способом, не предусмотренным инструкцией по эксплуатации.
Когда к возникновению вреда причастны несколько участников, они могут нести солидарную ответственность, при этом каждый из них вправе предъявить регрессное требование к остальным.
Отраслевая специфика: медицина, право, финансы
Ответственность за вред от ИИ особенно чувствительна в регулируемых секторах:
Медицинское применение — диагностические инструменты на основе ИИ классифицируются как медицинские изделия и подпадают под двойную регуляторную базу — MDR (Регламент о медицинских изделиях, Регламент (ЕС) 2017/745) и AI Act. Врач, использующий инструмент ИИ, сохраняет профессиональную ответственность за окончательное диагностическое или терапевтическое решение; он не может освободиться от ответственности, ссылаясь на то, что «ИИ рекомендовал». Это принципиальный вопрос для медицинской практики.
Юридические и финансовые услуги — системы ИИ, дающие юридические советы или финансовые рекомендации, входят в сферу строгого профессионального регулирования. Адвокаты и финансовые консультанты, делегирующие профессиональную оценку системам ИИ, остаются ответственными перед клиентами за результаты таких рекомендаций.
Занятость и управление персоналом (HR) — системы ИИ, применяемые при отборе кандидатов или оценке результатов труда, могут порождать дискриминационный вред. Работодатели, полагающиеся на такие системы, не могут избежать ответственности за дискриминацию, ссылаясь на самостоятельное решение ИИ.
Часто задаваемые вопросы (FAQ)
Если система ИИ допустила ошибку, причинившую мне вред, кого следует привлекать в качестве ответчика? Ответ зависит от конкретных обстоятельств. Как правило, существует два потенциальных ответчика: компания, разработавшая систему (за дефекты проектирования или обучения), и компания или лицо, применившие систему в отношении вас (за ненадлежащее использование или недостаточный контроль). На практике иск нередко предъявляется к обоим участникам, а суд устанавливает распределение ответственности.
Может ли ИИ быть правовым субъектом, самостоятельно несущим ответственность за причинённый вред? По действующему праву ЕС и Сербии — нет. ИИ не является правовым субъектом и не может выступать ответчиком. Ответственность всегда возлагается на физическое или юридическое лицо в цепочке создания стоимости системы ИИ. Дискуссии о возможной правосубъектности ИИ ведутся в академических кругах, однако законодательной реализации в обозримом будущем не предвидится.
Как доказать, что именно система ИИ (а не что-либо иное) причинила вред? Это одно из наиболее сложных доказательств, особенно применительно к непрозрачным системам. Новая Директива об ответственности за продукты (ЕС) 2024/2853 облегчает положение пострадавшего посредством обязанности раскрытия доказательств и презумпции дефектности в определённых ситуациях, тогда как проект Директивы об ответственности в сфере ИИ — предусматривавший презумпцию причинно-следственной связи при нарушении AI Act — был отозван из процедуры. Судебные экспертизы в области информационных технологий и ИИ будут иметь ключевое значение в подобных делах.
Может ли страхование покрыть вред, причинённый ИИ? Рынок страхования от рисков ИИ находится в стадии развития. Отдельные виды страхования профессиональной ответственности и страхования ответственности производителя уже могут покрывать некоторые убытки, причинённые ИИ, в зависимости от конкретного полиса и его охвата. Вопрос о том, распространяется ли действующий полис на риски ИИ, решается путём толкования условий страхования в каждом конкретном случае.
Заключение
Вопрос об ответственности за вред, причинённый ИИ, — это не академическая дилемма: сегодня он уже возникает в судах и на переговорах о возмещении ущерба. Законодательная база ЕС в настоящее время более последовательна, чем когда-либо прежде, — AI Act и новая Директива об ответственности за продукты приняты, — однако ряд элементов, в частности специальные правила доказывания применительно к вреду от ИИ, остаётся неурегулированным после отзыва проекта Директивы об ответственности в сфере ИИ. Компании, разрабатывающие или применяющие системы ИИ, должны проактивно оценить своё место в цепочке ответственности и привести документацию, процедуры контроля и страховое обеспечение в соответствие с предстоящими требованиями.
Если у вас возникли вопросы об ответственности в связи с системами ИИ, которые ваша компания разрабатывает или использует, либо если вы понесли вред от системы ИИ, запишитесь на консультацию к нашей команде, специализирующейся в области цифрового права и регулирования ИИ.
Источники: – https://eur-lex.europa.eu/eli/reg/2024/1689/oj (AI Act, Регламент (ЕС) 2024/1689) – https://eur-lex.europa.eu/eli/dir/2024/2853/oj (Директива (ЕС) 2024/2853 об ответственности за дефектные продукты) – https://digital-strategy.ec.europa.eu/en/policies/liability-artificial-intelligence – https://www.europarl.europa.eu/legislative-train/theme-a-europe-fit-for-the-digital-age/file-liability-for-ai – https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4573801
