Проблемы ответственности за неисполнение / ненадлежащее исполнение договоров, заключенных с помощью чат-ботов, действующих на базе искусственного интеллекта. Статьи по предмету Коммерческое право

Наша компания оказывает помощь по написанию статей по предмету Коммерческое право. Используем только актуальное законодательство, проекты федеральных законов, новейшую научную литературу и судебную практику. Предлагаем вам воспользоваться нашими услугами. На все выполняемые работы даются гарантии

ЗАКАЗАТЬ

Вернуться к списку статей по юриспруденции

ПРОБЛЕМЫ ОТВЕТСТВЕННОСТИ ЗА НЕИСПОЛНЕНИЕ / НЕНАДЛЕЖАЩЕЕ ИСПОЛНЕНИЕ ДОГОВОРОВ, ЗАКЛЮЧЕННЫХ С ПОМОЩЬЮ ЧАТ-БОТОВ, ДЕЙСТВУЮЩИХ НА БАЗЕ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА

В.С. ХАРЬКОВ

Внедрение чат-ботов на базе искусственного интеллекта в договорный оборот создало новый пласт правовых проблем, масштаб которых стремительно растет по мере распространения генеративных языковых моделей. Современные чат-боты, построенные на архитектуре больших языковых моделей, способны вести свободный диалог с пользователем, формулировать коммерческие предложения, описывать характеристики товаров и услуг, а в ряде случаев - самостоятельно принимать заказы и подтверждать условия сделки. Вопрос о том, кто - разработчик, оператор или пользователь - несет ответственность за ошибки чат-бота при заключении и исполнении договора, остается открытым как в российской, так и в зарубежной доктрине. Российское гражданское право, допуская заключение договоров в электронной форме (ст. 160, 434, 438 ГК РФ <1>), не содержит специальных норм об автоматизированном волеизъявлении. Между тем мировая практика - от канадского дела Moffatt v. Air Canada (2024) до прецедента Garcia v. Character Technologies - демонстрирует, что суды последовательно возлагают ответственность на компании-операторы, отказывая чат-боту в статусе самостоятельного правового субъекта. Целью настоящего исследования являются анализ проблем ответственности за неисполнение и ненадлежащее исполнение договоров, заключенных с помощью ИИ-чат-ботов, и предложения по совершенствованию российского законодательства.
--------------------------------
<1> Федеральный закон от 18 марта 2019 г. N 34-ФЗ "О внесении изменений в части первую, вторую и статью 1124 части третьей Гражданского кодекса Российской Федерации" // СЗ РФ. 2019. N 12. Ст. 1224.

Заключение договора с помощью чат-бота представляет собой разновидность электронной сделки, однако обладает рядом существенных особенностей, отличающих его от традиционных форм электронной коммерции. Федеральный закон от 18 марта 2019 г. N 34-ФЗ "О внесении изменений в части первую, вторую и статью 1124 части третьей Гражданского кодекса Российской Федерации" модернизировал ст. 160 ГК РФ, установив, что письменная форма сделки считается соблюденной при обмене электронными документами. Вместе с тем классическая модель оферты и акцепта, закрепленная в ст. 435 - 438 ГК РФ, осложняется фундаментальной проблемой волеизъявления: чат-бот не обладает сознанием и правосубъектностью, а его "волеизъявление" является юридической фикцией, производной от программного кода и обучающих данных. А.И. Савельев квалифицирует электронных агентов как инструменты, а не как субъектов права, подчеркивая, что ответственность за действия инструмента лежит на его владельце <2>. Данная позиция разделяется большинством российских цивилистов и согласуется с общим принципом, согласно которому вещь не может быть носителем обязанности.
--------------------------------
<2> Савельев А.И. Электронная коммерция в России и за рубежом: правовое регулирование. 2-е изд. М.: Статут, 2022. С. 215.

Непредсказуемость поведения генеративных чат-ботов создает дополнительную, качественно новую проблему, не свойственную детерминированным автоматизированным системам. Феномен так называемых галлюцинаций ИИ - порождения правдоподобного, но не соответствующего действительности контента - ставит под сомнение возможность безусловного отнесения действий чат-бота к волеизъявлению оператора. В.А. Лаптев предложил пять признаков ИИ, из которых автономность принятия решений делает проблему волеизъявления качественно отличной от проблемы обычных электронных сделок <3>. Оферта может формулироваться чат-ботом динамически, в процессе диалога, что сближает такие договоры с устными переговорами, но с принципиальным отличием: "переговорщик" - программа, не способная нести ответственность за свои слова. Если классический интернет-магазин предлагает заранее утвержденные условия, то генеративный чат-бот способен импровизировать, предлагая скидки или описывая характеристики товара, которые не соответствуют действительности. Разрыв между традиционной моделью электронной оферты и реальным поведением генеративного ИИ оказывается значительно глубже, чем это могло представляться законодателю.
--------------------------------
<3> Лаптев В.А. Понятие искусственного интеллекта и юридическая ответственность за его работу // Право. Журнал ВШЭ. 2019. N 2. С. 81.

С точки зрения правовой квалификации договор, заключенный посредством чат-бота, является электронной сделкой, форма которой определяется ст. 160, 434 ГК РФ. Однако его специфика состоит в том, что генеративные модели создают контент, не являющийся воспроизведением заранее утвержденных текстов. Это означает, что содержание оферты - и, соответственно, договорных условий - определяется алгоритмом, а не волей человека. В.В. Блажеев и М.А. Егорова в своей монографии справедливо обращают внимание на то, что существующие нормы ГК РФ об электронной форме сделки были разработаны для детерминированных систем и не учитывают стохастическую природу генеративного ИИ. Из этого следует, что действующее законодательство нуждается не столько в точечных поправках, сколько в формировании нового понятийного аппарата, способного охватить автономное генеративное волеизъявление. И.К. Тебенев, анализируя форму сделок в электронной коммерции, подчеркивает, что идентификация сторон и фиксация условий сделки приобретают особое значение при использовании автоматизированных систем, поскольку постфактум установить содержание волеизъявления может оказаться затруднительным.
Тесно связанной с проблемой правовой природы является проблема определения субъекта ответственности. В экосистеме ИИ-чат-бота задействованы, как правило, четыре категории участников: разработчик базовой модели, интегратор (лицо, осуществляющее доработку и настройку модели для конкретных бизнес-задач), оператор платформы (компания, от имени которой чат-бот взаимодействует с клиентами) и пользователь. Большинство российских и зарубежных ученых квалифицируют ИИ как объект, а не как субъекта права <4>. Национальная стратегия развития ИИ <5> прямо отрицает правосубъектность ИИ, рассматривая его как инструмент повышения эффективности различных отраслей. Концепция развития регулирования отношений в сфере технологий ИИ и робототехники до 2024 года <6> указывала на ответственность оператора, однако механизмы такой ответственности не были конкретизированы, что оставило значительный пробел в правоприменении.
--------------------------------
<4> Чаннов С.Е. Робот (система ИИ) как субъект (квазисубъект) права // Актуальные проблемы российского права. 2022. Т. 17. N 12. С. 98.
<5> Указ Президента РФ от 10 октября 2019 г. N 490 (ред. от 15.02.2024 N 124) "О развитии искусственного интеллекта в Российской Федерации" (вместе с Национальной стратегией развития искусственного интеллекта на период до 2030 года) // СПС "КонсультантПлюс".
<6> Распоряжение Правительства РФ от 19 августа 2020 г. N 2129-р "Об утверждении Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года" // СПС "КонсультантПлюс".

В доктрине сформировалось несколько конкурирующих подходов к распределению ответственности. Ю.С. Харитонова, В.С. Савина и Ф. Паньини систематизировали три основные модели: ответственность оператора, ответственность разработчика и солидарная (либо долевая) ответственность нескольких участников экосистемы <7>. Каждая из этих моделей имеет свои достоинства и ограничения. Модель ответственности оператора наиболее удобна для потребителя, поскольку позволяет предъявить требование конкретному лицу, с которым потребитель вступил во взаимодействие. Модель ответственности разработчика справедлива в тех случаях, когда дефект кроется в самой модели, а оператор не имел возможности его выявить. Солидарная модель обеспечивает максимальную защиту потребителя, но создает риски чрезмерного бремени для добросовестных участников рынка. Н.Н. Апостолова обосновала применение ст. 1079 ГК РФ к владельцу ИИ-системы по аналогии с ответственностью за вред, причиненный источником повышенной опасности, т.е. ответственность без вины <8>. Данный подход представляется перспективным, однако требует уточнения критериев отнесения ИИ-систем к источникам повышенной опасности. Я.В. Гайворонская и Е.А. Гальчун выделили три ситуации негативных проявлений ИИ, из которых причинение вреда ИИ самостоятельно, без непосредственного управляющего воздействия человека, наиболее характерно для генеративных чат-ботов <9>. В.В. Архипов и В.Б. Наумов еще в 2017 г. указывали на необходимость теоретического осмысления статуса робототехнических систем и разработки специальных законодательных конструкций, учитывающих степень автономности технологии.
--------------------------------
<7> Харитонова Ю.С., Савина В.С., Паньини Ф. Гражданско-правовая ответственность при разработке и применении систем ИИ и робототехники // Вестник Пермского университета. 2022. N 4. С. 690.
<8> Апостолова Н.Н. Ответственность за вред, причиненный искусственным интеллектом // Северо-Кавказский юридический вестник. 2021. N 1. С. 115.
<9> Гайворонская Я.В., Гальчун Е.А. Вред, причиненный ИИ: аспекты ответственности и правосубъектности // Advances in Law Studies. 2021. Т. 9. N 4. С. 12.

Судебная практика Верховного Суда РФ, хотя и не рассматривала напрямую споры из договоров, заключенных ИИ-чат-ботами, содержит ряд позиций, применимых по аналогии. В деле "Связного" <10> и в деле ЦУМа <11> Верховный Суд РФ подтвердил обязательную силу публичной оферты, размещенной на сайте продавца: информация, доведенная до потребителя через электронные средства коммуникации, порождает обязательства для продавца вне зависимости от того, каким техническим способом она была сформирована. Данный подход создает основу для распространения ответственности оператора на случаи, когда условия договора были сгенерированы чат-ботом. С.Е. Чаннов, анализируя перспективы признания робота квазисубъектом права, приходит к выводу о том, что в обозримой перспективе более практичным является не наделение ИИ самостоятельной правосубъектностью, а совершенствование механизмов ответственности лиц, использующих ИИ в своей деятельности.
--------------------------------
<10> Определение СК Верховного Суда РФ от 4 апреля 2023 г. N 49-КГ22-28-К6 // СПС "КонсультантПлюс".
<11> Определение СК Верховного Суда РФ от 6 июня 2023 г. N 16-КГ23-6-К4 // СПС "КонсультантПлюс".

Переходя к анализу конкретных правовых режимов ответственности за действия чат-бота, следует прежде всего рассмотреть договорную ответственность. Если чат-бот нарушает условия, на которых был заключен договор, - например, гарантирует определенный срок доставки, который впоследствии не соблюдается, или указывает заниженную цену, - к оператору могут быть предъявлены требования по ст. 393 и 394 ГК РФ о возмещении убытков и взыскании неустойки. По справедливому замечанию Е.А. Свиридовой, ставить вопрос о прямой ответственности самого ИИ пока преждевременно <12> - бремя ответственности неизбежно ложится на оператора как на лицо, извлекающее выгоду из использования технологии. Пленум Верховного Суда РФ в Постановлении от 25 декабря 2018 г. N 49 детально разъяснил порядок направления оферты и ее акцепта, но ситуация, при которой договорные условия порождаются не волей человека, а работой программного алгоритма, этими разъяснениями не охвачена. Возникает дополнительная сложность в определении момента заключения договора: если чат-бот ведет многоступенчатый диалог, в ходе которого постепенно формируются существенные условия, установить, в какой именно момент оферта была акцептована, может оказаться затруднительным.
--------------------------------
<12> Свиридова Е.А. Проблема ответственности ИИ через призму концепции гражданско-правовой ответственности Франции // Экономика. Налоги. Право. 2020. Т. 13. N 3. С. 155.

Европейский союз избрал иную стратегию, сосредоточившись на регулировании рисков. EU AI Act (Регламент 2024/1689) обязывает информировать лиц о взаимодействии с ИИ <13>; нарушение этого требования транспарентности влечет штрафы до 35 млн евро или 7% мирового оборота компании. Статья 5 Регламента запрещает ИИ-системы, использующие манипулятивные или обманные техники, - норма, непосредственно применимая к недобросовестным чат-ботам, подталкивающим потребителя к невыгодным для него решениям. Обновленная Директива о продуктовой ответственности (EU) 2024/2853 включила ИИ в категорию "продуктов", подлежащих строгой ответственности, что означает возможность привлечения разработчика и оператора к ответственности без доказывания вины. Вместе с тем EU AI Act является прежде всего актом о безопасности и управлении рисками, а не о договорном праве; он не регулирует порядок заключения контрактов через ИИ и не устанавливает правил атрибуции волеизъявления электронного агента. Тем не менее совокупное воздействие EU AI Act и обновленной Директивы о продуктовой ответственности формирует значительно более плотную регуляторную среду, чем та, которая существует в российском праве.
--------------------------------
<13> Regulation (EU) 2024/1689 (AI Act). Art. 50(1).

Особого внимания заслуживает решение канадского суда по делу Moffatt v. Air Canada (2024) <14>, которое стало одним из первых прецедентов привлечения компании к ответственности за недостоверную информацию, предоставленную ИИ-чат-ботом. В ходе рассмотрения дела было признано, что организация отвечает за сведения, транслируемые ее виртуальным помощником, а клиент вправе полагаться на полученную информацию без обязанности сверять ее с другими разделами корпоративного сайта. По существу, судебный акт сформировал правило, в силу которого хозяйствующий субъект, интегрировавший чат-бот в процесс обслуживания, берет на себя последствия его ошибочных сообщений.
--------------------------------
<14> Moffatt v. Air Canada, 2024 BCCRT 149.

Итоги проведенного исследования указывают на потребность в обновлении законодательной базы. Прежде всего назрела необходимость включения в ГК РФ положений об электронных агентах, ориентируясь на опыт § 14 UETA: сделку следует признавать состоявшейся, когда ее условия сформированы программной системой, функционирующей в интересах одной из сторон. При этом юридически значимое волевое действие надлежит относить к лицу, запустившему данного электронного агента, так как именно оно получает экономическую пользу от его функционирования и способно задавать рамки его деятельности. Параллельно требуется гарантировать контрагенту возможность устранения допущенной ошибки в ситуации, когда программная система не обеспечила средств для предупреждения некорректного ввода данных, - по модели защитного инструмента, закрепленного в § 10 UETA.
Помимо этого, необходимо сформировать многоуровневую систему ответственности, гармонизирующую интересы потребителя с рациональным перераспределением рисков среди субъектов ИИ-экосистемы. Основным ответчиком перед контрагентом призван выступать оператор - тот, чье имя использует чат-бот при общении с клиентами. За оператором должно быть сохранено право обратного требования к создателю модели либо лицу, осуществившему ее интеграцию, если нарушение обязательства обусловлено недостатком самой модели или погрешностью технической настройки. Имущественные последствия так называемых галлюцинаций генеративного ИИ - ситуаций, когда модель продуцирует недостоверные сведения, - надлежит относить на счет оператора при условии, что он не реализовал достаточных мер надзора: системы фильтрации ответов, тематического ограничения диалога или обязательной проверки ключевой информации. Подобная конструкция созвучна логике EU AI Act, обязывающего оператора гарантировать надлежащее участие человека в управлении ИИ-системами, отнесенными к категории высокого риска.
Равным образом заслуживает внимания корректировка ст. 26.1 Закона РФ от 7 февраля 1992 г. N 2300-1 "О защите прав потребителей" посредством введения специальных правил, адаптированных к применению ИИ-чат-ботов в дистанционной коммерции. Данные правила призваны обязать продавца информировать покупателя о том, что коммуникация ведется с программным алгоритмом (как это предусмотрено ст. 50 EU AI Act), гарантировать возможность переключения на живого консультанта в любой момент взаимодействия и приравнять ответственность продавца за сообщения чат-бота к ответственности за информацию, исходящую от штатного сотрудника. Совокупность этих мер призвана нивелировать информационное неравенство: покупатель должен осознавать, что ведет диалог с программой, и располагать возможностью запросить помощь человека при возникновении сомнений в корректности предоставленных данных.
Наряду с этим представляется обоснованным введение обязательного страхования имущественной ответственности операторов ИИ-систем, задействованных в договорных отношениях. Формирование страхового фонда обеспечит покрытие потерь, возникающих вследствие ошибочной работы чат-ботов, и вместе с тем выступит экономическим стимулом к совершенствованию качества программных решений. Кроме того, требуется нормативно обязать оператора сохранять записи диалогов чат-бота с клиентами на протяжении не менее трех лет и предоставлять их по требованию контрагента либо судебного органа, придавая таким записям доказательственное значение. Без надлежащей фиксации содержания общения с чат-ботом потребитель сталкивается с практически неустранимыми доказательственными препятствиями, что де-факто ограничивает его доступ к судебной защите.
Таким образом, проведенный анализ выявляет системный разрыв между технологической реальностью и правовым регулированием. Чат-боты на базе генеративного ИИ уже заключают договоры, формулируют условия и предоставляют информацию, определяющую экономические решения потребителей, однако российское законодательство не содержит ни определения электронного агента, ни правил атрибуции его действий, ни специального режима ответственности. Мировой опыт демонстрирует конвергенцию подходов: ни одна юрисдикция не наделила ИИ правосубъектностью; ответственность последовательно возлагается на оператора; потребитель имеет право разумно доверять информации чат-бота. Предложенная модель каскадной ответственности с обязательным раскрытием статуса ИИ, логированием диалогов и страхованием создает баланс между стимулированием технологических инноваций и защитой прав контрагентов.

Литература

1. Апостолова Н.Н. Ответственность за вред, причиненный искусственным интеллектом / Н.Н. Апостолова // Северо-Кавказский юридический вестник. 2021. N 1. С. 112 - 119.
2. Архипов В.В. О некоторых вопросах теоретических оснований развития законодательства о робототехнике / В.В. Архипов, В.Б. Наумов // Закон. 2017. N 5. С. 157 - 170.
3. Гайворонская Я.В. Вред, причиненный ИИ: аспекты ответственности и правосубъектности / Я.В. Гайворонская, Е.А. Гальчун // Advances in Law Studies. 2021. Т. 9. N 4. С. 10 - 18.
4. Глобальный атлас регулирования искусственного интеллекта. Издание 2023 / под редакцией А.В. Незнамова. 2-е изд. Москва, 2023. 320 с.
5. Лаптев В.А. Понятие искусственного интеллекта и юридическая ответственность за его работу / В.А. Лаптев // Право. Журнал ВШЭ. 2019. N 2. С. 79 - 102.
6. Савельев А.И. Электронная коммерция в России и за рубежом: правовое регулирование / А.И. Савельев. 2-е изд. Москва: Статут, 2022. 640 с.
7. Свиридова Е.А. Проблема ответственности ИИ через призму концепции гражданско-правовой ответственности Франции / Е.А. Свиридова // Экономика. Налоги. Право. 2020. Т. 13. N 3. С. 152 - 160.
8. Тебенев И.К. Форма сделок и идентификация их сторон в электронной коммерции (часть 1) / И.К. Тебенев // Вестник экономического правосудия Российской Федерации. 2024. N 3. С. 99 - 149.
9. Филипова И.А. Правовое регулирование искусственного интеллекта / И.А. Филипова. 3-е изд. Нижний Новгород: ННГУ, 2025. 256 с.
10. Харитонова Ю.С. Гражданско-правовая ответственность при разработке и применении систем ИИ и робототехники / Ю.С. Харитонова, В.С. Савина, Ф. Паньини // Вестник Пермского университета. 2022. N 4. С. 683 - 708.
11. Цифровое право: учебник / под редакцией В.В. Блажеева, М.А. Егоровой. Москва: Проспект, 2021. 640 с.
12. Чаннов С.Е. Робот (система ИИ) как субъект (квазисубъект) права / С.Е. Чаннов // Актуальные проблемы российского права. 2022. Т. 17. N 12. С. 94 - 109.

Наша компания оказывает помощь по написанию курсовых и дипломных работ, а также магистерских диссертаций по предмету Коммерческое право, предлагаем вам воспользоваться нашими услугами. На все работы дается гарантия.

ИА ГАРАНТ