Правовое регулирование искусственного интеллекта (ИИ) в последние годы превращается из теоретический обсуждений к необходимости выработки правовых актов и решений. Это связано в первую очередь с быстрым развитием самой технологии. Еще недавно, говоря об ИИ, эксперты подразумевали самообучающиеся программы, способные автоматизировать рутинные задачи на основе больших данных. Однако сегодня реальностью становится так называемый «генеративный ИИ» — система, создающая образы и тексты. Выступая на конференции Artificial Intelligence Journey, Президент России Владимир Путин назвал его внедрение новой страницей в истории человечества.

С каждым годом ИИ находит все большее применение в различных отраслях, таких как медицина, транспорт и обеспечение общественного правопорядка. Наука и образование также не остаются в стороне. Именно появление и стремительное развитие «генеративного ИИ» заставляют юристов, работающих в сфере образования и науки, задуматься о необходимости правового регулирования этой области и искать ответы на многочисленные возникающие вопросы.

На площадке ПМЮФ в рамках секции «Правовое регулирование использования искусственного интеллекта в образовании и науке» участники обсудили, кто несет юридическую и моральную ответственность за образовательный контент, созданный ИИ, кем он верифицируется, кому принадлежат авторские права, как будут защищены правообладатели и простые люди.

Наталья Третьяк, генеральный директор ГК «Просвещение», в качестве модератора задала тон дискуссии:

Понятие искусственного интеллекта появилось в 1956 году американским информатиком Джоном Маккарти, заменив термин «машинное обучение». Сегодня кажется, что нет области, где бы не применялись технологии ИИ: обработка данных, транспорт, банковская сфера, сельское хозяйство. Согласно исследованиям, в 2024 году 55% компаний по всему миру используют ИИ. Появление генеративного искусственного интеллекта стало настоящим прорывом, который можно сравнить с изобретением электричества и освоением космоса. Генеративный ИИ начал сам создавать контент. По прогнозам специалистов, с вероятностью 50% к 2047 году будет создан искусственный интеллект, по своим возможностям близкий к человеческому мозгу. Все это создает принципиально новую реальность, требующую от юристов поиска новых решений. На данный момент в законодательстве нет четкого определения ИИ, верификации контента и ответственности за решения, принимаемые ИИ. Вопросов много.

Талия Хабриева, директор Института законодательства и сравнительного правоведения при Правительстве РФ, заместитель президента Российской академии наук, отметила, что искусственный интеллект настолько быстро развивается, что правовая консервативная система также прошла быстрый путь от непонимания и попыток отвергнуть эти технологии до формирования целостного представления о них в правовой сфере:

Мы осознаем, какие отношения должны быть урегулированы, и что именно подразумевается под этим понятием. Наши исследования позволяют утверждать, что необходимо четко определиться с понятием искусственного интеллекта и предложить соответствующую модель правового регулирования. Сегодня существуют предложения признать ИИ самостоятельным субъектом права, связывая это с революцией в правовой области. Однако некоторые рассматривают ИИ как объект права. Считать ИИ субъектом права — это заблуждение, которое может ввести нас в тупик, поэтому важно выработать собственное определение.

Объекты интеллектуального права можно копировать, но с искусственным интеллектом ситуация иная. Исходные характеристики могут копироваться, но благодаря программе самообучения возможны изменения и дополнения характеристик. В этом случае это уже не объект. Основной вывод заключается в том, что наука определяет технологии ИИ как объект права, и, вероятно, развитие в этой области будет происходить именно так. С точки зрения защиты человека – это отвечает запросам общества. Позиция нашего института и коллег из РАН аналогична.

Развитие экспериментальных правовых режимов является важным шагом для предложения оптимальных решений, способствующих кооперации всех сторон. При этом необходимо учитывать существующие конституционные параметры. Мы стали первой страной, которая определила управление научно-технологическим прогрессом как государственную функцию. Основное направление заключается в обеспечении безопасности всех сторон: человека, общества, государства и бизнеса. Важно, чтобы регуляция соответствовала этому направлению.

Ольга Ускова, основатель, президент Cognitive Technologies, рассказала о вызовах, которые сегодня стоят в сфере искусственного интеллекта и которые нужно учитывать:

В России функционируют два завода по производству искусственных технологий: одна в Томске, специализирующаяся на серийном производстве искусственных мозгов, и другая –  в Чебоксарах. Процесс уже идет, поэтому правовое регулирование необходимо уже сейчас, а не в будущем. Технологическая война, которая разворачивается в настоящее время, выходит на международный юридический уровень. Наши юристы должны учитывать это.

Искусственный интеллект имеет национальность. Американские машины с ИИ работают на американское правительство. Если говорить о регулировании, вопрос отечественного производства является критичным. Если вы не владеете дата-центрами и если технологии обслуживаются за границей, то вы запускаете шпиона внутри своей страны. Это срочно нужно регулировать.

Сейчас важно сосредоточиться на следующих вопросах: прекращение действия иностранного ИИ на нашей территории и введение регулирующих факторов. Компании, желающие работать здесь, должны иметь центры обслуживания на нашей территории и быть прозрачными для нас. Вторым приоритетом является срочная градация по отраслевым зонам, так как к разным отраслям нужен разный подход.

Гун Нань, заместитель директора Центра по изучению российского права, Хэйлунцзянский университет, рассказал об опыте страны в развитии:

Китай активно внедряет искусственный интеллект в судебную систему с целью повышения эффективности правосудия и укрепления доверия к судебной системе. Искусственный интеллект в основном используется для оказания вспомогательных услуг юристам и судьям, таких как поиск прецедентов, запись судебных заседаний, обработка документов. Искусственный интеллект может участвовать в рассмотрении простых и несложных дел, освобождая судей для работы над более сложными делами. Однако необходимо обеспечить, чтобы искусственный интеллект компенсировал недостатки человеческих судей, а не заменял их полностью.

Каушал Кумар Бхагат, доцент центра передовых технологий и разработок, заместитель председателя центра педагогического обучения и виртуальных навыков Индийского технологического Института Харагпур, поделился опытом использования ИИ в сфере образования Индии и какие проблемы это несет:

В 2020 году в Индии была введена новая политика в сфере образования, уделяющая много внимания развитию и инновациям. В 2024 году наше правительство начало новую миссию по использованию искусственного интеллекта. Почти 103 миллиарда долларов было вложено в науку, технологии и образование.

В 21 веке мы считаем, что ИИ изменит динамику в развивающихся странах. Тем не менее мы понимаем, что использование таких технологий в науке и образовании приносит не только возможности, но и вызовы. Возникают этические вопросы, требующие новых подходов. Важно сотрудничество между заинтересованными сторонами и использование существующих правовых систем.

Кумар Бхагат также отметил, что для Индии важны вопросы ответственности и этики, связанные с контентом, созданным ИИ. В Индии много культур, и существует вероятность дискриминации с точки зрения алгоритмов, что делает важным учет этих аспектов при разработке нейросетей. Необходимо учитывать этические руководящие принципы, важные для использования ИИ в образовании и науке.

Марина Гиря, заместитель руководителя направления по работе с государственными органами власти ООО «Нетология», рассказала об Ассоциации цифровых инноваций в образовании (РАЦИО), которая объединяет компании, работающие в сфере дополнительного профессионального образования (ДПО). В состав Ассоциации входят компании, которые реализуют образовательные программы по искусственному интеллекту. Она также отметила, с какими проблемами сталкивается Ассоциация:

Первый аспект – это правовое регулирование. Мы обязаны руководствоваться ФГОС или профессиональными стандартами. Однако формулировки и термины в этих стандартах часто не успевают за реальными секторами экономики. Нам приходится совмещать реальные запросы от руководителей и работодателей с тем, что мы можем предложить, как образовательная организация.

Второе – это обучение использованию инструментов ИИ. Мы учим студентов критическому мышлению и принципу «доверяй, но проверяй». Важно не только взаимодействовать с инструментами, но и уметь получать качественный контент.

Третье – это применение технологий для аналитики образовательного процесса. Мы сталкиваемся с нехваткой терминологии и регулирования в области ПО. Как организация EdTech, мы применяем технологии для аналитики образовательного процесса и прогресса.

Григорий Ивлиев, президент Евразийского патентного ведомства (ЕАПВ) Евразийской патентной организации, рассказал о роли патентования проектов с искусственным интеллектом:

Понимание роли искусственного интеллекта (ИИ) в патентовании является ключевым аспектом как процесса патентования, так и экспертной оценки. Основные направления применения ИИ включают информационный поиск, классификацию и машинный перевод. Патентование охватывает все технические решения, начиная с изобретения глиняного горшка и заканчивая передовыми роботами. ИИ в этом контексте огромен и многогранен, что создает определенные сложности. Частные решения не могут полностью охватить эту область. Необходимо определить общественную потребность в правовом регулировании ИИ: что вам нужно от ИИ и в чем потребности отрасли?

Григорий Ивлиев отметил, что наблюдается значительный рост патентных заявок, связанных с ИИ. Основная проблема патентования заключается в том, как расширить и продвинуть этот процесс, как понять, что подлежит патентованию, а что нет, где есть правовые аспекты, а где их нет, и каковы эти правовые аспекты. Регулирование само по себе недостаточно:

В сотрудничестве с мировыми патентными ведомствами мы разработали методологии и экспертизу технических решений, созданных с помощью ИИ или непосредственно ИИ. Когда мы говорим о патентовании, это один из способов правовой охраны. Авторские права на компьютерные программы, вычислительные машины, ПО, алгоритмы и типологии не всегда позволяют защитить изобретения патентами. Необходимо четко различать авторские права на программное обеспечение и патентные права.

Сегодня использование искусственного интеллекта в различных сферах, таких как патентование, судебная система и образование, создает как возможности, так и серьезные вызовы, которые требуют новых подходов к правовому регулированию. Существует необходимость четкого определения понятия ИИ и разработки соответствующей отечественной модели правового регулирования, поскольку в настоящее время нет единого подхода к тому, считать ли ИИ самостоятельным субъектом права или объектом права. При этом, важно помнить и об этическом аспекте при разработке алгоритмов и использовании ИИ. Правовое регулирование ИИ должно учитывать вопросы национальной безопасности, прозрачности и контроля над технологиями, особенно в условиях технологической конкуренции между странами.