Итоги международной конференции «Искусственный интеллект для права и право для искусственного интеллекта»

29 мая 2024 года состоялась международная конференция «Искусственный интеллект для права и право для искусственного интеллекта».

Конференция Аналитического центра уголовного права и криминологии объединила 25 спикеров и модераторов, а также более 80 заинтересованных слушателей из разных стран (как очных, так и дистанционных).

Спикерами и модераторами выступили учёные из МГУ имени М.В. Ломоносова, НИУ ВШЭ, УрГЮУ имени В.Ф. Яковлева; представители различных юридических фирм и адвокатских образований, а также – ведущего отечественного разработчика систем искусственного интеллекта — ПАО «Сбербанк»; иностранные исследователи из Германии, Венгрии, Кении, Китая, Аргентины, Румынии, Хорватии, Турции, Казахстана и др.

Открытие конференции сопровождалось приветственным словом кандидата юридических наук, генерального директора ООО “Аналитический центр уголовного права и криминологии” Марии Алексеевны Филатовой о том, что актуальность поставленных на конференции вопросов не поддается сомнению. Дискуссия в области ИИ должна развиваться динамично, но по сравнению со скоростью совершенствования технологий научное сообщество серьезно опаздывает – уже сейчас требуется безотлагательная нормативная реакция. 

Междисциплинарность конференции позволила затронуть проблемы правового регулирования ИИ, возникающие в различных отраслях права.  Всестороннее обсуждение велось в рамках четырех тематических блоков (секций), посвященным преобладающие вектора развития ИИ на современном этапе. 

Первая секция представляла собой обзор правового регулирование использования ИИ в рамках национального и международного подходов.  Модератором выступила адвокат адвокатской конторы “Аснис и партнёры”, юрист в сфере web3 & AI Мария Андреевна Юндина, выразившая надежду, что результаты конференции позволят сгенерировать новые идеи для улучшения регулирования ИИ. 

• Андрей Владимирович Незнамов* представил аналитическое исследование подходов к регулированию ИИ в различных регионах: ограничительный (страны ЕС, частично Канада и др.) – стремление принять единый всеобъемлющий закон, концентрация на рисках и ограничениях; гибридный (Китай, США, Россия и др.) – отказ от единого закона, устанавливаются целенаправленные ограничения; про-инновационный (Великобритания, Япония, Австралия и др.) – ограничения минимальны и носят исключительный характер. Помимо прочего, спикер обратил внимание на существующие индексы для измерения степени использования ИИ (в т.ч. индекс Стэндфордского университета и Глобальный индекс ИИ).
  
  * кандидат юридических наук, старший научный сотрудник Института государства и права РАН, Управляющий директор Центра регулирования ИИ ПАО “Сбербанк” (Центр компетенций “Искусственный интеллект”).
  
  
• Сильвия Варади* изложила ключевые положения Artificial Intelligence Act, принятого в этом году в ЕС, указав на его прецедентное значение для глобального регулирования ИИ. В частности, закон ЕС устанавливает градацию уровней риска использования различных систем ИИ, которая может быть рецепирована другими юрисдикциями: неприемлемый (социальный рейтинг, массовая слежка и др.), высокий (доступ к данным о трудоустройстве, образованию, безопасности транспортных средств и др.), ограниченный (дипфейки, биометрические данные и др.) и минимальные (оставшиеся области). 
  
  * доктор юридических наук, старший преподаватель кафедры международного и европейского права факультета права и политических наук Университета Сегеда.
  
  
• Мария Каталина Рангуни* отметила, что в Аргентине регулирование ИИ ведется в соответствии с Декларацией Монтевидео об ИИ и его влиянии на Латинскую Америку. На данном этапе страна сфокусирована на определении основополагающих этических принципов работы ИИ. При этом уже разработана система распознавания лиц, находящихся в розыске, хотя ее функционирование пока сопряжено с такими проблемами как неточность результатов и коррупция. 
  
  * сотрудник Федерального уголовного суда Аргентины, магистрант программы “Уголовное правосудие” в Лондонском университете Королевы Марии, стипендиат программы Chevening.
  
  
• Кемаль Кумкумоглу* детально осветил традиционные нормы турецкого законодательства, которые могут применяться к регулированию ИИ с учетом международной нормативно-правовой базы. Спикер затронул проблему внедрения ИИ в систему правосудия, сделав верный вывод о том, что пока не требуется признание отдельного права на судью-человека из-за маловероятности появления способностей к освоению психологии справедливости и сложных логических операций у судей-ИИ. Кроме того, Кемаль Кумкумоглу уделил часть своего доклада охране персональных данных, выражая опасения о том, что полный доступ к ним превратит «жизненный цикл» в статистику и сместит акцент с опасного деяния на потенциальных преступников, что входит в противоречие с презумцией невиновности.
  
  * партнёр “Kumkumoğlu Ergün Cin Özdoğan Avukatlık Ortaklığı”, член совета директоров Турецкой ассоциации уголовного права, член Центрального исполнительного комитета ассоциации информатизации Турции (TBD) член Стамбульской коллегии адвокатов (Комиссия по праву в области информационных технологий – Рабочая группа по искусственному интеллекту)
  
  
• Ирина Анатольевна Филипова* рассмотрела хронологию развития российского подхода к регулированию ИИ: страна находится на стадии создания юридических рамок (2020–2024), следующий шаг – развитие законодательства и становление гибкой системы регулирования (2024 – 2030). Особое внимание спикер сосредоточила на принципах регулирования ИИ, а именно — стимулирование развития технологий, риск-ориентированный междисциплинарный подход, расширение использования инструментов саморегулирования и создание этических правил.
  
  * кандидат юридических наук, доцент кафедры трудового и экологического права юридического факультета ННГУ имени Н.И. Лобачевского, руководитель Центрально-Азиатского исследовательского центра регулирования искусственного интеллекта (Самаркандский государственный университет, Узбекистан)

Вторая секция была посвящена вопросам применения ИИ в транспортных средствах и системе правосудия. Модератор секции, доктор юридических наук, профессор, заведующая кафедрой уголовного права имени М.И. Ковалева УрГЮУ имени В. Ф. Яковлева, Незнамова Зинаида Александровна, открыла выступление нетривиальной, но абсолютно верной мыслью о том, что ИИ в настоящее время как чемодан, который каждый наполняет своим содержанием с точки зрения его правовой сущности. 

• Мария Анатольевна Бажина* подробно рассказала об интеллектуальных транспортных системах и о проблемах принятия законодательства о мультимодальных перевозках, что ставит под угрозу развитие этой сферы, которая, в свою очередь, является одной из приоритетных. Спикер акцентировала внимание на необходимости достижения прозрачности перевозочного процесса во всех сферах (пассажирские, грузовые и т.д.). Мария Анатольевна также затронула различные подходы к архитектуре ИТС и перспективы ее развития. 
  
  * доктор юридических наук, профессор кафедры предпринимательского права УрГЮУ имени В. Ф. Яковлева
  
  
• Лиана Вёрнер* выступила с анализом современных достижений в сфере уголовного преследования и профилактики преступности с использованием систем ИИ в Германии. Спикер привела в качестве примеров систем обработки данных такие, как HART (Durham/UK), Northpointe (Chicago/US), Predpol (Kent/UK), Valcri(Birmingham/UK), Gotham (Hessen/Germany), Precobs (Bavaria/Germany). На основе сопоставления ситуации с анализом данных и положений Конституции ФРГ были рассмотрены сложности при применении соответствующих технологий. Исходя из выделенных уровней использования (макроуровень, снижение преступности, микроуровень), профессор очертила направления, по которым требуются дальнейшие правовые разработки. 
  
  * доктор юридических наук, профессор, заведующий кафедрой уголовного права, уголовного процесса, сравнительного уголовного права, медицинского уголовного права и теории права в Университете Констанца, директор Центра исследований Человек | Данные | Общество.
  
  
• Кристина Каршаи* – развернуто изложила результаты проведенного научного исследования о возможностях использования ИИ при вынесении судебного решения по миграционным преступлениям в Венгрии. Профессор Каршаи описала алгоритм, в рамках которого группа учёных – юристов и программистов – планируют предоставить систему, способную помогать судьям при вынесении решений по соответствующим делам. В качестве основы были взяты, разумеется, проанализированные материалы уголовных дел, а также разработанные специалистами схемы и архитектура для системы ИИ. 
  
  * профессор, почетный доктор, PhD, habil., руководитель Института уголовно-правовых наук юридического факультета Сегедского университета, руководитель исследовательской группы “Искусственный интеллект и правопорядок” (Центр компетенций в области цифрового гуманизма, Сегедский университет).
  
  
• Симеон Питер Сунги* и Схоластика Омонди* в своих выступлениях осветили юридический статус ИИ в Восточной Африке. Спикеры описали возможности, которые представляет ИИ для системы правосудия в Кении как с точки зрения общей структуры преступности, так и с уделением особого внимания вопросам качественного изменения доступности государственных механизмов защиты и восстановления нарушенных прав для женщин и девушек, которые стали жертвами сексуального или сексуализированного насилия из-за развития систем ИИ. Кения в настоящее время находится в поиске подходящего для их правовой системы и с учётом национальных интересов направления правого регулирования использования ИИ. 
  
  * Симеон Питер Сунги – Dr. PhD, LLM, ассоциированный профессор кафедры уголовного правосудия школы социологии и уголовного правосудия Международного университета США в Африке в Найроби, адвокат Высокого суда Кении и Высокого суда Танзании, главный редактор журнала “Преступность и правосудие в Африке”.
  Схоластика Омонди – доктор юридических наук, доцент юридического факультета Университета Найроби

Третья секция – Генеративный ИИ: обучение и ответственность разработчиков и пользователей – проходила под модерацией доктора юридических наук, профессора кафедры предпринимательского права юридического факультета МГУ имени М.В. Ломоносова, учредителя ООО “Шиткина и партнёры” Шиткиной Ирины Сергеевны. Модератор подчеркнула, что этот тематический блок будет посвящен вопросам обучения и ответственности ИИ, которые в настоящее время являются наиболее важными и интересными для юристов и разработчиков генеративного ИИ. 

• Харитонова Юлия Сергеевна* описала риски, возникающие для предпринимателей при использовании систем генеративного ИИ. В частности, спикер детально рассмотрела вопросы обеспечения конфиденциальности, безопасности данных, включая проблемы обзезличивания и анонимизации; увеличения объёма ложных сведений, которые генерирует система; опасности предвзятости и дискриминации; вопросы ответственности за нарушение интеллектуальных прав. Юлия Сергеевна обозначила тренды законодательного регулирования в России и зарубежных странах. 
  
  * доктор юридических наук, профессор кафедры предпринимательского права, руководитель НОЦ “Центр правовых исследований искусственного интеллекта и цифровой экономики” МГУ имени М.В. Ломоносова.
  
  
• Тяньфан Ян* более подробно раскрыл ситуацию с регулированием систем генеративного ИИ в Китае. Спикер дал развёрнутый анализ принятым не так давно в Китае специальным нормативным актам, посвященным разработке и использованию генеративного ИИ, а также условиям допуска к созданию таких систем в КНР. 
  
  * кандидат юридических наук,преподаватель Университета МГУ-ППИ в Шэньчжэне.
  
  
• Мария Алексеевна Филатова* обозначила риски уголовной ответственности для разработчиков. Основным тезисом её выступления стало предложение о скорейшем закреплении правовых гарантий для разработчиков, которые могли бы продолжать совершенствование технологий без опасения привлечения к ответственности. Сейчас такие риски обусловлены отсутствием четких границ законодательного регулирования и понимания возможности применения институтов общей и особенной части к деятельности, осуществляемой с использованием генеративного ИИ.  
  
  * кандидат юридических наук, генеральный директор ООО “Аналитический центр уголовного права и криминологии”.
  
  
• Роман Михайлович Янковский* указал на сложности при обучении генеративных систем ИИ юридическим навыкам, чтобы в будущем избежать дублирования правовых систем и «обучить» систему решению простейших юридических задач по всем отраслям права. Кроме того, спикер зафиксирвоал принципиальные проблемы LLM (large language model) – например, склонность к «галлюцинациям» (в т.ч. выдумыванием кейсов), отсутствие представлений об этике и способности логически мыслить на данном этапе. 
  
  * кандидат юридических наук, доцент департамента права цифровых технологий и биоправа факультета права НИУ ВШЭ, заведующий Центром трансформации юридического образования, научный руководитель образовательной программы ИТ-юрист.
  
  
• Дарья Фокина* привела примеры наиболее распространенных и полезных для юристов систем генеративного ИИ, кроме наиболее известных (GigaChat, ChatGPT, YandexGPT) – таких как Gemini, Claude, Jasper Chat. Дарья привела крайне интересную статистику по использованию генеративного ИИ в юридической деятельности (для анализа документов, работы с текстом, создания писем, извлечения данных из договоров, legal research и тд), а также рассказала про ограничения в применении: риск неправильных ответов, обеспечение безопасности и конфиденциальности данных и т.д.  
  
  * руководитель направления ЛигалТех юридической фирмы “Томашевская и партнёры”.

В рамках завершающей секции – Искусственный интеллект и права человека – под модерацией Кристины Каршаи рассматривались наиболее сложные вопросы применения технологий ИИ, требующие поиска баланса конкурирующих интересов. В целом человек остается уязвимым перед лицом государства и техногигантов по многим вопросам – однако прежде всего обсуждалось право на неприкосновенность частной жизни и право на защиту персональных данных. 

• Анте Новокмет и Иван Видокович* представили доклад, посвященный технологиям распознавания лиц в реальном времени: отметив спорный характер решения о принципиальной возможности использования таких технологий, спикеры рассмотрели несколько критериев, обязательных для подобного исследования. Нормативной основой выступления стало регулирование Европейского Союза; были выделены разные категории рисков – на уровне разработки и применения. 
  
  * Анте Новокмет – кандидат юридических наук, доцент кафедры уголовного процесса юридического факультета университета Осиека.
  Иван Видакович – магистр права, ассистент преподавателя кафедры уголовно-процессуального права юридического факультета университета Осиека.
  
  
• Дана Утеген* описала разницу между человекоцентричным и техноцентричным подходами, остановившись на сравнении центральноазиатских тенденций и европейского регулирования. Спикер отдельно обратила внимание на биометрическую идентификацию, ее распространенность и сопутствующие угрозы, а также рассказала о подготовленном ею Региональном отчете о программах биометрической и цифровой идентификации в Центральной Азии.
  
  * докторант PhD, профессор, заместитель директора Высшей школы права Университета КАЗГЮУ имени М.С. Нарикбаева, директор Центра цифровых прав Казахстана при Международном финансовом центре “Астана” (МФЦА).
  
  
• Игорь Александрович Терещенко и Сергей Дмитриевич Афанасьев* разграничили риски для обучения ИИ «с учителем» и «без учителя». Например, с точки зрения персональных данных были описаны риски использования данных, отобранных иным лицом и переданных разработчику, а также собственные идентификационные возможности технологий ИИ. Спикеры привели несколько примеров из зарубежной практики и описали их значимость для выработки регулирования. 
  
  * Игорь Александрович Терещенко– ведущий специалист Центра правовых исследований цифровых технологий Государственного академического университета гуманитарных наук.
  Сергей Дмитриевич Афанасьев – научный сотрудник Центра правовых исследований цифровых технологий Государственного академического университета гуманитарных наук.
  
  
• Татьяна Сергеевна Алексеева* в своем выступлении остановилась на допустимых целях применения технологий распознавания лиц (в т. ч. оценке, данной ЕСПЧ применительно к технологии распознавания лиц в московском метро), а также уголовно-правовой оценке нарушений при использовании технологий – должностных преступлениях и нарушениях неприкосновенности частной жизни. 
  
  * юрист ООО “Аналитический центр уголовного права и криминологии”, аспирант юридического факультета МГУ имени М.В. Ломоносова.

Выражаем искреннюю благодарность всем участникам конференции: 

• спикерам, осветившим проблемные аспекты использования ИИ в своих выступлениях (в особенности тем, кто смог присутствовать лично, несмотря на все сложности); 
• заинтересованным слушателям, обогащавшим дискуссию своими вопросами;  
• партнёрам и волонтерам, сделавшим возможным качественную организацию конференции; 
• переводчикам и техникам, благодаря которым иностранные участники смогли присоединиться к обсуждению.

Тем, кто не смог присутствовать на мероприятии, вскоре можно будет приобрести доступ к видеозаписи (как полностью, так и по отдельным секциям). Ждите анонсов в наших социальных сетях или пишите нам на почту, чтобы мы проинформировали Вас о ее готовности!

Оставайтесь с нами, впереди запланировано множество проектов и мероприятий, и мы с нетерпением ждём будущих продуктивных встреч и плодотворного сотрудничества!

С уважением к праву и ко всем неравнодушным участникам конференции, Ваш Аналитический центр уголовного права и криминологии.