Академия - Публикации

Игорь Ашманов, Наталья Касперская

Ниже приведены соображения авторов по законопроекту Министерства цифрового развития, связи и коммуникаций Российской Федерации «О поддержке развития ИИ». Соображения сгруппированы по направлениям, внизу даны выводы.

1. Терминология и юридическая техника

К сожалению, законопроект не даёт чётких определений используемых терминов с сохранением правовой преемственности. Вместо этого вводится группа новых, квазитехнических «модных» терминов с неясными определениями или вообще без них. Эти термины не имеют юридической преемственности с имеющимся законодательством, законами «Об информации», «О критической информационной инфраструктуре» и «О связи». Вместо использования действующей юридической терминологии применяются выдуманные синонимы. Подробнее:

1.1. Определение понятия «искусственный интеллект» механически скопировано из Национальной стратегии развития ИИ до 2030 года и не подвергалось критическому переосмыслению с момента принятия Стратегии в 2019 году. Оно содержит некорректное сравнение с «имитацией когнитивных функций человека», с трансгуманистическим утверждением «сопоставимые с результатами интеллектуальной деятельности человека или превосходящие их». Под это размытое и ненужное в законе эмоциональное определение подпадает практически любое программное обеспечение, включая обычный калькулятор. Та же проблема воспроизведена в определении «модели ИИ», которое также содержит сравнение с интеллектуальными способностями человека.

1.2. Термин «внедрение» вводится впервые, без определения, не согласован с терминологией смежных законов и ГОСТов, где используется термины «установка», «ввод в эксплуатацию», «применение».

1.3. Понятие «набор данных» определяется в проекте через термин «совокупность данных», который далее нигде не раскрывается. Его нет ни в самом законопроекте, ни в № 149-ФЗ "Об информации».

1.4. Проект вводит параллельный ряд понятий: «сервис ИИ», «технологии ИИ», «модель ИИ» и т.п., но не раскрывает их соотношения между собой.

1.5. Некорректно введено понятие «большая фундаментальная модель». Под это определение подходят, например, электронные таблицы. В определении без разъяснений используются оценочные слова «большая» и «фундаментальная», а также критерий «количества параметров» (почему-то 1 миллиард) без определения, что такое «параметры». В существующем законодательстве также нет определений этих терминов.

1.6. В проекте также без определений употребляются термины технического жаргона «матрица», «коэффициенты».

2. Техническая неграмотность проекта

2.1. Проект ограничивает сферу ИИ исключительно генеративным ИИ, причём не учитывает жизненный цикл разработки даже этого вида ИИ, сводя его к «обучению моделей». Виды ИИ, которые реально и эффективно используются в экономике, медицине и обороне — распознавание, управление беспилотным транспортом, предиктивная аналитика, медицинский ИИ и т.п., не связанные с «большими моделями» — выпадают из проекта в принципе. Хотя они тоже требуют регулирования.

2.2. Фокусировка исключительно на модных сейчас «ИИ-моделях» — юридически и технически безграмотна, учитывая скорость развития технологий. Уже сейчас популярны «ИИ-агенты», о которых в законе ни слова; через год техническая терминология и технологическая обстановка в сфере ИИ может измениться полностью. Использование устоявшегося, закреплённого в законодательстве и верного по существу термина «информационная система» по отношению к ИИ позволило бы избежать этой проблемы.

2.3. Определение ИИ через «имитацию когнитивных функций» — фактически и технически неверное: современные языковые и графические модели не имитируют когнитивные функции — они статистически предсказывают продолжение запроса или распознают заданный тип объекта.

2.4. Видимость мышления у генеративного ИИ — внешний, воспринимаемый пользователями эффект использования ИИ, а не его содержание. Тем не менее, этот эмоциональный эффект вносится в законопроект как фактическая норма.

2.5. Критерий «сопоставимости с человеком» и/или «превосходства над ним» — юридически ничтожен: ни в законопроекте, ни где-либо ещё не описаны методики сравнения, метрики и средства экспертизы для подобной оценки.

2.6. В определение ИИ включены «информационно-коммуникационная инфраструктура» и программное обеспечение, процессы и сервисы по обработке данных. А это значит, что ИИ — это в том числе серверы, компьютеры, смартфоны и каналы связи, а также все ИТ-процессы в организациях.

3. Суверенные и национальные модели ИИ

3.1. Законопроект вводит два отдельных, не существовавших ранее понятия «суверенных» и «национальных» больших фундаментальных моделей ИИ. Эти определения страдают расплывчатостью и произвольностью, как и само понятие «модели».

3.2. При этом критерии национальности и суверенности — исключительно географические. Российский разработчик, российское юрлицо, территория РФ. Никак не учитывается крайне вероятная ситуация, при которой российское юридическое лицо, являющееся разработчиком «модели ИИ», находится под контролем иностранных лиц или применяет заимствованное и недоверенное программное обеспечение. Что фактически противоречит цели обеспечения технологического суверенитета Российской Федерации.

3.3. При этом данные определения «суверенности» и «национальности» ИИ некорректны — они таковы, что им впрямую не соответствует ни одно имеющееся в России программное обеспечение (в противоположность замыслу авторов проекта). Вот что сказано в определениях:

… «разработка большой фундаментальной модели искусственного интеллекта, в том числе определение и изменение её характеристик на всех стадиях её жизненного цикла, осуществляется российским юридическим лицом, являющимся разработчиком большой фундаментальной модели искусственного интеллекта;

3) обеспечивается полная техническая и технологическая воспроизводимость цикла разработки разработчиком большой фундаментальной модели искусственного интеллекта, включая обучение и матрицу исходных коэффициентов»…

Не говоря уже об отсутствии определений «матрицы» и «коэффициентов», нужно заметить, что реальный жизненный цикл разработки «ИИ-модели» содержит множество технологических слоёв, включая графические процессоры, операционную систему для управления ими, выкачку наборов данных, нейронные фреймворки, собственно большую языковую модель, а также технологическую и пользовательскую «обвязку». Большинство уровней ИИ монополизировано американскими цифровыми гигантами.

3.4. Имеющиеся в стране два разработчика больших моделей — Яндекс и Сбербанк — в реальности используют только верхний уровень «обвязки», и частичное обучение большой языковой модели (которое в полном объёме слишком дорого для отечественного разработчика).

3.5. Требование открытости лицензии для «национальной модели» выводят из-под определения любой ИИ, разработанный в России, поскольку оно в принципе неисполнимо (и неприменимо к разработкам Яндекса, например).

3.6. Требование о подтверждении соответствия модели «традиционным российским духовно-нравственным ценностям» не имеет чёткой правовой определённости, критериев, процедур верификации, выбора оценщика и т.п.

4. Отсутствующие понятия: безопасность, доверенный ИИ

4.1. Понятие доверенного ИИ в проекте вообще убрано (в сравнении с предыдущими версиями), хотя в стране создан и действует «Консорциум исследований безопасности технологий ИИ», вырабатывающий необходимые понятия доверенности для генеративного и прочего ИИ.

4.2. Вместо этого в проекте есть норма, что в критических применениях нужно применять «суверенные» и «национальные» модели, к которым, по сути, не предъявляется никаких требований безопасности, кроме географических. Это прямая угроза национальной безопасности.

4.3. В сравнении с предыдущей версией законопроекта с операторов систем ИИ сняты любые обязанности по обеспечению безопасности. Проверка безопасности применяемого ИИ относится на будущие подзаконные акты Правительства РФ, из процесса фактически выводятся ФСТЭК и ФСБ.

5. Добровольная маркировка ИИ вместо обязательной

5.1. Вместо обязательной маркировки синтетического контента (в прошлых версиях) законопроект вводит «возможность» разместить предупреждение о применении ИИ, а вид и порядок маркировки выносится в свободные отношения между пользователем и сервисом.

5.2. Порядок уведомления не определён, всякий раз это частное коммерческое решение. Очевидно, это приведёт к разнобою и отсутствию единых узнаваемых маркеров.

5.3. Задачу выявления сгенерированного контента и предупреждения пользователей о фальсификациях, дипфейках и прочих манипуляциях добровольная маркировка не решит: недобросовестные создатели контента, создатели дипфейков и фальсификаций ставить маркировку, безусловно, не будут. А блокировка синтетического фальсификационного контента за отсутствие маркировки в законопроекте не предусматривается.

6. Полномочия: ненужное дублирование

6.1. Проект зачем-то перечисляет полномочия Президента, Правительства, федеральных органов, госкорпораций и Банка России. При этом всё перечисленное ещё и избыточно, поскольку весь список «полномочий» дублирует уже существующие конституционные и законные компетенции. В проекте сказано:

Президент Российской Федерации в соответствии с настоящим Федеральным законом и иными федеральными законами:

1) утверждает Национальную стратегию развития искусственного интеллекта;

2) осуществляет иные полномочия в сфере применения технологий искусственного интеллекта.

Президент и так может утверждать любые стратегии, а также «осуществлять иные полномочия». Это пустая норма. Кажется, что она введена авторами законопроекта, чтобы показать, что Президент на их стороне.

6.2. Правительство и так вправе делать всё сказанное в силу Конституции РФ и закона о Правительстве; повторение этих полномочий в отраслевом законе не добавляет ни одного нового полномочия.

7. Отсутствие регулирования прав и обязанностей

7.1. Принципиальным изъяном законопроекта является практически полное отсутствие ответственности основных субъектов регулируемой сферы ИИ — владельца, производителя и оператора ИИ — то есть тех лиц, которые создают и эксплуатируют технологии, порождающие риски.

7.2. Из законопроекта выброшены практически все нормы о правах и обязанностях как операторов и разработчиков систем ИИ, так и пользователей этих систем. Без них закон не имеет смысла. Зачем что-то регулировать, если ни у кого нет обязанностей и санкций за неисполнение?

8. Подмена законодательной власти исполнительной

8.1. Законопроект практически не содержит норм прямого действия, представляя собой пустую «рамку» с отсылкой на будущие подзаконные акты, которые сейчас не представлены в пакете документов для внесения в Госдуму.

8.2. Это – попытка подмены законодательной власти законотворчеством исполнительной власти путём последующего принятия подзаконных актов в обход парламента.

9. Отсутствие защиты прав граждан

9.1. В законопроекте практически полностью отсутствуют нормы по защите прав граждан, в том числе права на получение достоверной информации, тайну частной жизни, охрану персональных данных, на информированность при использовании ИИ-систем, права на защиту от принятия автономных решений техническими системами относительно их прав и судеб, право на защиту от принуждения использовать ИИ и право на отказ от использования ИИ, и других конституционных прав.

9.2. Защита прав граждан в том или ином виде присутствовала в предыдущих версиях законопроекта, но в данной версии она полностью исключена; есть серьёзные сомнения, что таковая защита будет введена позже подзаконными актами. Такая защита также не достигается «саморегулированием» или «этическими кодексами». Защите прав граждан место в федеральном законе, а не в постановлениях Правительства.

10. Коррупционная ёмкость и нарушение авторских прав

10.1. Законопроект вводит меры государственной поддержки «суверенных» и «национальных моделей», под которыми явно проглядываются разработки двух крупнейших игроков (Сбербанк – «суверенная» и Яндекс – «национальная»). Каким образом будет осуществляться такая «поддержка», на каких условиях, по каким критериям и по каким процедурам — не сказано. То есть принятие решений о «поддержке» остаётся на усмотрение неизвестно кого в будущем.

10.2. Таким образом, законопроект «о поддержке» с большой вероятностью послужит не необходимому и недискриминирующему насыщению всей отечественной ИИ-отрасли ресурсами, а созданию коррупционно-ёмких непрозрачных схем с выделенными привилегированными игроками.

10.3. Заметим также, что Яндекс и Сбербанк — явно не те компании, которые нуждаются в государственном финансировании: они уже занимают фактическое монопольное положение во многих сферах, включая банковское дело, такси и т.п., и получают там сверхдоходы.

10.4. Также в законопроекте допускается прямое нарушение авторских прав с возможностью обучения модели на тексте книги или другого авторского произведения при условии покупки одного (!) экземпляра этой книги/песни/картины. Это делается без согласия авторов, что является прямым нарушением Гражданского кодекса РФ.

11. Попытка монополизации сферы ИИ

11.1. Способ введения в законодательство неясных понятий «суверенной» и «национальной», каких-то «больших фундаментальных моделей», где каждое слово в определении не имеет чёткого значения, наводит на подозрения, что это попытка закрепить монопольное положение Яндекса с его «национальной моделью» и Сбербанка с его «суверенной моделью».

Уже сейчас в некоторых госорганах требуют обязательного и безальтернативного использования ГигаЧата, например.

11.2. Поскольку реальность сегодняшнего дня в сфере «отечественного ИИ» такова, что Сбербанк и Яндекс фактически не справились с разработкой генеративного ИИ мирового уровня, не входят даже в верхние тридцатки мировых рейтингов качества генеративных систем ИИ, разрыв их в качестве ИИ с ведущими мировыми игроками не сокращается (в противоположность заявлениям этих разработчиков), а быстро растёт, то принятие законопроекта в таком виде закрепит отставание нашей страны и приведёт к краху отечественной отрасли ИИ, проигрышу в экономике и на поле боя.

11.3. При этом фактическое отсутствие регулирования безопасного использования ИИ и возможности массового нарушения авторского права приведут к социальной напряжённости, огромным рискам нацбезопасности (рискам утечек, взломов) и искам от авторских ассоциаций.

Выводы:

1. Законопроект страдает декларативностью, терминологической несистемностью, избыточным делегированием полномочий Правительству РФ и принципиальным игнорированием вопросов безопасности.

2. Проект фактически направлен на закрепление монопольного положения двух разработчиков ИИ — Сбербанка и Яндекс, которых ни в чём нельзя ни проверять, ни ограничивать.

3. Из проекта выброшены любые ограничения или проверки ИИ на доверенность и безопасность, даже для критических применений. Само понятие доверенности ИИ также удалено полностью.

4. В проекте практически полностью отсутствует защита прав граждан, в том числе права тайну частной жизни, на информированность, права на защиту от принятия автономных решений техническими системами относительно их прав и судеб, и отказ от использования ИИ.

5. Законопроект вторгается в область Гражданского Кодекса в сфере авторского права — делается попытка разрешить цифровым гигантам брать любой авторский материал «для обучения моделей», а по сути, бесплатно и произвольно использовать по своему усмотрению, без спроса или даже уведомления авторов.

6. Законопроект практически не содержит норм прямого действия, представляя собой пустую «рамку», то есть пытается подменить законодательную власть законотворчеством исполнительной власти путём последующего принятия несуществующих в настоящее время подзаконных актов в обход парламента.

ОБЩИЙ ВЫВОД:

● Принятие законопроекта в таком виде направлено на поддержку двух крупнейших игроков, что лишь закрепит отставание нашей страны и приведёт к краху отечественной отрасли ИИ.

● Законопроект требует существенной доработки в части юридической преемственности, защиты национальной безопасности, защиты прав граждан России, обеспечения конкуренции.

● Принимать закон в таком виде категорически нельзя.

[Обсуждение на форуме «Публицистика»]