Искусственный интеллект (ИИ) в Казахстане: новые законы, обязанности и штрафы (проект)

В 2025 году планируется законодательно регламентировать деятельность в сфере искусственного интеллекта.

На сайте Мажилиса Парламента РК опубликованы проекты следующих законов:

• Об искусственном интеллекте.
  
• О внесении изменений и дополнений в некоторые законодательные акты Республики Казахстан по вопросам искусственного интеллекта.
  
• О внесении дополнений в Кодекс Республики Казахстан об административных правонарушениях.

Законы, в случае их согласования, вводятся в действие по истечении шестидесяти календарных дней после дня их первого официального опубликования.

Закон «Об искусственном интеллекте»

Новым Законом предусмотрены принципы регулирования отношений, права и обязанности собственников систем искусственного интеллекта и пользователей. Рассмотрим нововведения более детально. 

Вводятся новые понятия:

• искусственный интеллект – информационно-коммуникационная технология, позволяющая имитировать или превосходить когнитивные функции человека, с целью выполнения интеллектуальных задач и поиска решений;
• система искусственного интеллекта – объект информатизации, функционирующий на основе искусственного интеллекта;
• библиотека данных – совокупность структурированных и (или) сгруппированных наборов данных.

Общественные отношения в сфере искусственного интеллекта будут регулироваться на основании следующих принципов:

• законность;
• справедливость и равенство;
• прозрачность и объяснимость;
• ответственность и подконтрольность;
• приоритет благополучия человека, свободы воли в принятии им решений;
• защита конфиденциальности и данных;
• безопасность и защищенность.

В целях соблюдения вышеописанных принципов, разработаны права и обязанности для собственников и владельцев, пользователей информационных систем и собственников и владельцев библиотек данных. 

Права и обязанности собственников и владельцев систем ИИ

Собственники и владельцы систем искусственного интеллекта вправе:

• определять условия пользования системами искусственного интеллекта;
• осуществлять меры по защите своих прав на системы искусственного интеллекта.

Собственники и владельцы систем искусственного интеллекта обязаны:

• осуществлять управление рисками систем искусственного интеллекта;
• принимать меры для обеспечения безопасности и надежности систем искусственного интеллекта, включая защиту от несанкционированного доступа, сбоев в их работе;
• вести документацию на систему искусственного интеллекта в зависимости от степени ее воздействия на безопасность, права и интересы граждан, общества и государства, в соответствии с перечнем, утвержденным уполномоченным органом;
• осуществлять поддержку пользователей систем искусственного интеллекта, по вопросам их функционирования;
• предоставлять пользователям информацию о принципах работы системы искусственного интеллекта, а также об используемых данных пользователя.

Права и обязанности пользователей

Пользователи вправе: 

• получать информацию о принципах работы системы искусственного интеллекта, а также об используемых данных пользователя;
• на защиту своих персональных данных и конфиденциальной информации, обрабатываемой системой искусственного интеллекта;
• осуществлять меры по защите своих прав на объекты интеллектуальной собственности, созданные с использованием систем искусственного интеллекта.

Пользователи обязаны:

• использовать системы искусственного интеллекта исключительно в рамках предоставленных прав доступа;
• соблюдать установленные правила и меры безопасности при использовании систем искусственного интеллекта.

Права и обязанности собственников и владельцев библиотеки данных

Собственники и владельцы библиотек данных вправе:

• свободно создавать, использовать и распространять свои библиотеки данных с соблюдением ограничений, установленных законами Республики Казахстан;
• контролировать использование своих библиотек данных для обучения систем искусственного интеллекта в пределах заявленных целей, включая соблюдение условий и ограничений их использования;
• получать информацию о принципах работы системы искусственного интеллекта, обучаемых на представленных библиотеках данных.

Собственники и владельцы библиотек данных обязаны:

• обеспечивать качество предоставляемых библиотек данных;
• определить условия и порядок доступа к библиотекам данных.

Какие системы ИИ возможны?

Системы ИИ различаются по уровню риска и самостоятельности. Градация по уровню риска выглядит следующим образом:

• минимального риска – нарушение или прекращение функционирования которых окажет минимальное влияние на их пользователей;
• среднего риска – нарушение или прекращение функционирования, которых может привести к снижению эффективности и результативности деятельности пользователей, и может нанести материальный ущерб;
• высокого риска – нарушение или прекращение функционирования которых приводит к чрезвычайной ситуации социального и (или) техногенного характера или к значительным негативным последствиям для обороны, безопасности, международных отношений, экономики, отдельных сфер хозяйства, пользователей, инфраструктуры Республики Казахстан, жизнедеятельности физических лиц.

Системы искусственного интеллекта высокого риска подлежат включению в перечень критически важных объектов информационно-коммуникационной инфраструктуры в соответствии с правилами и критериями отнесения объектов информационно-коммуникационной инфраструктуры к критически важным объектам информационно-коммуникационной инфраструктуры, утвержденными уполномоченным органом в сфере обеспечения информационной безопасности.

Градация по уровню самостоятельности зависит от того, как система принимает решение, и расположена в следующем виде:

• вспомогательные (помощники) – системы, в которых искусственный интеллект выполняет функции помощи пользователю и окончательные решения принимаются только пользователем;

• полуавтономные системы – системы, которым собственником (владельцем) или пользователем предоставлены ограниченные права на автоматизированное принятие решения в рамках заранее заданных параметров, при этом, лицо, предоставившее прав на принятие решения может вмешиваться в процесс принятия решений или изменять результаты деятельности системы;

• полностью автономные системы – системы, которые принимают решения вне зависимости от заранее заданных параметров и не поддаются контролю со стороны собственника (владельца) данной системы

Какие системы ИИ запрещены в Казахстане?

На территории Республики Казахстан запрещается создание и выпуск в обращение полностью автономных систем искусственного интеллекта, а также систем искусственного интеллекта, обладающих следующими функциональными возможностями:

• использование подсознательных, манипулятивных или иных методов, существенно искажающих поведение физического лица и ограничивающие способность принимать осознанные решения, вынуждающих принимать решение, которые могут причинить лицу вред, создавать угрозу причинения вреда жизни, здоровью и имуществу и иного вреда лицу;
• использование моральной и (или) физической уязвимости физического лица из-за возраста, инвалидности, социального положения и по любым иным обстоятельствам, с целью причинения или создания угрозы причинения вреда лицу;
• оценка и классификация физических лиц или группы лиц в течение определенного периода времени на основе их социального поведения или известных, предполагаемых или прогнозируемых личных характеристик, за исключением случаев, предусмотренных законами Республики Казахстан;
• создание или расширение баз данных распознавания субъекта персональных данных посредством нецелевого извлечения персональных данных, включая изображений лиц, из Интернета или записей с камер видеонаблюдения;
• классификация физических лиц на основе их биометрических данных для формирования выводов об их расе, политических взглядах, религиозной принадлежности, и по любым иным обстоятельствам в целях использования для какой-либо дискриминации физического лица;
• определение эмоций физического лица без его согласия, за исключением случаев, предусмотренных законами Республики Казахстан;
• удаленная биометрическая идентификация физических лиц, в реальном времени, в общественных местах, за исключением случаев, определенных законами Республики Казахстан;
• создание и распространение запрещенных законодательством Республики Казахстан результатов деятельности систем искусственного интеллекта.

Сопутствующие изменения к Закону

В связи с разработкой нового Закона в рамках законопроекта О внесении изменений и дополнений в некоторые законодательные акты Республики Казахстан по вопросам искусственного интеллекта, в целях корреспондирования положений, планируются изменения в ряд НПА:

• Закон РК от 4 мая 2010 года «О защите прав потребителей»;
• Закон РК от 21 мая 2013 года «О персональных данных и их защите»;
  
• Закон РК от 24 ноября 2015 года «Об информатизации» (некоторые нормы перенесены в Закон «Об искусственном интеллекте»);
  
• Закон РК от 19 июня 2024 года «О масс-медиа».

А также отдельным проектом  О внесении дополнений в Кодекс Республики Казахстан об административных правонарушениях будут внесены изменения в Кодекс Республики Казахстан от 5 июля 2014 года № 235-V ЗРК «Об административных правонарушениях».

Рассмотрим основные изменения.

Изменения в Законе «О защите прав потребителей» 

Вносятся изменения в статью 27. Обязанности продавца (изготовителя, исполнителя) по обеспечению безопасности товара (работы, услуги).  В рамках изменений у продавцов появятся новые обязанности:

• Продавцы обязаны предупреждать о рисках и условиях безопасного использования товаров или услуг, содержащих искусственный интеллект (ИИ). Информация должна быть указана в документации, на упаковке или этикетках.

Действующая редакция

Редакция проекта

Статья 27. Обязанности продавца (изготовителя, исполнителя) по обеспечению безопасности товара (работы, услуги) … 6. Отсутствует.

Статья 27. Обязанности продавца (изготовителя, исполнителя) по обеспечению безопасности товара (работы, услуги) … 6. Продавец (изготовитель, исполнитель) обязан информировать потребителя о возможном риске и об условиях безопасного использования товара (работы, услуги), содержащего компоненты искусственного интеллекта (произведенной и (или) оказываемой системой искусственного интеллекта), указав необходимую информацию в документации, прилагаемой к товару (работе, услуге), на потребительской таре, этикетках или иным способом, принятым для отдельных видов товаров (работ, услуг).

Изменения в Законе «О персональных данных и их защите»

В рамках проекта предлагаются следующие изменения:

• биометрические данные являются частью персональных данных;
• добавлено определение автоматизированная обработка персональных данных;
• запрещается сбор, обработка персональных данных для создания или расширения баз данных посредством нецелевого извлечения персональных данных  из общедоступных источников;
  
• запрещается использование технологий для сбора биометрии в общественных местах, разрешается исключительно целях поддержания общественной безопасности,  разведывательной, контрразведывательной, оперативно-розыскной деятельности, а также осуществлении охранных мероприятий по обеспечению безопасности охраняемых лиц и объектов.
• Добавлены пояснения, касательно автоматизированной обработки данных: 
• нельзя обрабатывать персональные данные автоматически, если это нарушает права человека или может причинить вред, за исключением случаев согласия субъекта или закона;
• операторы обязаны разъяснять порядок обработки, возможные последствия и право на возражение.
  

Действующая редакция	Редакция проекта
Статья 1. Основные понятия, используемые в настоящем Законе В настоящем Законе используются следующие основные понятия: … 2) персональные данные – сведения, относящиеся к определенному или определяемому на их основании субъекту персональных данных, зафиксированные на электронном, бумажном и (или) ином материальном носителе;	Статья 1. Основные понятия, используемые в настоящем Законе В настоящем Законе используются следующие основные понятия: … 2) персональные данные – данные, в том числе биометрические, относящиеся к определенному или определяемому на их основании субъекту персональных данных, зафиксированные на электронном, бумажном и (или) ином материальном носителе;
Статья 1. Основные понятия, используемые в настоящем Законе В настоящем Законе используются следующие основные понятия: … 2-3) отсутствует;	Статья 1. Основные понятия, используемые в настоящем Законе В настоящем Законе используются следующие основные понятия: … 2-3) автоматизированная обработка персональных данных – обработка персональных данных объектом информатизации, исключающая участие собственника и (или) оператора, а также третьего лица в процессе обработки;
Статья 7. Условия сбора, обработки персональных данных и особенности сбора, обработки персональных данных из общедоступных источников … 8. Обработка персональных данных должна ограничиваться достижением конкретных, заранее определенных и законных целей. Не допускается обработка персональных данных, несовместимая с целями сбора персональных данных.	Статья 7. Условия сбора, обработки персональных данных и особенности сбора, обработки персональных данных … 8. Сбор и обработка персональных данных должна ограничиваться достижением конкретных, заранее определенных и законных целей. Не допускается сбор и обработка персональных данных, в целях причинения имущественного и (или) морального вреда, ограничения реализации прав и свобод субъекта персональных данных, гарантированных законами Республики Казахстан.
Статья 7. Условия сбора, обработки персональных данных и особенности сбора, обработки персональных данных из общедоступных источников … 11. Отсутствует. 12. Отсутствует.	Статья 7. Условия сбора, обработки персональных данных и особенности сбора, обработки персональных данных … 11. Запрещаются сбор, обработка персональных данных для создания или расширения баз данных посредством нецелевого извлечения персональных данных  из общедоступных источников. 12. Использование  в общественных местах технологических средств по сбору биометрических данных и идентификации субъекта персональных данных, а также использование собранных биометрических данных и идентификационной информации может осуществляться исключительно в целях поддержания общественной безопасности,  разведывательной, контрразведывательной, оперативно-розыскной деятельности, а также осуществлении охранных мероприятий по обеспечению безопасности охраняемых лиц и объектов в пределах, установленных законами Республики Казахстан, за  исключением случая, когда получено отдельное согласие субъекта персональных данных.
Статья 17. Обезличивание персональных данных … 3. Отсутствует.	Статья 17. Обезличивание персональных данных … 3. При сборе, обработке персональных данных для национальной платформы искусственного интеллекта обезличивание персональных данных осуществляется оператором национальной платформы искусственного интеллекта в соответствии с требованиями по управлению данными, утвержденными уполномоченным органом по управлению данными, за исключением случаев, когда обезличивание персональных данных произведено собственником и (или) оператором самостоятельно.
Статья 19-1. Отсутствует.	Статья 19-1. Требования к автоматизированной обработке персональных данных Запрещается автоматизированная обработка персональных данных, в результате которой у субъекта персональных данных возникают, изменяются или прекращаются права, законные интересы, создается угроза причинения вреда жизни, здоровью и имуществу, за исключением случаев, когда получено согласие субъекта персональных данных или в случаях, предусмотренных законодательством Республики Казахстан. Собственник и (или) оператор, а также третье лицо, обязаны разъяснить субъекту персональных данных порядок автоматизированной обработки его персональных данных и возможные последствия, предоставить возможность заявить возражение против автоматизированной обработки его персональных данных, а также разъяснить порядок защиты субъектом персональных данных своих прав и законных интересов. Собственник и (или) оператор, а также третье лицо, обязаны рассмотреть возражение, указанное в пункте 2 настоящей статьи, в течение трех дней со дня его получения и уведомить субъекта персональных данных о результатах рассмотрения такого возражения. 4. Субъект персональных данных вправе обжаловать действия (бездействие) собственников и (или) оператора, а также третьего лица в порядке, установленном законами Республики Казахстан.

Изменения в Законе «О масс-медиа»

В закон вносятся изменения, в соответствии с которыми продукция, созданная с использованием ИИ, может распространяться только при условии информирования о её происхождении в рамках Закона об искусственном интеллекте.

Статья 14. Распространение продукции масс-медиа … 7. Отсутствует.

Статья 14. Распространение продукции масс-медиа … 7. Распространение продукции масс-медиа, созданной системой искусственного интеллекта,  допускается  только в случае обеспечения информирования  о такой продукции в соответсвии  Законом Республики Казахстан «Об искусственном интеллекте».

Изменения в КоАП РК

Планируется ввод административной ответственности за нарушение законодательства РК об искусственном интеллекте, совершенное в виде:

1) не обеспечение собственниками или владельцами систем искусственного интеллекта, информирования пользователей о синтетических результатах деятельности генеративной системы искусственного интеллекта, которые могут ввести их в заблуждение;

2) не осуществление собственниками или владельцами систем искусственного интеллекта управления рисками систем искусственного интеллекта, повлекшими негативное воздействия на здоровье, благополучие людей, создания, распространения запрещенной информации, дискриминации, нарушения прав человека и иного вреда, если это действие (бездействие) не содержит признаков уголовно наказуемого деяния

Действующая редакция	Редакция проекта
Статья 641-1. Отсутствует	Статья 641-1. Нарушение законодательства Республики Казахстан об искусственном интеллекте 1. Нарушение законодательства Республики Казахстан об искусственном интеллекте, совершенное в виде: 1) не обеспечение собственниками или владельцами систем искусственного интеллекта, информирования пользователей о синтетических результатах деятельности генеративной системы искусственного интеллекта, которые могут ввести их в заблуждение;  2) не осуществление собственниками или владельцами систем искусственного интеллекта управления рисками систем искусственного интеллекта, повлекшими негативное воздействия на здоровье или благополучие людей, создания или распространения запрещенной информации, дискриминации или нарушения прав человека и иного вреда, если это действие (бездействие) не содержит признаков уголовно наказуемого деяния - влечет штраф на физических лиц в размере пятнадцати, на субъекты среднего предпринимательства – в размере тридцати, на субъекты крупного предпринимательства – в размере ста месячных расчетных показателей. 2. Действия, предусмотренные частью первой настоящей статьи, совершенные повторно в течение года после наложения административного взыскания, - влекут штраф на физических лиц в размере тридцати, на субъекты малого предпринимательства – в размере пятидесяти, на субъекты среднего предпринимательства – в размере семидесяти, на субъекты крупного предпринимательства – в размере двухсот месячных расчетных показателей, с приостановлением или запрещением деятельности системы искусственного интеллекта.
Статья 804. Должностные лица, имеющие право составлять протоколы об административных правонарушениях 1. По делам об административных правонарушениях, рассматриваемым судами, протоколы об административных правонарушениях имеют право составлять уполномоченные на то должностные лица: … 70) отсутствует	Статья 804. Должностные лица, имеющие право составлять протоколы об административных правонарушениях 1. По делам об административных правонарушениях, рассматриваемым судами, протоколы об административных правонарушениях имеют право составлять уполномоченные на то должностные лица: … 70) уполномоченного органа в сфере искусственного интеллекта (статья 641-1).