В Казахстане запретят создание «терминаторов»
Будущий закон об искусственном интеллекте (ИИ) обсуждают в парламенте Казахстана
АСТАНА, 3 мар — Sputnik. В мажилисе (нижняя палата казахстанского парламента) состоялась презентация проекта закона «Об искусственном интеллекте» и сопутствующих ему поправок в законодательные акты, в том числе в Кодекс об административных правонарушениях.
Будущий закон представила коллегам секретарь комитета по экономической реформе и региональному развитию, депутат Екатерина Смышляева.»Цель законопроекта — создать прозрачную, эффективную правовую базу для внедрения IT-технологий в нашу экономику. Особое внимание развитию искусственного интеллекта уделяет Глава государства, он неоднократно давал соответствующие поручения. Более того, в ходе недавнего посещения Центра развития искусственного интеллекта Глава государства особо отметил важность правильной модели регулирования именно этой технологии по той причине, что это, с одной стороны — вопрос безопасности, с другой стороны — это вопрос развития. И здесь нам важно держать баланс. Согласно этим поручениям, мы сегодня приступаем к работе над проектом Закона «Об искусственном интеллекте», — заявила т Екатерина Смышляева.
В рамках планируемых изменений ожидается внедрение новых норм для обеспечения безопасности и регулирования сферы ИИ.
Все системы искусственного интеллекта разделят по три вида по степеням риска. Это позволит регулировать их эксплуатацию в зависимости от потенциального влияния на безопасность пользователей, общества и государства.
Первая категория — вспомогательные системы искусственного интеллекта, где ИИ выполняет функции помощника, и все окончательные решения принимает исключительно пользователь.
Вторая категория — полуавтономные системы. От первой отличается тем, что пользователь дает ИИ ограниченные права на автоматизированное принятие решения в рамках заранее заданных параметров. В то же время, человек может вмешиваться в процесс принятия решений, а также изменять результаты деятельности системы.
И, наконец, третья категория — полностью автономные системы, которые принимают решения вне зависимости от заранее заданных параметров и не поддаются контролю со стороны владельца данной системы. Это именно то, что описано в различных романах «фэнтази», посвященных «восстанию машин» (самый популярный из которых – кинороман «Терминатор»).»На территории Казахстана запрещается создание и выпуск в обращение полностью автономных систем искусственного интеллекта», — подчеркнула Екатерина Смышляева в своем выступлении.
Категорическому запрету подлежит создание следующих систем ИИ.
Системы использующие подсознательные, манипулятивные или иных методы, существенно искажающих поведение человека и ограничивающих способность принимать осознанные решения, или вынуждающих принимать решения, которые могут причинить человеку вред или создавать угрозу причинения вреда жизни, здоровью и имуществу.
Системы использующие моральную или физическую уязвимость человека из-за возраста, инвалидности, социального положения и по любым иным обстоятельствам с целью причинения или создания угрозы причинения ему вреда.
Системы определение эмоций человека без его согласия (за исключением случаев, предусмотренных законами Казахстана).
Под запрет подпадает и удаленная биометрическая идентификация людей в реальном времени в общественных местах (за исключением случаев, оговоренных законодательством).
В рамках законопроекта власти Казахстана намерен создать национальную платформу искусственного интеллекта и библиотеки данных.
Будет запрещена автоматизированная обработка персональных данных (за исключением случаев, когда получено согласие или в случаях, предусмотренных законодательством Казахстана), в результате которой у субъекта персональных данных, во-первых, создается угроза причинения вреда жизни, здоровью и имуществу; во-вторых, возникают, изменяются или прекращаются права, законные интересы.
Предусмотрено введение штрафов за нарушение новых норм – для этого планируется внести соответствующие правки в КоАП РК.
Видами нарушения будут являться:
— не обеспечение собственниками или владельцами систем ИИ информирования пользователей о синтетических результатах деятельности генеративной системы ИИ, которые могут ввести их в заблуждение;
— не осуществление собственниками или владельцами систем ИИ управления рисками систем ИИ, повлекшими негативное воздействие на здоровье или благополучие людей, создание или распространения запрещенной информации, дискриминации или нарушения прав человека и иного вреда, если это действие (бездействие) не содержит признаков уголовно наказуемого деяния.
Так за нарушения, связанные с использованием ИИ, включая необеспечение информирования о синтетических результатах и неуправление рисками систем ИИ, предлагается ввести штрафы от 15 до 200 МРП (от 58 980 тенге до 786 400 тенге).
В частности, за первое нарушение:
При повторном нарушении в течение года штрафы увеличиваются:
Не исключен момент приостановления или запрета работы системы ИИ.
Как отметил председатель комитета по экономической реформе и региональному развитию Мажилиса Нуртай Сабильянов, законопроекты направлены на установление единой правовой базы использования технологий ИИ.
Планируется создание Национальной платформы ИИ: уже сейчас формируется государственная технологическая инфраструктура для разработки, обучения и тестирования систем ИИ в контролируемой среде, что способствует развитию отечественных решений в этой сфере.
Предлагаемые поправки предусматривают права и обязанности субъектов отношений в сфере ИИ. Кроме того, сопутствующим законопроектом обеспечивается защита прав потребителей в отношении продуктов с использованием ИИ, защита персональных данных и прочее.