Новости

"Лучше мы напишем закон об ИИ, чем он напишет его сам": документ одобрил мажилис в первом чтении

Сегодня, 17:55

Екатерина Смышляева рядом с роботом-ассистентом

Перед обсуждением депутатам разъяснили разные стороны жизни, которые затрагивает документ.

Что произошло

Депутаты мажилиса одобрили в первом чтении законопроект об искусственном интеллекте (ИИ). Согласно документу, в стране создадут Национальную платформу ИИ, которая обеспечит базу для разработки и внедрения новых технологий. Также законодатели хотят защитить права граждан.

Детали

Законопроект перед обсуждением представила коллегам депутат мажилиса Екатерина Смышляева. По её словам, сейчас технологии ИИ быстро развиваются, но в Казахстане до сих пор нет чётких правил их использования. Новый закон должен это исправить – он защитит граждан, даст понятные правила для разработчиков и поможет государству контролировать сферу, пояснила Екатерина Смышляева.

О чём этот законопроект

После вступления в силу закон должен:

защитить права людей, чьи данные использует ИИ;
сделать работу ИИ прозрачной и безопасной;
установить чёткие правила для разработчиков и инвесторов, чтобы привлечь инвестиции;
создать Национальную платформу ИИ – общую базу данных и инструментов, доступную всем разработчикам;
ввести госпрограммы и финансирование исследований в этой сфере.

Что запретят

Разработчики предусмотрели и запреты на законодательном уровне. К примеру, запретят анализировать эмоции через ИИ без согласия людей, распознавать лица в общественных местах в реальном времени (кроме разрешённых случаев), пользоваться уязвимостью (например, возраст, инвалидность), создавать и распространять вредный контент от имени ИИ, включая дипфейки, использовать ИИ, который манипулирует людьми без их согласия.

На какие виды разделят ИИ и сервисы с его использованием

Согласно проекту закона, нейросети будут делиться на помощников, полуавтономные и полностью автономные системы. Последние – под запретом. А если ИИ причинил вред человеку, ответственность несут его владельцы и операторы. Также вводится возможность страхования риска, если система ошиблась.

Проект предусматривает классификацию ИИ по уровням риска:

высокий – системы, влияющие на жизнь и здоровье людей, госуправление и принятие решений. Они подлежат строгому регулированию;
средний – требуют контроля, но с меньшими ограничениями;
низкий – такие системы не нуждаются в регулировании и развиваются свободно.

Также планируется создание Национальной платформы искусственного интеллекта, которая обеспечит базу для разработки и внедрения новых технологий. Возможно, разработчиков обяжут информировать пользователей, если они взаимодействуют с ИИ (например, с чат-ботами или с сервисами, предлагающими некие автоматические решения).

В законопроекте, по словам депутата, предусмотрены статьи:

по защите конфиденциальности;
по особенностям создания и предоставления библиотек данных в отношении их владельцев;
по обеспечению прозрачности данных, на которых учится искусственный интеллект;
по интеллектуальной собственности.

Не отпугнёт ли регулирование ИИ разработчиков

Депутат Дмитрий Колода поинтересовался, не станет ли закон об ИИ слишком жёстким и не отпугнёт ли он разработчиков, как это уже произошло в Евросоюзе, где компании начали выносить свои проекты за пределы региона из-за строгого регулирования.

Екатерина Смышляева ответила, что разработчики закона старались не перегрузить сферу ИИ жёсткими мерами. Она признала, что в Европе слишком строгие правила уже повлияли на рынок, и заверила: Казахстан не повторяет эту модель. Вместо этого предложен более гибкий подход – регулировать будут только те системы, которые несут риски, а остальные смогут развиваться в более свободных условиях. При этом она подчеркнула, что отсутствие регулирования опасно и может превратить страну в тестовую площадку для зарубежных компаний.

"Мы кроме регуляторных вещей в законе предусмотрели поддержку инноваций в сфере искусственного интеллекта, в том числе за счёт государства. Поэтому мы постарались выдержать баланс. Если не серьёзно, то, наверное, не стоит ждать, пока искусственный интеллект сам напишет закон и сам его примет. Лучше принять нам", – сказала она.

Государственная платформа по ИИ – это не монополия

Государственная платформа по искусственному интеллекту не будет монополией и не собирается вытеснять частный рынок. По словам депутата, платформа – это не коммерческий проект, а техническая среда, которая поможет разработчикам. Она нужна, чтобы решить очень важные вопросы:

предоставить ресурсы тем, у кого нет доступа к мощным серверам или облачным сервисам;
открыть доступ к госданным, чтобы стартапы могли обучать ИИ на отечественной информации, а не на зарубежных базах.

Она подчеркнула, что большим компаниям никто не мешает использовать свои собственные серверы и данные. Платформа – это инструмент поддержки, особенно для малых разработчиков. Поэтому, по её мнению, риск монополии со стороны государства отсутствует.

Данные будут обезличены, а защита – как у критически важного объекта

Екатерина Смышляева объяснила, что в законе особое внимание уделено защите персональных данных. По её словам, данные для ИИ будут обезличены, то есть перед использованием из них уберут всё, что может указать на конкретного человека. Только после этого они могут попасть в библиотеку Национальной платформы. Помимо этого:

Конфиденциальные данные, охраняемые законом, использоваться не будут, особенно те, что касаются ограниченного доступа (например, медицинские или финансовые данные).
Национальная платформа будет защищаться по уровню КВОИКи, то есть как критически важный объект информационно-коммуникационной инфраструктуры. За её безопасность будет отвечать Государственный центр информационной безопасности при КНБ.
Доступ к данным будет строго ограничен и будет обеспечен только с учётом согласия пользователей.
Будут проверки и аудит – предусмотрены сертификация платформ, аудит безопасности и соблюдение всех норм информационной безопасности.

Также, по словам Смышляевой, в стране готовят новые нормы по защите персональных данных – они уточнят, когда и как даётся согласие на использование конфиденциальной информации, в каких случаях его можно отозвать и как действовать, если человек не согласен на обработку.

Есть ли риски для рынка труда

Риски для рынка труда из-за внедрения ИИ, по словам депутата, действительно существуют, особенно в отношении рутинных и механических профессий. Но это не значит, что всех людей заменят на искусственные сервисы. Главное – вовремя заниматься переподготовкой специалистов, подчеркнула Екатерина Смышляева. Для этого менять законы не нужно, достаточно практических шагов, чем уже занимаются в профильных ведомствах.

Она также объяснила, что в законопроект уже включён запрет на социальный скоринг – это когда ИИ оценивает людей по их поведению или личным характеристикам. Если система ИИ используется при приёме на работу или других кадровых решениях, человек или профсоюз сможет запросить объяснение, на чём основано решение.

По мнению Смышляевой, не стоит ждать, что ИИ массово заменит все профессии. Особенно это касается творческих и интеллектуальных сфер – такие задачи ИИ пока выполнять не может.

Как ИИ влияет на детей

Екатерина Смышляева признала, что частое использование искусственного интеллекта может влиять на развитие детей. Но, по её словам, просто запретить ИИ не получится – у детей есть доступ к интернету и смартфонам, и они легко найдут, как обойти любые ограничения.

Если министерство просвещения решит ввести ограничения, оно может сделать это через свои законы. Сейчас, по её словам, министерство уже работает над этическим кодексом – как ИИ можно использовать в школах и как с этим должны работать учителя и дети.

Как будут регулировать авторские права

Депутат объяснила, что в законопроекте учли международный опыт в части авторских прав. Если контент полностью создан ИИ – например, по простой команде "напиши стих про весну", – такой материал не будет считаться авторским, потому что его сделал не человек.

"Условно говоря, если человек просит расставить запятые и подкорректировать немножко текстовку, тогда степень участия очень высокая, соответственно, права остаются, потому что ИИ используется просто как инструмент, как мы другие инструменты сегодня в быту используем. Ну, можно руками яму копать, можно лопатой. Вот лопата – это на сегодня ИИ. Грубо, конечно, но примерно так", – заключила Екатерина Смышляева.

Контекст

Назначать ответственных исполнителей, контролировать поручения в госорганах и составлять документы начинает искусственный интеллект (ИИ) – его внедряют в работу госорганов в пилотном режиме. Взаимодействовать с новыми технологиями сотрудники будут в рамках цифровых проектов Е-Заннама и облачного документооборота (ОДО).

–––

Читайте также: