Динамика и перспективы развития стандартов в искусственном интеллекте стала темой для обсуждения в рамках конференции ЦИПР

Динамика и перспективы развития стандартов в искусственном интеллекте стала темой для обсуждения в рамках конференции ЦИПР

Динамика и перспективы развития стандартов в искусственном интеллекте стала темой для обсуждения в рамках конференции «Цифровая индустрия промышленной России» (ЦИПР-2021). Соорганизатором площадки выступил Росстандарт.

 

В фокусе обсуждения - возможности скорейшего внедрения систем искусственного интеллекта в отраслях экономики и социальной сферы.

 

Модератором панельной дискуссии стал директор по научным проектам НИУ ВШЭ, председатель ТК 164 «Искусственный интеллект» Сергей Гарбук. Его доклад был посвящен анализу работ по формированию комплекса национальных стандартов в области ИИ. Сергей Гарбук напомнил о том, что в декабре 2020 года была утверждена Перспективная программа стандартизации по приоритетному направлению «Искусственный интеллект» на 2021-2024 годы.

 

«В программе выявлены основные цели и принципы стандартизации. Одна из них – обеспечение доверия к системам ИИ. Потребитель должен иметь определённую уверенность в том, что система поведет себя правильно в реальных условиях эксплуатации. Вторая цель – обеспечение метрологического единства, означающего возможность объективного сравнения систем ИИ со схожим функциональным назначением. Третья – обеспечение конфиденциальности наборов данных, используемых при создании, тестировании и применении систем ИИ. Отсутствие стандартов, предъявляющих унифицированные требования к процедурам анонимизации этих данных, сдерживают развитие ИИ, ограничивают разработчикам доступа к этим данным. Ну и четвертая цель – унификация форматов представления данных, обеспечение бесшовной, эффективной интеграции систем ИИ в национальную цифровую инфраструктуру», - добавил Сергей Гарбук.

 

«В начале 2021 года мы создали концепцию машиночитаемого права. Она направлена на объединение нормативно-технической и нормативно-правовой этимологии. Это означает, что тот разрабатываемые стандарты наравне с человекочитаемым текстом должны содержать машиночитаемый текст, который будет построен на антологиях, семантических сетях смыслов», - отметил Сергей Израйлит, вице-президент по развитию и планированию Фонда «Сколково».

 

Он поделился с присутствующими возможностями использования технологий машиночитаемого права при разработке и использовании нормативно-технической документации.

 

О национальной и международной стандартизации в области больших данных как части направления «Искусственный интеллект» рассказал председатель совета директоров АНО «Институт развития информационного общества» Юрий Хохлов. «Стандарты — это форма передачи открытого знания.  Когда мы говорим о построении баз данных предметных отраслей, то эти знания можно соответствующим образом переводить и передавать тремя формами от поколения к другому. Одна форма – это фундаментальные знания передаются через публикационные активы исследований, вторая – это патентные исследования. И третья – в виде стандартов. Международная стандартизация вообще - и в области ИИ, и в области работы с данными, — это, по сути, консолидация на международном уровне всех открытых знаний, которыми сообщество делится», - подчеркнул он.

 

Директор международного инновационного института искусственного интеллекта, кибербезопасности и коммуникаций им А. С. Попова СПбГЭТУ «ЛЭТИ» Кирилл Кринкин в своем докладе «Стандартизация в искусственном интеллекте. Международный уровень» рассказал о жизненном цикле стандартов ИСО. «Это линейная модель: стадия предложения – стадия подготовки – стадия комитета – стадия запроса – стадия одобрения – стадия публикации. Наши коллеги из ТК 164 могут встраиваться в эту цепочку практически где угодно. Но важными являются публичные стадии: внесение в международную повестку, обсуждение международного стандарта и голосование (статус международного стандарта)», - пояснил спикер.

 

Все участники дискуссии отметили необходимость стандартизации сферы ИИ в России для динамичного развития высокотехнологичных отраслей. «Система ИИ нашла свое отражение в различных отраслях. Например, в смарт-технологиях, транспортной сфере, здравоохранении. Это в свою очередь ставит широкий спектр задач техническим комитетам, в том числе программе стандартизации в сфере ИИ до 2024 года. Мы стараемся учесть все особенности и отразить их в основополагающем стандарте «Стандартизация в РФ. Стандарты национальные РФ в цифровых форматах. Общие положение и классификация», над которым сейчас ведется работа. Планируется, что документ позволит помимо работ по машиночитаемым текстам, использовать стандартные данные в документах», - прокомментировал заместитель Генерального директора ФГУП «Стандартинформ» Алексей Иванов.

 

Кристина Сергунова, советник Президента НИЦ «Курчатовский институт» по ядерной медицине, в рамках своего доклада вернулась к вопросу повышения доверия к системам ИИ. По ее мнению, при наличии грамотно выстроенной системы оценки качества возможно изменить отношение потребителей к технологиям ИИ, а именно, оценить соответствие характеристик систем ИИ требованиям, установленным нормативно-техническими документами, методическими рекомендациями, требованиям заказчика. По мнению докладчика, составляющими такого комплексного понятия как качество являются параметры надежности, безопасности и функциональности (эффективности).

 

В завершении мероприятия старший научный сотрудник, доцент кафедры защиты информации Омского государственного технического университета Алексей Сулавко презентовал разработку вуза и поделился своими опасениями по атакам на ИИ. «Сегодня стандарты, публичные документы находятся на уровне постановки проблемы и задач в области функциональной безопасности, защиты информации. Нам удалось разработать проект по защите архитектуры ИИ и изначально сделать ее защищённой. Стандарт по автоматическому обучению нейронных знаний только принят в России. В мире больше таких стандартов нет», - объяснил Алексей Сулавко.

 

«Для нас крайне важно развитие ИИ, это неотъемлемая часть цифровой трансформации экономики и промышленности. Например, с выведением на принципиально новый уровень ИИ станет более доступна цифровая метрология. Такой проект мы представили на ЦИПР - Аналитический программно-аппаратный комплекс мониторинга достоверности автоматических измерений. Он даст нам возможность в режиме реального времени выяснить, когда и в какой момент произошел сбой весовой рамки и максимально быстро скорректировать ее работу. В результате внедрения системы, которая будет работать 24/7, прогнозируемый экономический эффект составит 2 млрд рублей в год», - добавил директор ЦСМ Росстандарта в Нижегородской области Денис Миронов.

 

По итогам дискуссий спикеры отметили глубокую проработку проблемных вопросов, связанных с развитием ИИ, и приняли решение учесть все предложения при разработке нормативно-технической документации.