Государственная работа по стандартизации искусственного интеллекта началась еще в 2020 году, когда Росстандарт совместно с Минэкономразвития официально утвердил комплексную программу по развитию этого направления. Сейчас в России разработано уже свыше 400 ГОСТов в сфере информационных технологий, из них около 100 касаются разработки и использования искусственного интеллекта. О том, какая деятельность ведется для обеспечения безопасности и совместимости существующих решений в области ИИ, а также об особенностях использования нейросетей в современной экономике портал МетрологияPRO поговорил с президентом Национального фонда искусственного интеллекта Татьяной Бенуа и руководителем Росстандарта Антоном Шалаевым.
МетрологияPRO: Зачем нужна стандартизация в сфере информационных технологий?
Антон Шалаев: Для достижения технологического лидерства необходимо за короткий срок обеспечить высокую степень независимости в создании технологий, разработок и инженерных решений, освоить выпуск практически всей критически значимой продукции и продолжить возрождение инженерной школы и развития кадрового потенциала. Без стандартизации и унификации сделать это крайне затруднительно, а стандартизация в сфере информационных технологий – это, по сути, фундамент для цифровой трансформации и успешной интеграции в глобальное цифровое пространство. Она решает множество проблем, которые возникают при разработке, внедрении и использовании информационных технологий.
С 2020 года Росстандартом принято более 400 новых ГОСТов в ИТ-сфере. Подавляющее большинство этих стандартов – это уникальные российские стандарты, созданные силами экспертов российских предприятий. Эти стандарты направлены на развитие таких областей, как киберфизические системы , биометрия и биомониторинг, кибербезопасность, системная и программная инженерия, технологии автоматической идентификации и сбора данных, искусственный интеллект, промышленный интернет вещей, функциональная безопасность, математическое моделирование.
Стандартизация в сфере информационных технологий обеспечивает совместимость между различными устройствами, программами и системами, что позволяет им обмениваться данными и взаимодействовать друг с другом. Выполнение требований стандартов помогает предотвратить несанкционированный доступ к данным и системам, а также защитить от вредоносных программ и атак. Они устанавливают требования к шифрованию, аутентификации и авторизации, что делает информационные системы более защищенными.
Кроме того, крайне важным является переход промышленности на использование отечественной технологии управления полным жизненным циклом изделий, о чем неоднократно говорил председатель Правительства Российской Федерации Михаил Владимирович Мишустин. Очевидно, что это актуально и для предприятий оборонно-промышленного комплекса. В этой связи совместно с коллегами из Минпромторга и Минцифры была разработана и утверждена Перспективная программа стандартизации в сфере управления полным жизненным циклом на 2024-2026 годы. Для чего нужна подобная программа? Дело в том, что разрабатываемое отечественное инженерное программное обеспечение должно образовывать интегрированный комплекс, автоматизирующий все аспекты инженерного труда. При этом результаты решения отдельных задач должны быть доступны для решения других задач, что требует стандартизации требований к результатам инженерного труда в цифровой форме. Также должны быть разработаны требования к самим программным средствам: их архитектуре, интероперабельности, информационной безопасности и т.д.
МетрологияPRO: Есть ли сейчас нормативные документы в РФ, регулирующие создание нейросетей?
Татьяна Бенуа: Сейчас активно ведется работа по формированию законодательной базы в отношении искусственного интеллекта, его субъектности и мер ответственности в различных отраслях его применения: кто несет ответственность за ДТП с участием автомобиля в режиме беспилотника, кто отвечает за нарушение авторских прав и так далее. В России пока нет специального закона, регулирующего нейросети, но некоторые законодательные инициативы их косвенно затрагивают. Закон о персональных данных требует защиты и конфиденциальности информации, что актуально для всех систем, работающих с такими данными. Ведется работа над стандартами, касающимися безопасности и этики ИИ, например, крупнейшие разработчики нейросетей, крупнейшие корпорации уже объединились в Альянс в сфере искусственного интеллекта. Однако предстоит еще большая работа по расширению круга лиц и общественных организаций, причастных к соблюдению этических норм при использовании искусственного интеллекта в том или ином виде.
Антон Шалаев: В этой сфере уже есть первые стандарты, однако не сказал бы, что они задают какие-либо «регулирующие правила». Эти стандарты добровольны к применению и лишь фиксируют наилучшие практики создания нейросетей.
Например, ГОСТ Р 70462.1-2022 «Информационные технологии. Интеллект искусственный. Оценка робастности нейронных сетей. Часть 1. Обзор» – стандарт дает справочную информацию о способности нейронных сетей поддерживать качество работы алгоритмов машинного обучения и методах оценки работы ИИ.
МетрологияPRO: Как создаются стандарты для ИИ с учетом той сферы, в которой нейросеть будет использоваться?
Антон Шалаев: В ответе на этот вопрос кроется ключевое различие между разработкой стандартов для ИИ в нашей стране и за рубежом. Итак, по какому же пути развивается наша стандартизация ИИ? Условно я бы разделил все наши ГОСТы в этой области на две большие группы – системные и отраслевого применения.
Стандарты первого типа обеспечивают терминологическое единство, унификацию форматов представления данных, используемых при создании и применении систем ИИ, выработку единых, наиболее рациональных подходов к управлению процессами жизненного цикла систем ИИ. Среди них можно назвать серию ГОСТ Р «Информационные технологии. Искусственный интеллект. Качество данных для аналитики и машинного обучения», ГОСТ Р 70889-2023 «Информационные технологии. Искусственный интеллект. Структура жизненного цикла данных», ПНСТ 766-2022 «Информационные технологии. Искусственный интеллект. Управление рисками» и целый ряд других.
Отраслевые стандарты ориентированы на преодоление ключевого барьера, препятствующего внедрению интеллектуальных систем во многих отраслях экономики и социальной сферы, – отсутствия доверия к системам ИИ со стороны потребителей. Для этого в стандартах определяются унифицированные методики оценки соответствия технологий установленным требованиям, позволяющие с определенной уверенностью гарантировать функциональную надежность этих технологий в реальных условиях их эксплуатации. Отмечу, что такие методики являются специфичными для различных прикладных задач искусственного интеллекта, что на данном этапе обуславливает высокую размерность комплекса национальных стандартов в области ИИ.
Обратите внимание, все эти стандарты отраслевого применения разработаны в целях тиражирования наилучших практик при самом широком вовлечении и участии всех заинтересованных сторон, связанных с непосредственными разработкой, внедрением и применением технологий ИИ. Для этого нами был создан профильный технический комитет по стандартизации – ТК 164 «Искусственный интеллект», в котором действуют рабочие группы по формированию стандартов в этих отраслях. Такой формат работы позволяет привлечь наиболее авторитетные профильные организации и собрать на одной площадке все заинтересованные лица.
Кстати, чтобы разработчикам, да и вообще всем заинтересованным в этой сфере было проще, в 2023 году Росстандарт предоставил открытый доступ к национальным стандартам в сфере искусственного интеллекта в целях оперативного обеспечения ускоренных темпов развития отрасли искусственного интеллекта (ИИ) в России. Соответствующее предложение было выдвинуто «Сбером» для повышения эффективности создания и внедрения технологий ИИ в различных отраслях экономики и социальной сферы, и мы это предложение поддержали.
Собственно, в этом и есть ключевое отличие наших работ по стандартизации в сфере искусственного интеллекта от зарубежных – там идет работа практически исключительно над системными стандартами либо над стандартизацией конкретных решений в сфере ИИ. Стандарты ИИ необходимы как минимум для повышения качества и конкурентоспособности разрабатываемых технологий ИИ и как максимум для устранения принципиального нормативно-технического барьера недостаточного доверия к ИИ. Представьте себе, допустимо ли использовать на практике беспилотные автомобили, поведение которых в реальных дорожных условиях является слабо предсказуемым? Или, например, обратитесь ли вы в медицинское учреждение, в котором используются интеллектуальные системы поддержки принятия врачебных решений, обладающие негарантированным качеством работы? Ответы на эти и подобные вопросы очевидны. И на сегодняшний день именно стандарты, устанавливающие единые правила в области оценки качества прикладных технологий ИИ, являются наиболее действенным механизмом обеспечения качества и гарантированной функциональной надежности интеллектуальных систем.
Для технологий, риски в отношении которых достаточно серьезные, нужно устанавливать соответствующие требования, чтобы эти риски нивелировать. Для технологий, в которых отсутствуют риски или они минимальны, необходимо обеспечивать свободный механизм применения и обращения. Необходимо держаться желаемой середины между двумя нежеланными крайностями.
МетрологияPRO: Какие требования сейчас предъявляются к разработке ИИ?
Антон Шалаев: С точки зрения непосредственно разработки искусственного интеллекта подобные требования стандартами не регламентированы, да и, пожалуй, были бы излишни. Однако существует стандарт ГОСТ Р 59276-2020, который определяет существенные характеристики систем ИИ и способы обеспечения доверия ИИ. Так, основными характеристиками являются функциональные возможности, надежность, эффективность, практичность, сопровождаемость и мобильность. К способам обеспечения доверия относятся выбор представительного набора существенных характеристик системы и корректных правил их определения, формирование представительной обучающей выборки, например, для биометрических систем ИИ, очистка набора данных различными способами, использование рациональной ИТ-инфраструктуры, обеспечивающей надежную реализацию алгоритмов обработки данных при приемлемой стоимости владения системой ИИ.
Вообще должен отметить, что в последние годы наша страна вышла в число мировых лидеров по числу национальных стандартов, связанных с применением технологий искусственного интеллекта, причем разработка этих документов стартовала лишь в 2019 году, то есть подобный фонд создан фактически «с нуля» буквально за пять лет. Всего таких ГОСТов уже 118.
В конечном итоге установление стандартов в сфере искусственного интеллекта помогает решать задачи обеспечения безопасности, качества и доверия к технологиям искусственного интеллекта. Для этого необходимо использовать два взаимодополняющих подхода: установление требований, с одной стороны, к процессам разработки систем, прежде всего – к качеству данных, а также аппаратным средствам, программным средам разработки, квалификации персонала, с другой – к самим системам. Во втором подходе наиболее важным является контроль функциональных характеристик систем ИИ, так как именно в них проявляются наиболее существенные особенности интеллектуальных систем, отличающие их от других систем обработки данных.
Безусловно, стандарты связаны и с оценкой соответствия – и в 2023 году Росстандарт зарегистрировал первую систему добровольной сертификации (СДС) в области искусственного интеллекта «Интеллометрика», разработчиком которой выступил Национальный исследовательский университет «Высшая школа экономики». Целью оценки соответствия в этой системе является необходимость убедиться в том, что алгоритмы ИИ выполняют заявленные функции и могут быть использованы в определенных условиях эксплуатации. Кстати, методики сертификации разрабатываются совместно с индийскими коллегами в рамках пилотного проекта, в ходе которого вырабатываются приемлемые для двух стран подходы к оценке соответствия ИИ в сельском хозяйстве и здравоохранении, разрабатываются метрики оценки качества для технологий ИИ, участвующих в пилотном эксперименте, и требований к качеству прикладных технологий ИИ, в том числе в сравнении с качеством человека-оператора. Первые результаты пилотного проекта были представлены на встрече руководителей национальных органов по стандартизации БРИКС, прошедшей в Москве в сентябре этого года, и они вызвали живой интерес у коллег из других государств.
МетрологияPRO: Что же такое ИИ? многие специалисты считают, что те системы, которые разрабатываются сейчас, нельзя в полной мере назвать «интеллектом», а как их было бы назвать корректно?
Татьяна Бенуа: Современные системы, которые сегодня называются искусственным интеллектом, скорее следует рассматривать как «интеллектуальные системы» или «машины для обучения», чем как полноценный «интеллект». Это связано с несколькими ограничениями и характеристиками: в основном они узкоспециализированы и могут выполнять лишь конкретные задачи, для которых они были обучены. У них отсутствуют осознание, эмоции и интуиция, а также способность предугадывать события и адаптироваться к новым контекстам вне сферы своего обучения. Эти системы работают по заданным алгоритмам и обучаются на данных, что делает их мощными инструментами, но они не обладают сознанием или общим разумом, характерными для человеческого интеллекта.
Антон Шалаев: С учетом разговора о стандартах, приведу определение «искусственного интеллекта», как раз и содержащееся в стандарте и во многом отвечающее на данный вопрос. Так, искусственный интеллект – это комплекс технологических решений (информационно-коммуникационная инфраструктура, программное обеспечение, процессы и сервисы по обработке данных, анализу и синтезу решений), позволяющий имитировать когнитивные функции человека, включая самообучение, поиск решений без заранее заданного алгоритма, и получать при выполнении конкретных практически значимых задач обработки данных результаты, сопоставимые с результатами интеллектуальной деятельности человека.
Так или иначе, «искусственный интеллект» не является «интеллектом, созданным искусственно», это – другая сущность. Сейчас доминирует подход к созданию систем ИИ, основанный на использовании методов машинного обучения, хотя вся область ИИ к этим методам не сводится. Машинное обучение лишь копирует то, как получает знания человек через учение на протяжении жизни.
МетрологияPRO: С какими основными сложностями и недостатками сталкиваются разработчики ИИ?
Татьяна Бенуа: Несмотря на большие преимущества, которые создает для нас ИИ, стоит выделить несколько ключевых недостатков:
-
современные ИИ-системы, особенно те, которые основаны на глубоких нейронных сетях, часто называют «черными ящиками» из-за сложности интерпретации процесса принятия решений. Это вызывает проблемы с доверием пользователей и регуляторов;
-
ИИ-системы могут непреднамеренно воспроизводить или даже усиливать предвзятость, присутствующую в данных, на которых они обучаются. Это вызывает серьезные опасения в отношении справедливости и возможной дискриминации;
-
для обучения ИИ требуется большое количество данных хорошего качества. Сбор и аннотация этих данных могут быть сложными и дорогими;
-
ИИ-системы могут быть уязвимы для атак и манипуляций. Например, атаки с использованием «плохих» данных могут вызвать неправильную работу модели или нежелательный результат;
-
несмотря на успехи в конкретных задачах, существующие системы ИИ обладают узкоспециальной интеллигентностью и не могут сравниться с диапазоном возможностей человеческого ума.
МетрологияPRO: Может ли ИИ использоваться при разработке современной микроэлектроники и сверхточных приборов?
Антон Шалаев: Топология современных изделий микроэлектроники очень сложна, и алгоритмы ИИ могут применяться для контроля целостности архитектуры чипа и выбора типовых решений при создании нового изделия. Также методы машинного обучения могут использоваться при виртуальных испытаниях микросхем.
В измерительной технике технологии искусственного интеллекта также начинают активно применяться, правда, не при ее разработке, а в процессе применения. ИИ позволяет компенсировать случайные ошибки, что существенно повышает точность и одновременно сокращает длительность измерений.
Кроме того, в сфере измерений в последнее время мы начали активно прорабатывать задачу развития «умных систем» коммерческого учета, которые будут давать оценку необходимости проводить поверку не жестко по истечении срока межповерочного интервала, а с учетом показаний смежных счетчиков и каналов в «умной системе». Если результаты измерений смежных приборов учета согласованы, то необходимости проводить поверку нет. Это тоже своего рода самодиагностика, но уже на уровне системы. Она позволит не только сэкономить время, средства и нервы потребителей, но и существенно сэкономить средства на метрологическое и техническое обслуживание систем учета. Для того чтобы внедрить описанный подход, необходимо полностью реализовать интеграцию «умных» счетчиков в системы и сформировать «интеллектуальную» надстройку с привлечением актуальных сейчас направлений – анализа данных и искусственного интеллекта.
МетрологияPRO: Какие сейчас существуют единицы измерения количества информации?
Антон Шалаев: При измерении количества информации используются разные подходы: основанные на измерении уровня неопределенности какого-либо события до и после получения информационного сообщения, на сложности алгоритмов, необходимых для формирования информационного потока, и другие. В цифровых каналах связи, как правило, используется упрощенный подход, не учитывающий смысл передаваемой информации и основанный на подсчете количества бинарных символов, необходимых для передачи информационного блока.
Все это описывается в многочисленных стандартах – как разработанных на площадках международных организаций по стандартизации, например, той же МЭК – Международной электротехнической комиссии, так и адаптированных на национальном уровне.
МетрологияPRO: А с помощью каких СИ сейчас измеряется количество информации?
Антон Шалаев: Для измерения количества информации в Российской Федерации в настоящее время используется различное оборудование, которое является средством измерений утвержденного типа, в том числе около 400 систем измерений передачи данных, 16 систем измерений количества информации и более 45 тысяч зондов систем с измерительными функциями.
При монтаже, наладке и тестировании сетей передачи данных используется более 600 анализаторов пакетных сетей, таких как тестеры-анализаторы пакетных сетей различных модификаций, анализаторы цифровых потоков и многие другие. Принцип действия всех этих средств измерений заключается в подсчете количества байтов (пакетов, кадров, фреймов), переданных и принятых при передаче данных.
Для обеспечения единства измерений в этой сфере была разработана и утверждена государственная поверочная схема, а в подведомственном Росстандарту государственном метрологическом институте ФГУП «ВНИИФТРИ» был создан и введен в эксплуатацию государственный первичный эталон единицы количества переданной (принятой) информации (данных) и единиц величин параметров пакетных сетей передачи данных.
Для передачи единицы величины рабочим средствам измерений на территории Российской Федерации функционирует 27 рабочих эталонов трех типов, а именно комплексы измерительные «ВЕКТОР-2019», комплексы измерительные «ВЕКТОР-2019-Х» и формирователи-измерители соединений «СИГМА-2».
Для измерений длительности соединений используются соответствующие системы, эксплуатируемые операторами как проводной, так и сотовой связи. Их парк составляет более 7,5 тысячи единиц.
Также в сфере государственного регулирования используется около 14 тысяч тарификаторов. Принцип действия этих средств измерений заключается в измерении интервалов времени от начала соединения до его окончания. Они прослеживаются к государственному первичному эталону единиц времени, частоты и национальной шкалы времени, который также эксплуатируется во ВНИИФТРИ.
В нашей стране сейчас активно идут процессы цифровизации, которые не обходят стороной и измерительное оборудование. И хотя упомянутые эталоны и средства измерений в своем функционале не используют современные нейросетевые технологии, процесс обеспечения жизненного цикла данных средств измерений регулярно модернизируется – в частности, поверка многих из вышеперечисленных средств измерений может проводиться в дистанционном режиме.
МетрологияPRO: Насколько цифровые методы анализа и обработки информации мощнее и эффективнее аналоговых?
Татьяна Бенуа: Хорошим примером служит использование цифровых двойников крупных городов , где с помощью моделирования можно учесть большее количество параметров и их взаимосвязь, а также проверить гипотезы, прежде чем, например, запускать реструктуризацию транспортной системы.
Также хорошим примером может послужить система «умный город», где применение датчиков на водопроводных и канализационных трубах с выводом в централизованный софт позволяет регулярно мониторить и предупреждать аварийные ситуации, что ранее было недоступно. В итоге цифровые методы более точны, функциональны и намного более эффективны при решении современных задач обработки данных, чем аналоговые. Особенно учитывая тот факт, что сейчас появилось больше источников сбора данных благодаря цифровизации среды.
Антон Шалаев: Природа имеет аналоговый характер, и цифровое представление является вынужденной, довольно грубой, но в определенных случаях достаточно эффективной моделью реальных величин. При этом, если говорить о бионических аналогиях, то нейрон является аналоговым прибором и, более того, работающим на квантовых принципах. Последние исследования показывают, что квантовые эффекты проявляются в миелиновой оболочке, охватывающей нейронные связи, что объясняет чрезвычайно высокую вычислительную эффективность живого мозга при низком энергопотреблении.
Сравните мегаватты, потребляемые хорошим компьютером, с 30 ваттами, потребляемыми человеческим мозгом, и вы поймете озабоченность ученых и природоохранных деятелей чрезмерными расходами электроэнергии, приходящимися на центры обработки данных. Так что будущее за нейроморфными и квантовыми технологиями, для которых мы только начинаем разрабатывать стандарты.
Автор: Марина Чайкина
