30 июля 2020 года прошло второе ежегодное заседание Технического комитета по стандартизации ТК 164 «Искусственный интеллект», созданного в 2019 году по инициативе РВК при поддержке Минпромторга России и Росстандарта. В состав комитета входят около 130 организаций: ИТ-компании, вузы, научно-исследовательские организации, органы государственной власти, потребители систем ИИ из различных отраслей, а также ассоциации и фонды. Участие в заседании в режиме видеоконференции приняли более ста представителей членов ТК 164 и заинтересованных организаций.

В сферу ответственности ТК 164 входит широкий спектр вопросов, связанных с нормативно-техническим регулированием различных аспектов прикладного использования технологий искусственного интеллекта. Комитет представляет собой зеркальное отражение на национальном уровне профильного международного подкомитета ISO/IEC JTC 1 SC 42 Artificial Intelligence.

Председатель ТК 164 Сергей Гарбук представил структуру комитета: в него входят секретариат и семь структурных подразделений по различным направлениям. По его словам, такая структура позволяет обеспечить максимальный охват тех отраслей, в которых нормативно-техническое регулирование искусственного интеллекта наиболее актуально.

«Это здравоохранение, транспорт, в будущем, возможно, безопасность», – отметил председатель ТК 164. В дальнейшем комитет предполагает увеличить охват, привлекая к работе новых заинтересованных потребителей систем ИИ. Это позволит ориентировать работу комитета на практические потребности бизнеса.

Одна из основных задач ТК 164, по словам Сергея Гарбука, – это формирование национальных документов по стандартизации ИИ. Подразделения комитета ведут работу над 42 документами. На данный момент восемь документов находятся на финальной стадии разработки, два из них были утверждены и опубликованы в конце 2019 года (ГОСТ Р 58776-2019 «Средства мониторинга и прогнозирования намерения людей. Термины и определения»; ГОСТ Р 58777-2019 «Воздушный транспорт. Аэропорты. Технические средства досмотра. Методика определения показателей распознавания незаконных вложений по теневым рентгеновским изображениям»). Еще три документа проходят утверждение окончательной редакции в Росстандарте. Они касаются применения технологий ИИ и дополненной реальности в технических руководствах, вводят классификацию систем ИИ, а также описывают способы обеспечения доверия к системам ИИ.

За время работы ТК 164 сформированы пять практических принципов стандартизации ИИ. Первый - это выявление нормативно-технических барьеров в области ИИ, помочь преодолеть которые должны новые стандарты. Например, стандартизация позволит снять нормативные ограничения в области физической и информационной безопасности.

«Это, прежде всего, тесная связь проблемы искусственного интеллекта с использованием больших объемов данных, которые зачастую являются конфиденциальными, содержат в себе персональные данные и так далее, – отметил Сергей Гарбук. – Что касается физической безопасности, этот вопрос наиболее остро стоит для систем, некорректная работа которых может привести к человеческим жертвам, экологическому и экономическому ущербу. Это, прежде всего, беспилотный транспорт, медицинские системы, промышленная робототехника, системы безопасности».

Второй принцип стандартизации – это разработка как межотраслевых стандартов, регулирующих общие вопросы применения ИИ (терминологию, форматы описания и разметки данных, принципы обеспечения качества систем), так и отраслевых документов, специфических для решения конкретных прикладных задач. Третий принцип заключается в формировании конечного корпуса документов по стандартизации ИИ, который, по оценке председателя ТК 164, должен содержать до 200 документов. Четвертый принцип – плотное взаимодействие с органами по сертификации технологий ИИ, и, наконец, пятый принцип заключается в формировании и отстаивании национальных целей и приоритетов при международной стандартизации искусственного интеллекта. «Нам необходимо разрабатывать такие стандарты, чтобы обеспечивать возможность пользователю системы ИИ подтверждать ее соответствие требованиям независимо от того, где, кем и когда была разработана такая система», - подчеркнул Сергей Грабук.

В заседании также приняли участие руководители структурных подразделений ТК 164: Сергей Морозов, председатель ПК 01 «ИИ в здравоохранении» (НПКЦ ДиТ ДЗМ), Юрий Хохлов (МГУ им. М.В. Ломоносова), председатель ПК 02 «Большие данные»; Антон Шингарев (Яндекс), председатель ПК 03 «Искусственный интеллект на транспорте»; Александр Агеев (МНИИПУ), руководитель РГ 01 «Основополагающие стандарты»; Андрей Незнамов (ПАО СБЕРБАНК), руководитель РГ 04 «Прикладные технологии искусственного интеллекта»; Антоний Швиндт (НИУ ВШЭ), руководитель РГ 05 «Искусственный интеллект в образовании», представители РГ 03 «Качество систем искусственного интеллекта» (Сколтех) и другие.

Ознакомиться с презентациями руководителей рабочих групп и подкомитетов ТК 164 можно на сайте АО РВК