Национальный стандарт РФ ГОСТ Р 59277-2020 "Системы искусственного интеллекта. Классификация систем искусственного интеллекта" (утв. и введен в действие приказом Федерального агентства по техническому регулированию и метрологии от 23 декабря 2020 г. N 1372-ст)

Artificial intelligence systems. Classification of artificial intelligence systems

ОКС 35.020

Дата введения - 1 марта 2021 г.
Введен впервые

Предисловие

1 Разработан Акционерным обществом "Всероссийский научно-исследовательский институт сертификации" (АО "ВНИИС"), Обществом с ограниченной ответственностью "ТВпортал" (ООО "ТВпортал")

2 Внесен Техническим комитетом по стандартизации ТК 164 "Искусственный интеллект"

3 Утвержден и введен в действие Приказом Федерального агентства по техническому регулированию и метрологии от 23 декабря 2020 г. N 1372-ст

4 Введен впервые

Введение

Целью указанного стандарта является установление принципов классификации систем искусственного интеллекта (ССИ). Внедрение данного стандарта необходимо для повышения эффективности использования систем искусственного интеллекта при решении прикладных задач.

Установление классификации систем искусственного интеллекта позволит сравнивать различные решения по таким параметрам как: вид деятельности, структура знаний, функции контура управления, безопасность, конфиденциальность, степень автоматизации, методы обработки информации, интеграция/интероперабельность, комплексность системы, архитектура, специализация.

Применение данного стандарта обеспечит повышение эффективности использования систем искусственного интеллекта для решения прикладных задач как автономного характера, так и во взаимодействии с человеком оператором.

Это позволит заинтересованным сторонам выбирать надлежащие решения для их приложений и сравнивать качество доступных решений.

1 Область применения

Настоящий стандарт устанавливает классификацию систем искусственного интеллекта (ССИ).

Настоящий стандарт предназначен для применения в сфере теоретической и практической деятельности по классификации систем искусственного интеллекта, при выполнении работ по:

развитию классификации систем ИИ;

отнесению конкретных систем ИИ к определенным классам;

применению классификации систем ИИ в сфере стандартизации.

В настоящем стандарте установлена схема классификации, отражающая основные особенности СИИ для решения прикладных задач, помогающая определить направления их стандартизации.

2 Нормативные ссылки

В настоящем стандарте использованы нормативные ссылки на следующие стандарты:

ГОСТ 34.003-90 Информационная технология. Комплекс стандартов на автоматизированные системы. Автоматизированные системы. Термины и определения

ГОСТ 33707-2016 (ISO/IEC 2382-2015) Информационные технологии. Словарь

ГОСТ Р ИСО/МЭК ТО 12182-2002 Информационная технология. Классификация программных средств

ГОСТ Р 53114-2008 Защита информации. Обеспечение информационной безопасности в организации. Основные термины и определения

ГОСТ Р 53622-2009 Информационные технологии (ИТ). Информационно-вычислительные системы. Стадии и этапы жизненного цикла, виды и комплектность документов

ГОСТ Р 55062-2012 Информационные технологии. Системы промышленной автоматизации и их интеграция. Интероперабельность. Основные положения

ГОСТ Р 56272-2014 (ISO/TS 15926-8:2011) Системы промышленной автоматизации и интеграции. Интеграция данных жизненного цикла перерабатывающих предприятий, включая нефтяные и газовые производственные предприятия. Часть 8. Практические методы интеграции распределенных систем: практическая реализация сетевого языка онтологии (OWL)

ГОСТ Р 57193-2016 (ISO/IEC/IEEE 15288:2015) Системная и программная инженерия. Процессы жизненного цикла систем

ГОСТ Р 57309-2016 (ИСО 16354:2013) Руководящие принципы по библиотекам знаний и библиотекам объектов

Коды ОКВЭД 2016 Общероссийский классификатор видов экономической деятельности

Примечание - При пользовании настоящим стандартом, целесообразно проверить действие ссылочных стандартов и классификаторов в информационной системе общего пользования на официальном сайте Федерального агентства по техническому регулированию и метрологии в сети Интернет или по ежегодному информационному указателю "Национальные стандарты", который опубликован по состоянию на 1 января текущего года, и по выпускам ежемесячного информационного указателя "Национальные стандарты" за текущий год. Если заменен ссылочный документ, на который дана недатированная ссылка, то рекомендуется использовать действующую версию этого документа с учетом всех внесенных в данную версию изменений. Если, заменен ссылочный документ, на который дана датированная ссылка, то рекомендуется использовать версию этого документа с указанным выше годом утверждения (принятия). Если после утверждения настоящего стандарта в ссылочный документ, на который дана датированная ссылка, внесено изменение, затрагивающее положение, на которое дана ссылка, то это положение рекомендуется применять без учета данного изменения. Если ссылочный документ отменен без замены, то положение, в котором дана ссылка на него, рекомендуется применять в части, не затрагивающей эту ссылку.

3 Термины и определения

В настоящем стандарте применены следующие термины с соответствующими определениями:

3.1

автоматизированная система: Система, состоящая из персонала и комплекса средств автоматизации его деятельности, реализующая информационную технологию выполнения установленных функций. [ГОСТ 34.003-90, статья 1.1]

3.2 автоматическая система: Совокупность управляемого объекта и автономной СИИ, функционирующая самостоятельно, без участия человека.

3.3 автономность (autonomy): Характеристика СИИ, связанная с ее способностью самостоятельно (без участия человека) выполнять возложенные на нее функции в течение заданного времени и с заданными показателями качества, надежности, безопасности.

Примечание - Системы, работающие в автономном режиме, подлежат обязательному контролю или надзору со стороны человека.

3.4 агент (agent): Физический/программный объект, который оценивает собственное состояние, состояние других объектов и окружающей среды для выполнения своих действий, включая прогнозирование и планирование, которые максимизируют успешность, в том числе при неожиданном изменении оцениваемых состояний, достижения своих целей.

3.5

алгоритм (algorithm): Конечное упорядоченное множество точно определенных правил для решения конкретной задачи. [ГОСТ 33707-2016, статья 4.3.9]

3.6

безопасность информации [данных]: Состояние защищенности информации [данных], при котором обеспечены ее [их] конфиденциальность, доступность и целостность. [ГОСТ Р 53114-2008, статья 3.1.1]

3.7 безопасность информационной технологии: Состояние защищенности информационной технологии, при котором обеспечивается выполнение изделием, реализующим информационную технологию, предписанных функций без нарушений безопасности обрабатываемой информации.

3.8

библиотека знаний (knowledge library): Набор информационных (знаковых, символьных) моделей, которые выражают знания (также могут включать в себя определение моделей и их требования) о ряде вещей (понятий) и хранятся и воспроизводятся в электронном виде. [ГОСТ Р 57309-2016, статья 3.1.1]

3.9

большие данные (big data): Обширные наборы данных, - главным образом, по таким характеристикам данных, как объем, разнообразие, скорость генерации и/или изменчивость, - которые требуют использования технологии масштабирования для эффективного хранения, обработки, управления и анализа. ([1], статья 3.1.2)

3.10

вид (view): Множество соответствующих классов. (Таксономическая единица, объединяющая множество соподчиненных объектов с общими сущностными признаками). [ГОСТ Р ИСО/МЭК ТО 12182-2002, статья 4.2]

3.11 встроенная система (embedded system): Специализированная система, в которой СИИ обычно встроена в объект, которым она управляет.

3.12

вычислительные средства (средства вычислительной техники): Технические средства, непосредственно осуществляющие обработку данных. [ГОСТ Р 53622-2009, статья 3.4]

3.13

данные (data): Предоставление информации в формальном виде, пригодном для передачи, интерпретации или обработки людьми или компьютерами. [ГОСТ 33707-2016, статья 4.259]

3.14

действие (activity): Множество связанных задач процесса. [ГОСТ Р 57193-2016, статья 4.1.3]

3.15 доверие к системе искусственного интеллекта (Trustworthiness): Уверенность потребителя, и при необходимости, организаций, ответственных за регулирование вопросов создания и применения систем искусственного интеллекта, и иных заинтересованных сторон в том, что система способна выполнять возложенные на нее задачи с требуемым качеством.

3.16

жизненный цикл (life cycle): Развитие системы, продукции, услуги, проекта или другой создаваемой человеком сущности от замысла до списания. [ГОСТ Р 57193-2016, статья 4.1.19]

3.17

знания (в искусственном интеллекте) (knowledge): Совокупность фактов, событий, убеждений, а также правил, организованных для систематического применения. [ГОСТ 33707-2016, статья 4.398]

3.18 искусственный интеллект (artificial intelligence): Комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение, поиск решений без заранее заданного алгоритма и достижение инсайта) и получать при выполнении конкретных практически значимых задач обработки данных результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека.

Примечание - Комплекс технологических решений включает в себя информационно-коммуникационную инфраструктуру, программное обеспечение (в том числе, в котором используются методы машинного обучения), процессы и сервисы по обработке данных, анализу и синтезу решений.

3.19

интернет вещей (internet of thing): Инфраструктура взаимосвязей сущностей, систем и информационных ресурсов совместно с сервисами, которые снимают с вещей первичные данные, обрабатывают, и выдают информацию для физического или виртуального мира. ([2], статья 3.2.1)

3.20 промышленный интернет вещей (industrial internet of thing): Интернет вещей, ориентированный на применение в промышленности.

3.21

интероперабельность (interoperability): Способность двух или более информационных систем или компонентов к обмену информацией, в том числе на организационном, семантическом и техническом уровнях, и к использованию информации, полученной в результате обмена. [ГОСТ Р 55062-2012, статья 3.1.8]

3.22

интероперабельная система (interoperable system): Система, в которой входящие в нее подсистемы работают по независимым алгоритмам, не имеют единой точки управления, все управление определяется единым набором стандартов - профилем интероперабельности. [ГОСТ Р 55062-2012, статья 3.1.9]

3.23 информационная безопасность (information security): Защита конфиденциальности, целостности и доступности информации; кроме того, сюда могут быть отнесены и другие свойства, например аутентичность, подотчетность, безотказность и надежность.

3.24 информационная технология (information technology): Методы, способы, приемы и процессы обработки (сбора, накопления, ввода-вывода, приема-передачи, хранения, поиска, регистрации, преобразования, анализа и синтеза, предоставления, отображения, распространения и уничтожения) информации с применением программных и технических средств.

3.25

класс (class): Описание множества объектов, для которых имеются одни и те же атрибуты, операции, методы, взаимосвязи и семантики. [ГОСТ 33707-2016, статья 4.494] Примечание - Класс включает в себя от одной до нескольких минимальных таксономических единиц (видов).

3.26 классификация (classification): Способ и результат упорядочения, структуризации некоторого множества объектов, разделения его на определенные подмножества путем артикуляции, выделения некоторого признака объектов исходного множества как основания их структуризации по данному признаку. Такого рода признак называется основанием классификации.

3.27 объект классификации: Элемент классификационного множества.

3.28 классификационная схема: Классификационная структура, основанная на отношениях подчинения.

3.29 киберфизическая система (cyber-physical system): Информационно-технологическая концепция, подразумевающая интеграцию вычислительных ресурсов в физические процессы. В такой системе датчики, оборудование и информационные системы соединены на протяжении всей цепочки в логику управления для создания стоимости, выходящей за рамки одного предприятия или бизнеса. Эти системы взаимодействуют друг с другом с помощью стандартных интернет-протоколов для прогнозирования, самонастройки и адаптации к изменениям.

3.30

компьютерное зрение (compter vision): Способность функционального блока получать, обрабатывать и интерпретировать визуальные данные. [ГОСТ 33707-2016, статья 4.540]

3.31 многоагентная система (multyagency system): Система, состоящая из множества взаимодействующих интеллектуальных агентов. Многоагентные системы могут решить проблемы, которые трудны или невозможны для отдельного агента или для единой (монолитной) системы.

3.32

модель знаний (knowledge model): Информационная модель, которая выражает знания в структуре, интерпретируемой компьютером. [ГОСТ Р 57309-2016, статья 3.1.1]

3.33

модель жизненного цикла (life cycle model): Структурная основа процессов и действий, относящихся к жизненному циклу, которая также служит в качестве общего эталона для установления связей и понимания. [ГОСТ Р 57193-2016, статья 4.1.20]

3.34 нейротехнологии: Технологии, которые используют или помогают понять работу мозга, мыслительные процессы, высшую нервную деятельность, в том числе технологии по усилению, улучшению работы мозга и психической деятельности.

3.35

онтология (ontology): Формализованное представление набора наименований понятий в предметной области и отношений между этими наименованиями понятий. [ГОСТ Р 56272-2014, статья 2.1.21]

3.36

профиль интероперабельности (interoperability profile): Согласованный набор стандартов, структурированный в терминах модели интероперабельности. [ГОСТ Р 55062-2012, статья 3.1.18]

3.37

процесс (process): Совокупность взаимосвязанных или взаимодействующих видов деятельности, преобразующая входы в выходы. [ГОСТ Р 57193-2016, статья 4.1.26]

3.38

программное обеспечение (software) (программа, программное средство): Упорядоченная последовательность инструкций (кодов) для вычислительного средства, находящаяся в памяти этого средства и представляющая собой описание алгоритма управления вычислительными средствами и действий с данными. [ГОСТ Р 53622-2009, статья 3.8]

3.39 распределенная система (distributed artificial intelligence): Распределенная система обеспечивает решение проблемы управления на базе распределенной системы знаний в отличие от многоагентных систем, где базы знаний отдельных агентов взаимодействуют.

3.40 система искусственного интеллекта (artificial intelligence system):Техническая система, в которой используются технологии искусственного интеллекта.

3.41

схема классификации: Упорядоченная комбинация видов и классов, связанных с программными средствами. [ГОСТ Р ИСО/МЭК ТО 12182-2002, статья 4.1]

3.42 система жизненного цикла (life cycle system): Система искусственного интеллекта, функционирующая на основе модели данных (знаний) жизненного цикла.

3.43

технические средства (technical means): Аппаратные и программные средства, используемые для сбора, обработки, хранения, манипуляции и выдачи данных. [ГОСТ Р 53622-2009, статья 3.12]

3.44 технологии искусственного интеллекта: Комплекс технологических решений, направленных на создание систем искусственного интеллекта.

3.45

физический объект (physical object): Индивидуальная сущность которая имеет физическую природу с ограниченным сроком службы и может быть материальной или виртуальной. [ГОСТ Р 57309-2016, статья 3.1.6]

4 Сокращения

В настоящем стандарте использованы следующие сокращения:

БЗ - база знаний;

ИИ - искусственный интеллект;

КФС - киберфизическая система;

ОКВЭД - общероссийский классификатор видов экономической деятельности;

ПИВ - промышленный интернет вещей;

ПС - программное средство;

СИИ - система искусственного интеллекта.

5 Принципы классификации систем искусственного интеллекта

Искусственный интеллект как область знаний охватывает все области человеческой деятельности, включая: информатику, математику, философию, психологию, термодинамику, лингвистику, здравоохранение, инженерию, экономику, когнитивные науки и др.

Эти знания используются в таких приложениях, как: системы управления, системы принятия решений, многоагентные системы, системы обработки естественного языка, распознавание образов, распознавание речи, обработка знаний, интеллектуальный анализ данных, логистика и другие приложения.

Классификация должна отражать существенные (значимые) характеристики системы искусственного интеллекта (СИИ), включая особенности контура управления, в рамках которого используется СИИ, и технологии построения и использования знаний.

В настоящем стандарте установлена схема классификации, отражающая основные особенности СИИ для решения прикладных задач, помогающая определить направления их стандартизации (см. рисунок 1).

Схема классификации базируется на ключевых, с точки зрения стандартизации, основаниях классификации.

Каждое из рассматриваемых оснований представлено в виде нескольких классов верхнего уровня. В большинстве случаев более детальную иерархию классов или принципы классификации можно найти по ссылкам на соответствующие стандарты или документы.

Базовые классы СИИ целесообразно группировать на основе следующих принципов:

1) по классам и категориям объектов в управлении;

2) по технологиям построения, приобретения и использования знаний;

3) по функциям, которые выполняет СИИ в контуре управления;

4) по методам и технологиям, используемым в СИИ;

5) по методам и средствам взаимодействия СИИ с другими системами и человеком-оператором.

Эти подходы к классификации являются основными. Каждый из них может иметь иерархическую структуру.

Дополнительные классификации могут быть связаны со специальными требованиями к объектам, процессам, контуру управления, архитектуре, ресурсам с учетом окружающей среды (интероперабельность, нормы регулирования, безопасность, действия стандартов, этические требования, надежность, отказоустойчивость, условия внешней среды и т.д.)

Классификация, связанная с описанием каждого класса, представляет собой перечень объектов, соответствующих данному классу.

Классы, к которым могут быть отнесены СИИ, необязательно исключают друг друга. Для некоторых СИИ может быть применен только один из классов, а для других - несколько.

Рисунок 1 - Схема классификации СИИ

Каждая конкретная позиция классификации может быть детализирована, как по уже существующим стандартам, так и по сложившейся практике.

В стандарте рассмотрены следующие основания для классификации:

1) по степени автономности;

2) по степени автоматизации;

3) по архитектурному принципу;

4) по структуре и процессам обработки знаний:

а) по модели знаний;

б) по управлению знаниями;

в) по методу обучения;

5) по специализации систем ИИ:

а) специализированные (используют единый домен знаний);

б) комплексные (используют множество доменов знаний);

6) по методам обработки информации;

7) по функциям в контуре управления;

8) по методам достижения интеграции и интероперабельности СИИ;

9) по опасности последствий;

10) по конфиденциальности;

11) по видам деятельности;

12) по взаимодействию с человеком-оператором.

Возможно расширение видов классификации систем ИИ.

6 Схема классификации систем искусственного интеллекта

Схема классификации представлена в таблице 1.

Таблица 1 - Схема классификации систем искусственного интеллекта

Основания для классификации	Классы
1 По степени автономности	1.1 Автономные системы 1.2 Встроенные системы 1.3 Гибридные системы
2 По степени автоматизации	2.1 Автоматизированные системы 2.2 Автоматические системы
3 По архитектурному принципу	3.1 Централизованные системы 3.2 Распределенные системы
4 По видам деятельности	4.1 Государственное управление 4.2 Безопасность 4.3 Общеотраслевое регулирование 4.4 Промышленность 4.5 Здравоохранение 4.6 Торговля 4.7 Финансы и банки 4.8 Транспорт и логистика 4.9 Сельское хозяйство 4.10 "Умный город" 4.11 Экология 4.12 Образование и наука 4.13 Нефть и газ 4.14 Прочее
5 По функциям контура управления	5.1 Системы с обратной связью 5.2 Системы реального времени 5.3 Адаптивные системы 5.4 Системы формирования цели (Системы целеполагания) 5.5 Системы формирования контура управления и обучения 5.6 Системы обработки измерений 5.7 Системы идентификации и диагностики 5.8 Системы когнитивного моделирования 5.9 Системы логического вывода 5.10 Системы принятия (поддержки) решений 5.11 Экспертно-аналитические системы 5.12 Системы оценки достижения цели 5.13 Ситуационные центры 5.14 Системы прогнозирования 5.15 Прочее
6 По специализации систем	6.1 Экспертные системы (управление знаниями) 6.2 Игровые системы 6.3 Системы естественного языка 6.4 Системы компьютерного зрения 6.5 Промышленные роботы 6.6 Беспилотные аппараты 6.7 Прочее
7 По комплексности и сложности систем	7.1 Многоагентные системы 7.2 Системы "Большие данные" 7.3 Промышленный интернет вещей 7.4 Киберфизические системы 7.5 Системы жизненного цикла 7.6 Системы сетевой экспертизы 7.7 Распределенные системы управления 7.8 Система распределенных ситуационных центров 7.9 Прочее
8 По методам обработки информации	8.1 Нейросети 8.2 Обучение на примере 8.3 Эволюционные и генетические алгоритмы 8.4 Муравьиные алгоритмы 8.5 Имунные вычисления 8.6 Глубокое обучение 8.7 Роевые вычисления 8.8 Метод Байеса 8.9 Уменьшение размерности 8.10 Природные вычисления 8.11 Мягкие вычисления 8.12 Кластеризация 8.13 Дерево решений 8.14 Регуляризация 8.15 Аналоговая обработка данных 8.16 Обработка фурье-образов 8.17 Регрессия 8.18 Решение обратных задач 8.19 Система правил 8.20 Прочее
9 По управлению знаниями, моделям и методам обучения	9.1 Процедурные 9.2 Декларативные 9.3 Онтологические 9.4 Семантические 9.5 Продукционные 9.6 Фреймовые 9.7 Нейросетевая 9.8 Генетическая 9.9 Логическая 9.10 Статистическая 9.11 Нечеткие знания 9.12 Классификации 9.13 Многомерное представление (3Д, 4Д) 9.14 Функциональные 9.15 Технологические 9.16 Методологические 9.17 Комбинированное обучение 9.18 Непрерывное обучение 9.19 Единовременное обучение 9.20 Прочее
10 По методам достижения интеграции и интероперабельности	10.1 Системы с интеграцией на базе онтологии 10.2 Системы на базе профилирования 10.3 Системы, использующие классификаторы 10.4 Прочее
11 По опасности последствий *	11.1 Социальная 11.2 Политическая 11.3 Экономическая 11.4 Технологическая 11.5 Техногенная 11.6 Экологическая 11.7 Безопасность государства
12 По конфиденциальности **	12.1 Уровень конфиденциальности (0-3)
* Классификация в соответствии с категорированием объектов критической информационной инфраструктуры: (1) Социальной значимости (здоровье и жизнь людей); Политической значимости (причинение ущерба государству); Экономической значимости (ущерб субъектам и/или бюджетам); Экологической значимости (воздействие на окружающую среду); Значимость для обороны/безопасности, Правопорядка. ** Классификация соответствует следующим классам конфиденциальности: (0) Открытая информация; (1) Внутренняя информация; (2) Конфиденциальная информация; (3) Секретная информация.

Возможно дополнение классификации СИИ как по новым основаниям, так и путем детализации классов по специализированным классификациям.

Классы можно характеризовать различными дополнительными аспектами или подклассами, например:

- наличием/отсутствием внешнего наблюдения, осуществляемого человеком-оператором либо другой автоматизированной системой;

- степенью понимания системы;

- степенью реактивности/отзывчивости;

- уровнем устойчивости функционирования;

- степенью надежности и безопасности;

- видом аппаратной реализации;

- степенью приспособляемости к внутренним или внешним изменениям;

- способностью оценивать свою собственную работоспособность/пригодность;

- способностью принимать решения и планировать.

Классификация может быть дополнена классами, приведенными в системах стандартизации.

Библиография

[1]	ИСО/МЭК 20564-2019 (ISO/IEC 20564-2019)	Информационные технологии. Большие данные. Обзор и словарь (Information technology - Big data - Overview and vocabulary)
[2]	ИСО/МЭК 20924-2018 (ISO/IEC 20924-2018)	Информационные технологии. Интернет вещей (loT). Словарь (Information technology - Internet of Things (loT) - Vocabulary)