Приложение Б (обязательное). Методы и средства по предотвращению систематических отказов на стадиях жизненного цикла Э/Э/ПЭ СБЗС систем

Приложение Б
(обязательное)

Методы и средства по предотвращению систематических отказов на стадиях жизненного цикла Э/Э/ПЭ СБЗС систем

Для каждого уровня безопасности рекомендуемые методы и средства предотвращения отказов в Э/Э/ПЭ СБЗС системах приведены в таблицах Б.1 - Б.5. Более подробную информацию см. в ГОСТ 34332.5-2021 (приложение Б). Требования к методам по управлению отказами в период эксплуатации приведены в приложении А, а методы описаны в ГОСТ 34332.5-2021 (приложение А). Перечислить каждую причину систематических отказов, источники которых возникают на протяжении всех стадий ЖЦ, и каждое средство защиты не представляется возможным по следующим причинам:

а) влияние систематических ошибок зависит от стадии ЖЦ, на которой они вносятся;

б) эффективность любой конкретной меры или средства по предотвращению отказов зависит от их применения.

Поэтому количественный анализ для предотвращения систематических отказов невозможен.

Категории отказов в Э/Э/ПЭ СБЗС системах могут быть установлены в соответствии со следующими стадиями ЖЦ, которые явились источником внесения соответствующих ошибок:

- отказы, вызванные ошибками, возникающими до установки или в период установки системы (например, ошибки ПО включают в себя ошибки спецификации и ошибки программ; ошибки в АС включают в себя ошибки на этапе изготовления и неправильный выбор компонентов);

- отказы, вызванные ошибками, возникающими после установки системы (например, случайные отказы АС или отказы, вызванные неправильным использованием оборудования).

Для предотвращения отказов или управления ими (если они происходят), как правило, требуется применение большого числа средств. Структура требований, приведенных в настоящем приложении и приложении А, является следствием разделения средств и методов на средства и методы, используемые для предотвращения отказов на различных стадиях ЖЦ Э/Э/ПЭ СБЗС системы (см. настоящее приложение), и средства и методы, используемые для управления отказами в период эксплуатации (см. приложение А). Средства по управлению отказами - это собственные встроенные составляющие Э/Э/ПЭ СБЗС системы, а средства и методы для предотвращения отказов - используемые в течение ЖЦ системы.

Рекомендации, приведенные в таблицах Б.1 - Б.5, сформированы для УПБ и устанавливают, во-первых, важность меры (метода или средства) и, во-вторых, эффективность их использования. Уровень важности метода или средства обозначают:

О - данные методы или средства требуются обязательно для данного УПБ;

ОР - методы или средства особо рекомендованы для данного УПБ. Если эти методы или средства не используются, то должно быть приведено подробное обоснование их неиспользования;

Р - методы или средства рекомендованы для данного УПБ;

"- -" - методы или средства, не имеющие рекомендаций за и против применения;

HP - методы или средства явно (положительно) не рекомендованы для данного УПБ. В случае применения этих методов или средств должно быть приведено подробное обоснование такого использования.

Уровни эффективности методов или средств обозначены следующим образом:

- "низкий" - данные методы или средства следует использовать в степени, необходимой для достижения по крайней мере уровня низкой эффективности противодействия систематическим отказам;

- "средний" - данные методы или средства следует использовать в степени, необходимой для достижения по крайней мере уровня средней эффективности противодействия систематическим отказам;

- "высокий" - данные методы или средства следует использовать в степени, необходимой для достижения по крайней мере уровня высокой эффективности противодействия систематическим отказам.

Примечания

1 Большинство методов и средств, приведенных в таблицах Б.1 - Б.5, может использоваться с разной эффективностью в соответствии с таблицей Б.6, в которой приведены описания их применения для обеспечения низкой и высокой эффективности. Усилия, требуемые для получения средней эффективности, находятся в пределах усилий, необходимых для получения низкой и высокой эффективности.

2 Данные наименования уровней эффективности и важности методов для различных УПБ использованы в таблицах Б.1 - Б.5.

Если мера не является обязательной, то она может быть заменена другими мерами (одной или в комбинации с другими).

Руководящие указания, представленные в настоящем приложении, не гарантируют требуемой полноты безопасности. Следует учитывать:

- последовательность выбранных методов и средств и то, как они будут дополнять друг друга;

- какие из методов и средств предназначены для каждой стадии ЖЦ;

- какие методы и средства в наибольшей степени подходят для решения конкретных проблем, с которыми сталкиваются специалисты во время создания каждой Э/Э/ПЭ СБЗС системы.

Таблица Б.1 - Рекомендации по предотвращению ошибок во время формирования спецификации требований к проектированию Э/Э/ПЭ СБЗС системы (см. 8.2)

Метод/средство	Структурный элемент ГОСТ 34332.5-2021	УПБ 1	УПБ 2	УПБ 3	УПБ 4
1 Управление проектами	Б.1.1	О низкий	О низкий	О средний	О высокий
2 Документация	Б.1.2	О низкий	О низкий	О средний	О высокий
3 Разделение систем, связанных с безопасностью, и систем, не связанных с безопасностью	Б.1.3	ОР низкий	ОР низкий	ОР средний	ОР высокий
4 Структурирование спецификации	Б.2.1	ОР низкий	ОР низкий	ОР средний	ОР высокий
5 Экспертиза спецификации	Б.2.6	- - низкий	ОР низкий	ОР средний	ОР высокий
6 Полуформальные методы	Б.2.3, см. также ГОСТ 34332.4-2021, таблица Б.7	Р низкий	Р низкий	ОР средний	ОР высокий
7 Таблица контрольных проверок	Б.2.5	Р низкий	Р низкий	Р средний	Р высокий
8 Автоматизированные средства разработки спецификаций	Б.2.4	- - низкий	Р низкий	Р средний	Р высокий
9 Формальные методы	Б.2.2	- - низкий	- - низкий	Р средний	Р высокий
Примечания 1 Методы 5-9, имеющие уровень важности Р, являются взаимозаменяемыми, но обязательно применение как минимум одного из них. 2 Для верификации данной стадии ЖЦ системы безопасности требуется выполнение по крайней мере одного из методов 5-9 или перечисленных в таблице Б.5. 3 Методы, приведенные в настоящей таблице, могут быть использованы для различных уровней эффективности в соответствии с таблицей Б.6, в которой приведены примеры низкого и высокого уровней эффективности. Усилия, требуемые для среднего уровня эффективности, находятся между усилиями, требуемыми для низкого и высокого уровней эффективности. 4 Краткий обзор методов и средств, представленных в настоящей таблице, приведен в ГОСТ 34332.5-2021, приложение Б.

Таблица Б.2 - Рекомендации по предупреждению внесения ошибок во время проектирования и разработки Э/Э/ПЭ СБЗС системы (см. 8.3)

Метод/средство	Структурный элемент ГОСТ 34332.5-2021	УПБ 1	УПБ 2	УПБ 3	УПБ 4
1 Соблюдение руководящих материалов и стандартов	Б.3.1	О высокий	О высокий	О высокий	О высокий
2 Управление проектами	Б.1.1	О низкий	О низкий	О средний	О высокий
3 Документация	Б.1.2	О низкий	О низкий	О средний	О высокий
4 Структурное проектирование	Б.3.2	ОР низкий	ОР низкий	ОР средний	ОР высокий
5 Модульное проектирование	Б.3.4	ОР низкий	ОР низкий	ОР средний	ОР высокий
6 Использование достоверно испытанных компонент	Б.3.3	Р низкий	Р низкий	Р средний	Р высокий
7 Полуформальные методы	Б.2.3, см. также ГОСТ 34332.4-2021, таблица Б.7	Р низкий	Р низкий	ОР средний	ОР высокий
8 Таблица контрольных проверок	Б.2.5	- - низкий	Р низкий	Р средний	Р высокий
9 Средства автоматизированного проектирования	Б.3.5	- - низкий	Р низкий	Р средний	Р высокий
10 Моделирование	Б.3.6	- - низкий	Р низкий	Р средний	Р высокий
11 Проверка (обзор и анализ), сквозной контроль аппаратных средств	Б.3.7, Б.3.8	- - низкий	Р низкий	Р средний	Р высокий
12 Формальные методы	Б.2.2	- - низкий	- - низкий	Р средний	Р высокий
Примечания 1 Методы 6-12, имеющие уровень важности Р, являются взаимозаменяемыми, но обязательно применение как минимум одного из них. 2 Для верификации данной стадии ЖЦ системы безопасности требуется выполнение по крайней мере одного из методов 6-12 или перечисленных в таблице Б.5. 3 Методы, приведенные в настоящей таблице, могут быть использованы для различных уровней эффективности в соответствии с таблицей Б.6, в которой приведены примеры низкого и высокого уровней эффективности. Усилия, необходимые для среднего уровня эффективности, находятся между усилиями, которые определены для низкого и высокого уровней эффективности. 4 Краткий обзор методов и средств, представленных в настоящей таблице, приведен в ГОСТ 34332.5-2021 (приложение Б).

Таблица Б.3 - Рекомендации для предотвращения ошибок на стадии интеграции Э/Э/ПЭ СБЗС системы (см. 8.4, 8.5)

Метод/средство	Структурный элемент ГОСТ 34332.5-2021	УПБ 1	УПБ 2	УПБ 3	УПБ 4
1 Функциональное тестирование	Б.5.1	О высокий	О высокий	О высокий	О высокий
2 Управление проектами	Б.1.1	О низкий	О низкий	О средний	О высокий
3 Документация	Б.1.2	О низкий	О низкий	О средний	О высокий
4 Тестирование методом "черного ящика"	Б.5.2	Р низкий	Р низкий	Р средний	Р высокий
5 Полевые испытания	Б.5.4	Р низкий	Р низкий	Р средний	Р высокий
6 Статистическое тестирование	Б.5.3	- - низкий	- - низкий	Р средний	Р высокий

Таблица Б.4 - Рекомендации по предотвращению ошибок и отказов в период эксплуатации и технического обслуживания Э/Э/ПЭ СБЗС системы (см. 8.7.1)

Метод/средство	Структурный элемент ГОСТ 34332.5-2021	УПБ 1	УПБ 2	УПБ 3	УПБ 4
1 Инструкции по эксплуатации и техническому обслуживанию	Б.4.1	ОР высокий	ОР высокий	ОР высокий	ОР высокий
2 Удобство общения с пользователем	Б.4.2	ОР высокий	ОР высокий	ОР высокий	ОР высокий
3 Удобство технического обслуживания	Б.4.3	ОР высокий	ОР высокий	ОР высокий	ОР высокий
4 Управление проектами	Б.1.1	О низкий	О низкий	О средний	О высокий
5 Документация	Б.1.2	О низкий	О низкий	О средний	О высокий
6 Сокращение работ на стадии эксплуатации	Б.4.4	- - низкий	Р низкий	ОР средний	ОР высокий
7 Защита от ошибок оператора	Б.4.6	- - низкий	Р низкий	ОР средний	ОР высокий
8 Эксплуатация только квалифицированным оператором	Б.4.5	- - низкий	Р низкий	Р средний	ОР высокий
Примечания 1 Методы 6-8, имеющие уровень важности Р, являются взаимозаменяемыми, но обязательно применение как минимум одного из них. 2 Для верификации данной стадии ЖЦ системы безопасности требуется выполнение метода, основанного на таблице контрольных проверок (см. ГОСТ 34332.5-2021, приложение Б, подраздел Б.2.5), или метода, основанного на экспертизе спецификации (см. ГОСТ 34332.5-2021, приложение Б, подраздел Б.2.6). 3 Методы, приведенные в настоящей таблице, могут быть использованы для различных уровней эффективности в соответствии с таблицей Б.6, в которой приведены примеры низкого и высокого уровней эффективности. Усилия, необходимые для среднего уровня эффективности, находятся между усилиями, которые определены для низкого и высокого уровней эффективности. 4 Краткий обзор методов и средств, представленных в настоящей таблице, приведен в ГОСТ 34332.5-2021 (приложение Б).

Таблица Б.5 - Рекомендации по предотвращению ошибок при подтверждении соответствия безопасности Э/Э/ПЭ СБЗС системы (см. 8.6)

Метод/средство	Структурный элемент ГОСТ 34332.5-2021	УПБ 1	УПБ 2	УПБ 3	УПБ 4
1 Функциональное тестирование	Б.5.1	ОР высокий	ОР высокий	ОР высокий	ОР высокий
2 Функциональные испытания в условиях окружающей среды	Б.6.1	ОР высокий	ОР высокий	ОР высокий	ОР высокий
3 Испытания на устойчивость к пиковым выбросам внешних воздействий	Б.6.2	ОР высокий	ОР высокий	ОР высокий	ОР высокий
4 Испытание с введением неисправностей (при требуемом охвате диагностикой 90 % и более)	Б.6.10	ОР высокий	ОР высокий	ОР высокий	ОР высокий
5 Управление проектами	Б.1.1	О низкий	О низкий	О средний	О высокий
6 Документация	Б.1.2	О низкий	О низкий	О средний	О высокий
7 Статический анализ, динамический анализ, анализ отказов	Б.6.4, Б.6.5, Б.6.6	- - низкий	Р низкий	Р средний	Р высокий
8 Моделирование и анализ отказов	Б.3.6, Б.6.6	- - низкий	Р низкий	Р средний	Р высокий
9 Анализ наихудшего случая, динамический анализ и анализ отказов	Б.6.7, Б.6.5, Б.6.6	- - низкий	Р низкий	Р средний	Р высокий
10 Статический анализ и анализ отказов (см. примечание 4)	Б.6.4, Б.6.6	Р низкий	Р низкий	HP -	HP -
11 Расширенное функциональное тестирование	Б.6.8	- - низкий	ОР низкий	ОР средний	ОР высокий
12 Тестирование методом "черного ящика"	Б.5.2	Р низкий	Р низкий	Р средний	Р высокий
13 Испытание с введением неисправностей (при требуемом охвате диагностикой менее 90 %)	Б.6.10	Р низкий	Р низкий	Р средний	Р высокий
14 Статистическое тестирование	Б.5.3	- - низкий	- - низкий	Р средний	Р высокий
15 Испытания в наихудших случаях	Б.6.9	- - низкий	- - низкий	Р средний	Р высокий
16 Полевые испытания	Б.5.4	Р низкий	Р низкий	Р средний	HP -
Примечания 1 Все методы 7-16, имеющие уровень важности Р, являются взаимозаменяемыми, но обязательно применение, как минимум, одного из методов 7-10 (аналитические методы) и одного из методов 11-16 (средства испытаний). 2 Методы, приведенные в настоящей таблице, могут быть использованы для различных уровней эффективности в соответствии с таблицей Б.6, в которой приведены примеры низкого и высокого уровней эффективности. Усилия, необходимые для среднего уровня эффективности, находятся между усилиями, которые определены для низкого и высокого уровней эффективности. 3 Краткий обзор методов и средств, представленных в настоящей таблице, приведен в ГОСТ 34332.5-2021 (приложение В). 4 Статистический анализ и анализ отказов не рекомендуются для УПБ 3 и УПБ 4, так как эти методы недостаточны, если не используются вместе с динамическим анализом.

Таблица Б.6 - Эффективность методов и средств для предотвращения систематических ошибок

Метод/средство	Структурный элемент ГОСТ 34332.5-2021	Низкая эффективность	Высокая эффективность
Управление проектами (см. примечание)	Б.1.1	Определение действий и обязанностей, планирование и распределение ресурсов, обучение соответствующего персонала, последовательность проверок после модификаций	Подтверждение соответствия, независимое от проекта; регулярный контроль проекта; стандартизованная процедура подтверждения соответствия; управление конфигурацией; статистики отказов; автоматизированные расчеты; автоматизированная разработка программного обеспечения
Документация (см. примечание)	Б.1.2	Графические и естественные языки, например блок-схемы, потоковые диаграммы	Правила, описывающие порядок прохождения и размещения документации в организации; содержимое таблиц контрольных проверок; автоматизированное управление документацией; формальный контроль изменений
Разделение функций безопасности Э/Э/ПЭ системы и функций, не связанных с безопасностью	Б.1.3	Хорошо определенные интерфейсы между Э/Э/ПЭ системами, связанными с безопасностью, и системами, не связанными с безопасностью	Полное отделение Э/Э/ПЭ систем, связанных с безопасностью, от систем, не связанных с безопасностью, т.е. отсутствие доступа по записи систем, не связанных с безопасностью, к Э/Э/ПЭ системам, связанным с безопасностью, и физическое разделение в пространстве во избежание влияний общей причины
Структурирование спецификации	Б.2.1	Иерархическое разделение вручную требований на подтребования, описание интерфейсов	Формирование иерархического разделения с использованием средств автоматизированного расчета, автоматический контроль последовательности, уточнение на более низком функциональном уровне
Формальные методы	Б.2.2	Используемые персоналом, имеющим опыт в применении формальных методов	Используемые персоналом, имеющим опыт в применении формальных методов в аналогичных областях с применением автоматизированных средств поддержки
Полуформальные методы	Б.2.3	Использование полуформальных методов для описания некоторых критических частей	Полное описание Э/Э/ПЭ СБЗС систем различными полуформальными методами для демонстрации различных аспектов; проверка согласованности между методами
Автоматизированные средства разработки спецификации	Б.2.4	Средства без предпочтения конкретного метода проектирования	Моделеориентированные процедуры с иерархической структурой, описание всех объектов и их отношений, общая база данных, автоматический контроль непротиворечивости
Таблицы контрольных проверок	Б.2.5	Подготовленные таблицы контрольных проверок для всех стадий жизненного цикла системы безопасности, концентрация на главных проблемах безопасности	Подготовленные подробные таблицы контрольных проверок для всех стадий жизненного цикла системы безопасности
Экспертиза спецификации	Б.2.6	Экспертиза спецификации требований безопасности независимым лицом	Экспертиза и повторная экспертиза независимой организацией, использующей формальную процедуру с исправлением всех обнаруженных ошибок
Структурное проектирование	Б.3.2	Проектирование иерархических схем, выполненное вручную	Повторный контроль компонент схемы; отслеживание взаимосвязи между спецификацией, проектом, принципиальными схемами и перечнем компонентов системы; автоматизация; использование определенных методов (см. также 8.3.7)
Использование достоверно испытанных компонентов (см. примечание)	Б.3.3	Достаточно перепроверки; конструктивные характеристики	Проверено в эксплуатации (см. 8.3.14)
Модульное проектирование (см. примечание)	Б.3.4	Модули ограниченных размеров; каждый модуль функционально изолирован	Повторное использование хорошо проверенных модулей; модулей с ясными свойствами; модулей, имеющих максимум один вход, один выход и один отказавший выход
Средства автоматизированного проектирования	Б.3.5	Автоматизированная поддержка сложных стадий жизненного цикла системы безопасности	Использование средств, проверенных в эксплуатации (см. 8.3.14), или средств с подтвержденным соответствием; полная автоматизация создания системы для всех стадий жизненного цикла безопасности
Моделирование	Б.3.6	Моделирование на модульном уровне, используя входные/выходные данные внешних устройств	Моделирование на уровне компонентов, используя входные/выходные данные
Проверка аппаратных средств	Б.3.7	Проверка проводится лицом, не связанным с проектированием	Проверка и повторная проверка проводятся независимой организацией, использующей формальные процедуры с исправлением всех обнаруженных ошибок
Сквозной контроль аппаратных средств	Б.3.8	Сквозной контроль аппаратных средств проводится лицом, независимым от проектирования	Сквозной контроль аппаратных средств проводится независимой организацией, действующей по формальной процедуре, с исправлением всех обнаруженных ошибок
Ограничение эксплуатационных возможностей (см. примечание)	Б.4.4	Применение ключа или пароля для управления режимом работы	Определенная жесткая процедура для разрешенных действий
Эксплуатация исключительно квалифицированными операторами	Б.4.5	Базовое обучение по используемому типу систем безопасности плюс два года соответствующего опыта работы	Ежегодное обучение всех операторов; опыт работы каждого оператора не менее пяти лет с устройствами, связанными с безопасностью, более низкого уровня полноты безопасности
Защита от ошибок оператора (см. примечание)	Б.4.6	Подтверждение входного сообщения	Подтверждение и проверка согласованности каждой входной команды
Тестирование методом "черного ящика" (см. примечание)	Б.5.2	Классы эквивалентности и тестирование по отдельным диапазонам входных сигналов, тестирование по граничным значениям, использование предписанных условий испытаний	Условия испытаний по диаграммам последствий причин (отказов) в комбинации с критическими случаями в экстремальных диапазонах работы
Статистическое тестирование (см. примечание)	Б.5.3	Статистическое распределение для всех входных данных	Получение результатов испытаний автоматическими средствами, большое число тестовых испытаний, распределение входных данных в соответствии с условиями реального применения и принятыми моделями отказов
Полевые испытания (см. примечание)	Б.5.4	10 000 часов эксплуатации; по крайней мере, один год эксплуатации и не менее десяти устройств в различных применениях; статистическая точность 95 %; отсутствие каких-либо критических отказов безопасности	10 млн. часов эксплуатации; по крайней мере два года эксплуатации и не менее 10 устройств в различных применениях; статистическая точность 99,9 %; подробная документация всех изменений (включая мельчайшие) в период прошлой эксплуатации
Испытания на устойчивость к пиковым выбросам внешних воздействий	Б.6.2	-	Должна быть продемонстрирована устойчивость большая, чем для граничных значений реальных режимов эксплуатации
Статический анализ	Б.6.4	Применение блок-схем; выявление слабых мест; определение тестовых примеров	Применение подробных схем; предсказание ожидаемого поведения в случаях испытаний; применение инструментов испытаний
Динамический анализ и тестирование	Б.6.5	Применение блок-схем; выявление слабых мест; определение тестовых примеров	Применение подробных схем; предсказание ожидаемого поведения в случаях испытаний; применение инструментов испытаний
Анализ отказов	Б.6.6	На уровне модулей, используя входные/выходные данные периферийных устройств	На уровне компонентов, используя входные/выходные данные
Анализ наихудшего случая	Б.6.7	Выполняется для функций безопасности, проводится с использованием комбинаций граничных значений, соответствующих реальным условиям эксплуатации	Выполняется для функций, не относящихся к безопасности; проводится с использованием комбинаций граничных значений, соответствующих реальным условиям эксплуатации
Расширенное функциональное тестирование	Б.6.8	Испытания, при которых все функции безопасности проверяют при таких же статических входных состояниях, что и в случаях, вызванных процессами отказов или условиями эксплуатации	Испытания, при которых все функции безопасности проверяют при таких же статических входных состояниях и/или необычных входных изменениях, что и в случаях, вызванных процессами отказов или условиями эксплуатации (включая те, которые могут возникать редко)
Испытания в наихудших случаях	Б.6.9	Испытания, при которых функции безопасности проверяют для таких комбинаций граничных значений, которые встречаются в реальных условиях эксплуатации	Испытания, при которых функции, не относящиеся к безопасности, проверяются для таких комбинаций граничных значений, которые встречаются в реальных условиях эксплуатации
Испытания с введением неисправностей	Б.6.10	На уровне блоков устройств, используя входные/выходные данные периферийных устройств	На уровне компонентов, используя их входные/выходные данные
Примечание - При использовании методов и средств по Б.1.1, Б.1.2, Б.3.3, Б.3.4, Б.4.4, Б.4.6, Б.5.2, Б.5.3, Б.5.4, Б.6.7 и Б.6.9 ГОСТ 34332.5-2021 в качестве высокоэффективных методов и средств предполагается, что методы и средства с низким уровнем эффективности будут также использованы.