Межгосударственный стандарт ГОСТ 34332.5-2021 "Безопасность функциональная систем, связанных с безопасностью зданий и сооружений. Часть 5. Меры по снижению риска, методы оценки" (введен в действие приказом Федерального агентства по техническому регулированию и метрологии от 28 мая 2021 г. N 478-ст)

Межгосударственный стандарт ГОСТ 34332.5-2021
"Безопасность функциональная систем, связанных с безопасностью зданий и сооружений. Часть 5. Меры по снижению риска, методы оценки"
(введен в действие приказом Федерального агентства по техническому регулированию и метрологии от 28 мая 2021 г. N 478-ст)

Functional safety of building/construction safety-related systems. Part 5. Measures for risk reduction, methods of assessment

МКС 13.200;
13.220;
13.310;
13.320;
91.120.99

Дата введения - 1 января 2022 г.
Введен впервые

Предисловие

Цели, основные принципы и общие правила проведения работ по межгосударственной стандартизации установлены ГОСТ 1.0 "Межгосударственная система стандартизации. Основные положения" и ГОСТ 1.2 "Межгосударственная система стандартизации. Стандарты межгосударственные, правила и рекомендации по межгосударственной стандартизации. Правила разработки, принятия, обновления и отмены"

Сведения о стандарте

1 Подготовлен Федеральным государственным унитарным предприятием "Российский научно-технический центр информации по стандартизации, метрологии и оценке соответствия" (ФГУП "СТАНДАРТИНФОРМ") совместно с Международной ассоциацией "Системсервис" (МА "Системсервис")

2 Внесен Федеральным агентством по техническому регулированию и метрологии

3 Принят Межгосударственным советом по стандартизации, метрологии и сертификации (протокол от 30 апреля 2021 г. N 139-П)

За принятие проголосовали:

Краткое наименование страны по МК (ИСО 3166) 004-97	Код страны по МК (ИСО 3166) 004-97	Сокращенное наименование национального органа по стандартизации
Армения	AM	ЗАО "Национальный орган по стандартизации и метрологии" Республики Армения
Беларусь	BY	Госстандарт Республики Беларусь
Киргизия	KG	Кыргызстандарт
Россия	RU	Росстандарт
Таджикистан	TJ	Таджикстандарт
Узбекистан	UZ	Узстандарт

4 Приказом Федерального агентства по техническому регулированию и метрологии от 28 мая 2021 г. N 478-ст межгосударственный стандарт ГОСТ 34332.5-2021 введен в действие в качестве национального стандарта Российской Федерации с 1 января 2022 г.

5 В настоящем стандарте учтены основные нормативные положения следующих международных стандартов:

IEC 61508-7:2010 "Функциональная безопасность электрических/электронных/программируемых электронных систем, связанных с безопасностью. Часть 7. Обзор методов и средств" ("Functional safety of electrical/electronic/programmable electronic safety-related systems - Part 7: Overview of techniques and measures", NEQ);

IEC 61508-4:2010 "Функциональная безопасность электрических/электронных/программируемых электронных систем, связанных с безопасностью. Часть 4. Термины и сокращения" ("Functional safety of electrical/electronic/programmable electronic safety-related systems - Part 4: Definitions and abbreviations", NEQ)

6 Введен впервые

7 Настоящий стандарт подготовлен на основе применения ГОСТ Р 53195.5-2015 ¹⁾

ГАРАНТ:

По-видимому, в тексте предыдущего абзаца допущена опечатка. Вместо слов "ГОСТ Р 53195.5-2015" следует читать "ГОСТ Р 53195.5-2010"

------------------------------

¹⁾_{Приказом Федерального агентства по техническому регулированию и метрологии от 28 мая 2021 г. N 478-ст ГОСТ Р 53195.5-2010 отменен с 1 января 2022 г.}

------------------------------

Введение

Современные здания и сооружения (объекты капитального строительства) представляют собой сложные системы, в состав которых входит система строительных конструкций и ряд инженерных систем в разных сочетаниях, в том числе для жизнеобеспечения, реализации технологических процессов, энерго- и ресурсосбережения, обеспечения безопасности и другие системы. Эти системы взаимодействуют друг с другом, с внешней и внутренней средами, образуя единое целое при выполнении своих функций назначения.

Объекты капитального строительства жестко привязаны к местности. Рабочие характеристики зданий, сооружений и входящих в них систем могут быть реализованы, проверены и использованы только в том месте, в котором объекты построены и системы установлены.

Безопасность зданий и сооружений обеспечивается применением совокупности мер, мероприятий и средств снижения риска причинения вреда до приемлемого риска, и поддержания данного уровня в течение периода эксплуатации или использования этих объектов. К средствам снижения риска относятся системы, связанные с безопасностью зданий и сооружений (СБЗС системы). К таким системам относятся системы, неполный перечень которых представлен в ГОСТ 34332.1-2017 (приложение А, раздел А.3). Среди СБЗС систем наиболее распространенными являются системы, содержащие электрические и/или электронные, и/или программируемые электронные (Э/Э/ПЭ) компоненты. Такие системы, именуемые Э/Э/ПЭ СБЗС системами, в течение многих лет используют для выполнения функций безопасности. Наряду с ними используют системы, основанные на неэлектрических (гидравлических, пневматических, механических) технологиях, а также прочие средства уменьшения риска. Для решения задач безопасности зданий и сооружений во всех больших объемах используют программируемые электронные СБЗС системы.

Следующими по важности характеристиками систем, после характеристик назначения, являются характеристики безопасности. Важнейшей характеристикой безопасности систем признана их функциональная безопасность.

В настоящем стандарте установлен общий подход к вопросам обеспечения безопасности Э/Э/ПЭ СБЗС систем. Этот унифицированный подход был принят для разработки рациональной и последовательной практики для всех электрических систем обеспечения безопасности на основе стандартов серии IEC 61508.

В настоящем стандарте приведены краткие описания мер (методов и средств) по снижению риска и оценке соответствия на стадиях жизненного цикла Э/Э/ПЭ СБЗС систем, на которые даны ссылки в ГОСТ 34332.3-2021 и ГОСТ 34332.4-2021, а также приведены литературные источники с полным описанием таких мер.

Настоящий стандарт (совместно с ГОСТ 34332.1 - ГОСТ 34332.4) ориентирован на обеспечение соблюдения требований безопасности зданий и сооружений, в том числе объектов транспортных инфраструктур, установленных техническими регламентами Таможенного союза [1]-[3], и в развитие базовых требований данных технических регламентов.

Настоящий стандарт входит в комплекс стандартов с общим наименованием "Безопасность функциональная систем, связанных с безопасностью зданий и сооружений" и является пятым стандартом этого комплекса "Часть 5. Меры по снижению риска, методы оценки". Другие стандарты, входящие в данный комплекс:

- часть 1. Основные положения;

- часть 2. Общие требования;

- часть 3. Требования к системам;

- часть 4. Требования к программному обеспечению;

- часть 6. Прочие средства уменьшения риска, системы мониторинга;

- часть 7. Порядок применения ГОСТ 34332, примеры расчетов.

Структура комплекса ГОСТ 34332 приведена на рисунке 1.

Рисунок 1 - Структура комплекса ГОСТ 34332

1 Область применения

1.1 Настоящий стандарт:

- применяется к электрическим, электронным, программируемым электронным (Э/Э/ПЭ), связанным с безопасностью зданий и сооружений (СБЗС) системам и подсистемам (далее Э/Э/ПЭ СБЗС системы и подсистемы), их аппаратным средствам (АС) и программному обеспечению (ПО), установленным на объектах (зданиях и сооружениях) и являющихся их неотъемлемой частью.

Примечание - К Э/Э/ПЭ СБЗС системам относятся системы, перечисленные в ГОСТ 34332.1-2017 (приложение А, раздел А.2);

- применяется к Э/Э/ПЭ системам, подсистемам и средствам промышленного производства, которые используют в качестве комплектующих технических средств при проектировании и реализации Э/Э/ПЭ СБЗС систем на объекте.

Примечание - Под реализацией систем понимается их установка на объекте, монтаж, пусконаладка, оценка и подтверждение соответствия;

- охватывает полный жизненный цикл (ЖЦ) Э/Э/ПЭ СБЗС систем, начиная с общей концепции, включая проектирование, реализацию, эксплуатацию и техническое обслуживание систем вплоть до вывода их из эксплуатации и утилизации.

1.2 Настоящий стандарт:

- устанавливает цели основных методов/средств, используемых для выполнения требований ГОСТ 34332.3 и ГОСТ 34332.4, и методы оценки соответствия;

- содержит краткие описания методов/средств, рекомендуемых в ГОСТ 34332.3 и ГОСТ 34332.4 и применяемых на различных стадиях жизненных циклов СБЗС систем, их АС и ПО для снижения рисков, а также ссылки на источники с полным описанием этих методов/средств.

Примечание - Под "методами/средствами" в настоящем стандарте понимаются методы и/или средства. В большинстве методов/средств, описанных в приложениях А-Ж, метод состоит в применении того или иного аппаратного, программного или аппаратно-программного средства, или средств, в применении логических или математических действий (которые выполняются с использованием средств информатики и математики).

1.3 Настоящий стандарт не распространяется на одиночные Э/Э/ПЭ СБЗС системы, способные осуществить необходимое снижение риска и требуемая полнота безопасности которых ниже самого низкого уровня полноты безопасности (УПБ 1), определенного в ГОСТ 34332.2-2017 (таблицы 1 и 2). Он не распространяется также на здания и сооружения, оснащенные такими системами или не имеющие никаких связанных с безопасностью систем.

2 Нормативные ссылки

В настоящем стандарте использованы нормативные ссылки на следующие стандарты:

ГОСТ 19.701 (ИСО 5807-85) Единая система программной документации. Схемы алгоритмов, программ, данных и систем. Обозначения условные и правила выполнения

ГОСТ 14254 (IЕС 60529:2013) Степени защиты, обеспечиваемые оболочками (Код IP)

ГОСТ 34332.1-2017 Безопасность функциональная систем, связанных с безопасностью зданий и сооружений. Часть 1. Основные положения

ГОСТ 34332.2-2017 Безопасность функциональная систем, связанных с безопасностью зданий и сооружений. Часть 2. Общие требования

ГОСТ 34332.3-2021 Безопасность функциональная систем, связанных с безопасностью зданий и сооружений. Часть 3. Требования к системам

ГОСТ 34332.4-2021 Безопасность функциональная систем, связанных с безопасностью зданий и сооружений. Часть 4. Требования к программному обеспечению

ГОСТ ISO 9000 Системы менеджмента качества. Основные положения и словарь

ГОСТ ISO 9001 ¹⁾ Системы менеджмента качества. Требования

------------------------------

¹⁾_{В Российской Федерации действует ГОСТ Р ИСО 9001-2015.}

------------------------------

ГОСТ IEC 60255-5 Реле электрические. Часть 5. Координация изоляции измерительных реле и защитных устройств. Требования и испытания

ГОСТ IEC/TS 61000-1-2 Электромагнитная совместимость (ЭМС). Часть 1-2. Общие положения. Методология достижения функциональной безопасности электрических и электронных систем, включая оборудование, в отношении электромагнитных помех

ГОСТ IEC 61000-6-5 Электромагнитная совместимость (ЭМС). Часть 6-5. Общие стандарты. Помехоустойчивость оборудования, используемого в обстановке электростанции и подстанции

ГОСТ IEC 61082-1 Документы, используемые в электротехнике. Подготовка. Часть 1. Правила

ГОСТ IEC TR 61340-5-2 Электростатика. Защита электронных устройств от электростатических явлений. Руководство по применению

Примечание - При пользовании настоящим стандартом целесообразно проверить действие ссылочных стандартов и классификаторов на официальном интернет-сайте Межгосударственного совета по стандартизации, метрологии и сертификации (www.easc.by) или по указателям национальных стандартов, издаваемых в государствах, указанных в предисловии, или на официальных сайтах соответствующих национальных органов по стандартизации. Если на документ дана недатированная ссылка, то следует использовать документ, действующий на текущий момент, с учетом всех внесенных в него изменений. Если заменен ссылочный документ, на который дана датированная ссылка, то следует использовать указанную версию этого документа. Если после принятия настоящего стандарта в ссылочный документ, на который дана датированная ссылка, внесено изменение, затрагивающее положение, на которое дана ссылка, то это положение применяется без учета данного изменения. Если ссылочный документ отменен без замены, то положение, в котором дана ссылка на него, применяется в части, затрагивающей эту ссылку.

3 Термины и определения

В настоящем стандарте применены термины по ГОСТ 34332.1 - ГОСТ 34332.4, а также следующие термины с соответствующими их определениями.

3.1 антивалентные сигналы (antivalent signals): Два сигнала с одинаковым информационным содержанием, один из которых передается по каналу связи в прямой форме, а другой - в инверсной форме (аналоговые сигналы - в противофазе, цифровые сигналы - с инверсией логических "0" в логические "1" или наоборот).

3.2 константная неисправность (stuck-at fault): Неисправность аппаратного средства, вызванная переходом элемента устройства в одно из неизменяемых состояний, например, при "залипании" (сварке) контактов реле.

3.3 константный отказ (stuck-at failure): Отказ аппаратного средства и/или программного обеспечения, приводящий к переходу аппаратного средства в одно из неизменяемых состояний и/или выдаче на выходе неизменяемых данных или неизменяемой(ых) команды (команд).

3.4 постепенный отказ (drift failure): Отказ аппаратного средства из-за постепенного выхода его характеристик за допустимые пределы.

3.5 самоустраняющийся отказ (transient failure): Отказ, обусловленный переходными процессами, устраняющийся по их завершении.

3.6 условная тревога (conditional alarm): Состояние, близкое к тревожному, но еще не влекущее опасных последствий.

Примечание - Термин относится к Э/Э/ПЭ СБЗС системам, в которых предусмотрено ступенчатое реагирование на постепенно развивающиеся тревожные события.

3.7 чрезвычайное действие (emergency action): Действие, требующее выполнения при возникновении чрезвычайной ситуации для снижения риска причинения вреда.

4 Сокращения и обозначения

В настоящем стандарте применены следующие сокращения и обозначения:

АГТП - автоматический генератор тестовых примеров;

АС СБЗС - аппаратное(ые) средство(а), связанное(ые) с безопасностью зданий и сооружений;

ЖЦ - жизненный цикл;

ИС - интегральная(ые) микросхема(ы);

КМОП - комплементарная структура металл-оксид-полупроводник;

ОЗУ - оперативное запоминающее устройство (устройство памяти с произвольным доступом);

ПЗУ - постоянное запоминающее устройство;

ППВМ - полевая программируемая вентильная матрица;

САПР - система автоматизированного проектирования;

СБС - связанная с безопасностью система;

СВА - статический временной анализ;

СИС - специализированная интегральная схема;

УО - управляемое оборудование;

УПБ - уровень полноты безопасности;

ФСЗ - формат стандартной задержки;

ФСЗ-файл - файл в формате стандартной задержки;

ЦПУ - центральное процессорное устройство;

Ada - язык программирования для встраиваемых систем, разработанный в 1979-1980 годах в США и названный в честь Ады Лавлейс;

ADT - данные абстрактного типа;

CASE - набор методов и средств программной инженерии для проектирования программного обеспечения;

CCS - метод/средство расчета соединяющихся систем;

CHAZOP - метод/средство анализа опасности и работоспособности систем управления;

CHAZOPs - метод/средство анализа опасности работоспособности компьютеров;

CIRCAL - метод/средство расчета критических цепей;

CORE - метод/средство выражения контролируемых требований;

CRC - циклический избыточный код коррекции ошибок;

CSP - метод/средство описания последовательных коммуникационных процессов;

DMA - прямой доступ к памяти;

FMEA - процедура анализа типа отказа и его последствий;

FTA - метод анализа на основе дерева отказов;

HAZOP - метод/средство анализа опасности и работоспособности;

HOL - наименование языка логики высшего порядка;

INMOS - наименование английской фирмы, специализирующейся на производстве транспьютеров;

JSD - наименование структурного метода разработки программных систем Джексона;

LCSAJ - обозначение последовательности линейного кода и перехода, применяемой при тестировании ПО;

LOTOS - язык для описания спецификаций, упорядоченных во временной области;

MCDC - охват решения модифицированными условиями;

MMU - блок управления памятью;

MTBF - среднее время наработки на отказ;

OBJ - язык для алгебраического описания спецификаций;

OCCAM - язык параллельного программирования высокого уровня, используемый для транспьютеров;

PROM - программируемое постоянное запоминающее устройство;

UML - унифицированный язык моделирования;

SADT - метод/средство структурного анализа и проектирования;

VDM - один из методов разработки компьютерных систем на основе формального языка;

VDM++ - расширенная версия метода VDM;

VDM-SL - формальный язык для описания спецификаций, разрабатываемых с использованием метода VDM;

Z - нотация языка для описания спецификаций последовательных систем.

5 Меры по снижению риска

5.1 Основными мерами (методами/средствами) по снижению риска являются:

- контроль случайных отказов АС Э/Э/ПЭ СБЗС систем;

- исключение систематических отказов на различных стадиях ЖЦ Э/Э/ПЭ СБЗС систем;

- методы/средства, реализуемые на различных этапах стадий ЖЦ для снижения риска и достижения полноты безопасности ПО Э/Э/ПЭ СБЗС систем.

5.2 Методы/средства для контроля случайных отказов АС Э/Э/ПЭ СБЗС систем, их краткое описание, а также ссылки на источники с подробным описанием приведены в приложении А.

5.3 Методы и средства для предотвращения систематических отказов на различных стадиях ЖЦ Э/Э/ПЭ СБЗС систем, их краткие описания, анализ, а также ссылки на источники с полным описанием приведены в приложении Б.

5.4 Методы и средства для достижения полноты безопасности ПО Э/Э/ПЭ СБЗС систем, реализуемые на различных этапах стадий ЖЦ ПО, их краткое описание, а также ссылки на источники с подробным описанием приведены в приложении В.

5.5 Краткое описание методов и средств для проектирования СИС приведено в приложении Г.

5.6 Краткое описание методов и средств для разработки связанного с безопасностью объектно-ориентированного ПО приведено в приложении Д.

6 Методы оценки

6.1 Методы оценки функциональной безопасности Э/Э/ПЭ СБЗС систем, ПО этих систем, их краткое описание, а также ссылки на источники с подробным описанием приведены в приложении В.

6.2 Методы оценки полноты безопасности предварительно разработанных программных средств, применяемых для Э/Э/ПЭ СБЗС систем, основанные на вероятностном подходе, приведены в приложении Г.

6.3 Вероятностный подход определения полноты безопасности предварительно разработанного ПО приведен в приложении Е.

6.4 Методы и средства по определению свойств стадий ЖЦ ПО приведены в приложении Ж.

Библиография

[1]	Технический регламент Таможенного союза TP ТС 002/2011	О безопасности высокоскоростного железнодорожного транспорта
[2]	Технический регламент Таможенного союза TP ТС 003/2011	О безопасности инфраструктуры железнодорожного транспорта
[3]	Технический регламент Таможенного союза TP ТС 014/2011	Безопасность автомобильных дорог
[4]	Ларионов A.M., Майоров С.А., Новиков Г.И. Вычислительные комплексы, системы и сети. Учебник для вузов. - Л.: Энергоатомиздат. Ленингр. отделение, 1987. - 288 с., ил.
[5]	Денисенко В.В. Компьютерное управление технологическим процессом, экспериментом, оборудованием. М.: Горячая линия-Телеком, 2009. - 608 с., ил. ISBN: 978-5-9912-0060-8
[6]	Жуков В.В., Лабковский М.Д. Регулировка электромеханических и радиотехнических приборов и систем: Учеб. пособие для сред., проф.-техн. училищ. М.: Высш. шк., 1984, 200 с., ил.
[7]	Платунов А., Постников Н., Чистяков А. Механизм граничного сканирования в неоднородных микропроцессорных системах
[8]	Грушвицкий Р., Ильин И., Михайлов М. Граничное сканирование высокоскоростных соединений. "Компоненты и технологии". N 11. 2006
[9]	Каневский И.Н., Сальникова Е.Н. Неразрушающие методы контроля: Учебное пособие. - Владивосток: Изд-во ДВГТУ, 2007. - 243 с.
[10]	Харченко B.C., Юрченко Ю.Б. Анализ структур отказоустойчивых бортовых комплексов при использовании электронных компонентов lndustry.//Технология и конструирование в электронной аппаратуре. - 2003. - N 2. - С. 3-10
[11]	Алгоритмы автоматического восстановления ИС. Лекция 17. Методы и алгоритмы автоматического восстановления ИС. http://baumanki.net/lectures/10-informatika-i-programmirovanie/350-nadezhnost-informacionnyhsistem/4745-17-algoritmy-avtomaticheskogo-vosstanovleniya-is.html (доступ 12.04.2021)
[12]	Системы противоаварийной защиты. Интеллектуальный подход. Emerson/http://www.emerson.com/documents/automation/57254.pdf (доступ 12.04.2021)
[13]	М. Вернер. Основы кодирования. Учебник для ВУЗов. Москва: Техносфера, 2004. - 288 с. ISBN 5-94836-019-9
[14]	Корректирующие коды. http://www.booksite.ru/fulltext/1/001/008/064/934.htm (доступ 12.04.2021)
[15]	Коды исправляющие ошибки. Питерсон У., Уэлдон Э.М. "Мир". 1976
[16]	Блох Э.Л., Зяблов В.В. Линейные каскады коды. М.: Наука, 1982
[17]	Модули памяти. Портал Мир цифровой техники, http://pc2008.ru/moduli-pamyati.php (доступ 12.04.2021)
[18]	Калядин А. Отладчики микроконтроллеров и их применение в разработке микроконтроллерных приложений. Мир компьютерной электроники.//МКА - http://www.mka.ru/?р=42051 (доступ 12.04.2021)
[19]	Попарная запись-считывание ячеек с помощью "бегущего" кода для тестирования памяти. https://noronsafe.search.ask.com/web?q=RAM+test+%22Abraam%22&chn=&doi=&geo=ru_RU&guid=&o=APN11910&p2=%5EET%5Ech00ru%5E&prt=&ver=&tpr=2&ts=1504602302196 (доступ 12.04.2021)
[20]	R. Nair, S.M. Thatte, J.A. Abraham Эффективные алгоритмы тестирования полупроводниковых запоминающих устройств с произвольным доступом, IEEE Trans. Comput. С-27 (6), 572-576, 1978. http://dl.acm.org/citation.cfm?id=1310824 (доступ 12.04.2021)
[21]	Харкевич А.А. Борьба с помехами. М.: Гос. изд-во физ.-мат. лит., 1983. 277 с.
[22]	Р.В. Хемминг. Теория кодирования и теория информации. М.: Радио и связь, 1983, 176 с.
[23]	Морелос-Сарагоса Р. Искусство помехоустойчивого кодирования. Методы, алгоритмы, применение. М.: Техносфера, 2005
[24]	Коды Хемминга. Ознакомление с принципами построения кодов Хэмминга. Новосибирский государственный технический университет. Портал Вунивере. https://vunivere.ru/work19411?screenshots=1 (доступ 12.04.2021)
[25]	Системы управления двигателем. Wiki Electro Schneider Electric. http://ru.electrical-installation.org/ruwiki/%D0%A1%D0%B8%D1%81%D1%82%D0%B5%D0%BC%D1%8B_%D1%83%D0%BF%D1%80%D0%B0%D0%B2%D0%BB%D0%B5%D0%BD%D0%B8%D1%8F_%D0%B4%D0%B2%D0%B8%D0%B3%D0%B0%D1%82%D0%B5%D0%BB%D0%B5%D0%BC (доступ 12.04.2021)
[26]	Компания Backhoff. "Желтые" модули противоаварийной защиты работают по промышленной шине//Автоматизация в промышленности. Январь 2005, с. 36-38
[27]	Мясникова Н.В., Панов А.П., Цыпин Б.В. Система для исследования характеристик датчиков динамического давления.//Измерение. Мониторинг. Управление. Контроль. - 2013. - N 4 (6). - С. 32-36
[28]	Кирпичев А., Симчук А., Тищенко Ю. Датчики динамического давления: продукция компании "ГлобалТест".//Электроника: Наука - Технология - Бизнес. N 1/2008. С. 89-91
[29]	Схемы реле. Преобразование полярности. https://www.the12volt.com/relays/page1.asp (доступ 12.04.2021)
[30]	Руководство по безопасной автоматизации химических процессов 2-е издание, Декабрь 2016, 648 с. ISBN: 978-1-118-94949-8. http://eu.wiley.com/WileyCDA/WileyTitle/productCd-1118949498.html (доступ 12.04.2021)
[31]	ISO 21500:2021, Project, programme and portfolio management - Context and concepts (Управление проектами, программами и портфелем ценных бумаг. Контекст и концепции)
[32]	ISO/IEC 33001:2015, Information technology - Process assessment - Concepts and terminology (Информационные технологии. Оценка процесса. Понятия и терминология)
[33]	ISO/IEC 33002:2015, Information technology - Process assessment - Requirements for performing process assessment (Информационная технология. Оценка процесса. Требования к проведению оценки процесса)
[34]	ISO/IEC TS 33030:2017, Information technology - Process assessment - An exemplar documented assessment process (Информационная технология. Оценка процесса. Пример документированного процесса оценки)
[35]	ISO/IEC TR 33015:2019, Information technology - Process assessment - Guidance for process risk determination (Информационная технология. Оценка процесса. Определение риска процесса)
[36]	ISO/IEC 15504-5:2012, Information technology - Process assessment - Part 5: An exemplar software life cycle process assessment model (Информационные технологии. Оценка процессов. Часть 5. Образец модели оценки процессов жизненного цикла программного обеспечения)
[37]	ISO/IEC 33004:2015, Information technology - Process assessment - Requirements for process reference, process assessment and maturity models (Информационные технологии. Оценка процесса. Требования к эталонным моделям процесса, моделям оценки процесса и моделям зрелости)
[38]	IEC 61506:1997, Industrial-process measurement and control - Documentation of application software (Измерение и управление производственными процессами. Документация прикладного программного обеспечения)
[39]	Формальная спецификация: Методы и применения. N. Nissanke, Springer-Verlag Telos, 1999, ISBN-10: 1852330023. http://www.springer.com/gp/book/9781852330026 (доступ 12.04.2021)
[40]	IEC 61131-3:2013, Programmable controllers - Part 3: Programming languages (Контроллеры программируемые. Часть 3. Языки программирования)
[41]	Лабораторная работа N 1. Методология объектно-ориентированного моделирования. Запорожская государственная инженерная академия. https://studfiles.net/preview/6214574/page:2/ (доступ 12.04.2021)
[42]	Харель Д. Статехартс: Визуальный формализм для сложных систем. Наука о компьютерном программировании. Изд-во Elsevier Science B.V. 1987. http://www.inf.ed.ac.uk/teaching/courses/seoc/2005_2006/resources/statecharts.pdf (доступ 12.04.2021)
[43]	Джеффри, Джон Э. Хопкрофт, Раджив Мотвани. Введение в теорию автоматов, языков и вычислений. https://www.ozon.ru/context/detail/id/31336413/(доступ 12.04.2021)
[44]	Трутнев Д.Р. Архитектуры информационных систем. Основы проектирования: Учебное пособие. - СПб.: НИУ ИТМО, 2012. - 66 с.
[45]	ISO/IEC 15909-1:2019, Systems and software engineering - High-level Petri nets - Part 1: Concepts, definitions and graphical notation (Системная и программная инженерия. Сети Петри высокого уровня. Часть 1. Понятия, определения и графические обозначения)
[46]	ISO/IEC 15909-2:2011, Systems and software engineering - High-level Petri nets - Part 2: Transfer format (Разработка программного обеспечения и систем. Сети Петри высокого уровня. Часть 2. Формат передачи)
[47]	Анализ требований к системе. Джеффри О. Грэди, Академическая пресса, 2006, ISBN 012088514Х, 9780120885145. https://www.amazon.com/System-Requirements-Analysis-Jeffrey-Grady/dp/01208854X (доступ 12.04.2021)
[48]	Требования к программному обеспечению: практические методы сбора и управления требованиями в течение всего цикла разработки изделия. Карл Юджин Вигерс, Microsoft Press, ISBN-13: 978-0735679665, ISBN-10: 0735679665. https://www.amazon.com/Software-Requirements-Developer-Best-Practices/dp/0735679665 (доступ 12.04.2021)
[49]	IEC 60880:2006, Nuclear power plants - Instrumentation and control systems important to safety - Software aspects for computer-based systems performing category A functions (Атомные электростанции. Системы контроля и управления, важные для безопасности. Программное обеспечение компьютерных систем, выполняющих функции категории А)
[50]	Требования к программному обеспечению (3-е изд.) (рекомендации разработчика). ISBN-13: 978-0735679665, ISBN-10:0735679665. https://www.amazon.com/Software-Requirements-Developer-Best-Practices/dp/0735679665 (доступ 12.04.2021)
[51]	Обеспечение качества программного обеспечения: от теории до реализации. Даниэль Галин, Pearson Education, 2004, ISBN 0201709457, 9780201709452. https://www.amazon.com/Software-Quality-Assurance-Theory-lmplementation/dp/0201709457 (доступ 12.04.2021)
[52]	IEC 81346-1:2009, Industrial systems, installations and equipment and industrial products - Structuring principles and reference designations - Part 1: Basic rules (Промышленные системы, установки, оборудование и промышленная продукция. Принципы структурирования и коды. Часть 1. Основные правила)
[53]	IEC 81346-2:2019, Industrial systems, installations and equipment and industrial products - Structuring principles and reference designations - Part 2: Classification of objects and codes for classes (Промышленные системы, установки, оборудование и промышленная продукция. Принципы структурирования и кодированные обозначения. Часть 2. Классификация объектов и коды классов)
[54]	ISO/TS 81346-10:2015, Industrial systems, installations and equipment and industrial products - Structuring principles and reference designation - Part 10: Power plants (Промышленные системы, установки, оборудование и промышленная продукция. Принципы структурирования и кодовые обозначения. Часть 10. Энергетические установки)
[55]	IEC 61160:2005, Design review (Анализ проекта)
[56]	Программное обеспечение Проектирование систем реального времени. J.E. Cooling, Pearson Education, 2003, ISBN 0201596202, 9780201596205. https://www.amazon.com/Software-Engineering-Real-Time-Systems-Cooling/dp/0201596202 (доступ 12.04.2021)
[57]	IEC 61163-1:2006, Reliability stress screening - Part 1: Repairable assemblies manufactured in lots (Сплошная проверка аппаратных элементов на надежность в напряженном состоянии. Часть 1. Подлежащие ремонту аппаратные элементы, изготавливаемые партиями)
[58]	Искусство тестирования программ. Гленфорд Майерс, Том Баджетт, Кори Сандлер. Изд-во "Вильямс", 2012. 272 с. ISBN 978-5-8459-1796-6, 978-1-118-03196-4
[59]	Разработка программного обеспечения: Обновление. Ян Соммервилл, Эддисон-Уэсли Лонгман, Амстердам; 8-е изд., 2006, ISBN 0321313798, 9780321313799. https://www.amazon.com/Software-Engineering-Update-lan-Sommerville/dp/0321313798 (доступ 12.04.2021)
[60]	Разработка программного обеспечения (10-е изд.). Йен Соммервилл, Пирсон Студиум, 8. Ауфлаге, 2007, ISBN-13: 978-0133943030, ISBN-10: 0133943038. https://www.amazon.com/Software-Engineering-10th-lan-Sommerville/dp/0133943038 (доступ 12.04.2021)
[61]	Практическое тестирование программного обеспечения: технологический подход (Springer Professional Computing) 2003 г. Ред. ISBN-13: 978-0387951317, ISBN-10: 0387951318. https://www.amazon.com/Practical-Software-Testing-Process-Oriented-Professional/dp/0387951318 (доступ 12.04.2021).
[62]	Основные сведения о программном обеспечении. Франк Ф. Цуй, Орландо Карам. Джонс и Бартлетт, 2006. ISBN 076373537Х, 9780763735371. https://www.amazon.com/Essentials-Software-Engineering-Frank-Tsui/dp/076373537X (доступ 12.04.2021)
[63]	Систематическое тестирование программного обеспечения. Рик Д. Крейг, Стефан П. Яскиль. Artech House, 2002. ISBN 1580535089, 9781580535083. https://www.amazon.com/Systematic-Software-Testing-Computer-Library/dp/1580535089 (доступ 12.04.2021)
[64]	Практическое проектирование надежных систем. П. О'Коннор, Д. Ньютон, Р. Бромли, Джон Уайли и сыновья, 2002, ISBN 0470844639, 9780470844632. https://www.amazon.com/Practical-Reliability-Engineering-Patrick-OConnor/dp/047097981X (доступ 12.04.2021)
[65]	IEC 60300-3-2:2004, Dependability management - Part 3-2: Application guide - Collection of dependability data from the field (Управление общей надежностью. Часть 3-2. Руководство по применению. Полевой сбор данных по общей надежности)
[66]	IEC 60068-1:2013, Environmental testing - Part 1: General and guidance (Испытание на воздействие внешних факторов. Часть 1. Общие положения и руководство)
[67]	Статический анализ и обеспечение программного обеспечения. Дэвид Вагнер U.C. Berkeley. https://people.eecs.berkeley.edu/daw/talks/sas01.ppt (доступ 12.04.2021)
[68]	Билл Грэм, Пол Н. Перу. Использование статического и динамического анализа для повышения качества продукции и эффективности разработки. SWD Software Ltd., 2015. http://www.swd.ru/print.php3?pid=828 (доступ 12.04.2021)
[69]	IEC 60812:2018, Failure modes and effects analysis (FMEA and FMECA) [Анализ видов и последствий отказов (FMEA и FMECA)]
[70]	IEC 62502:2010, Analysis techniques for dependability - Event tree analysis (ETA) (Методы анализа надежности. Анализ дерева событий)
[71]	Анализ вида, последствий и критичности отказов (FMECA). http://standards.sae.org/arp926/ (доступ 12.04.2021)
[72]	ARP926A-2011 Процедура анализа неисправностей/отказов. http://standards.sae.org/arp926a/ (доступ 12.04.2021)
[73]	Мариса А. Санчес и Мигель А. Фельдер. Систематический подход к созданию тестовых примеров на основе неисправностей. http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1114.7900&rep=rep1&type=pdf (доступ 12.04.2021)
[74]	IEC 61165:2006, Application of Markov techniques (Применение марковских методов)
[75]	IEC 61078:2016, Reliability block diagrams (Блок-схемы расчета надежности)
[76]	ISO/IEC Guide 98-3:2008, Uncertainty of measurement - Part 3: Guide to the expression of uncertainty in measurement (GUM: 1995) - Supplement 1: Propagation of distributions using a Monte Carlo method (Неопределенность измерения. Часть 3. Руководство по выражению неопределенности измерения. Дополнение 1. Трансформирование распределений с использованием метода Монте-Карло)
[77]	IEC 61025:2006, Fault tree analysis (FTA) (Анализ диагностического дерева неисправностей)
[78]	Бинарная схема принятия решений (BDD). Куала-Лумпур 2009. Международная конференция по будущему компьютеру и коммуникации. Печать ISBN: 978-0-7695-3591-3, Номер присоединения: 10804572, DOI: 10.1109/ICFCC.2009.31. http://ieeexplore.ieee.org/document/5189833/(доступ 12.04.2021)
[79]	IEC 62551:2012, Analysis techniques for dependability - Petri net techniques (Способы анализа надежности. Метод Petri net)
[80]	Чернышова H.H. Имитационное моделирование бизнес-процессов. (Учебно-методическое пособие). Нижний Новгород: Изд-во Нижегородского государственного университета, 2010. - 28 с.
[81]	Рябухин С.И. Применение сетей Петри для моделирования событийно-процессных цепей и построения структур базы данных//Вестник Новосиб. гос. ун-та. Серия: Информационные технологии. 2013. Т. 11, вып. 4. С. 92-101. ISSN 1818-7900
[82]	Болотковский Ю.И. OrCAD Моделирование. Поваренная книга. http://neo-chaos.narod.ru/useful/orcad/bolotovsky_orcad_091-173.pdf (доступ 12.04.2021)
[83]	Полянский А. Лекции. http://parallels.nsu.ru/docs/Andrey_Polyanskiy-Lectures_about_QA.doc (доступ 12.04.2021)
[84]	IEC 61069-5:2016, Industrial-process measurement, control and automation - Evaluation of system properties for the purpose of system assessment - Part 5: Assessment of system dependability (Измерение и управление промышленным процессом. Определение свойств системы с целью ее оценки. Часть 5. Оценка надежности системы)
[85]	Требования к проектированию. Э. Халл, К. Джексон Springer, 2005, ISBN 1852338792, 9781852338794. http://www.springer.com/la/book/9781846280757 (доступ 12.04.2021)
[86]	Бахтизин В.В., Глухова Л.А. Технологии разработки программного обеспечения. Учебное пособие. - Минск: БГУИР, 2010. - 267 с.: ил. ISBN 978-985-488-512-4.
[87]	Анализ и проектирование систем. Д. Йейтс, А. Уэйкфилд. Pearson Education, 2003, ISBN 0273655361, 9780273655367. https://www.amazon.co.uk/Systems-Analysis-Design-Don-Yeates/dp/0273655361 (доступ 12.04.2021)
[88]	Разработка систем реального времени. Р. Уильямс. Butterworth-Heinemann, 2006, электронная книга ISBN: 9780080456409, Paperback ISBN: 9780750664714. https://www.elsevier.com/books/real-time-systems-development/williams/978-0-7506-6471-4 (доступ 12.04.2021)
[89]	ISO/IEC 8631:1989, Information technology - Program constructs and conventions for their representation (Информационные технологии. Программные структуры и условные обозначения для их представления)
[90]	Проектирование и разработка программного обеспечения. Г. Ланкастер. Паскаль Пресс, 2001, ISBN 1741251753, 9781741251753. https://www.bookdepository.com/Excel-HSC-Software-Design-Developrnent-Includes-Study-Cards-Geoff-Lancaster/9781741251753 (доступ 12.04.2021)
[91]	Практика формальных методов в критически важных для безопасности системах. С. Лю, В. Ставриду, Б. Дутертре, Ж. Системс. Программное обеспечение 28, 77-87, Elsevier, 1995. https://orbilu.uni.lu/bitstream/10993/15849/1/INFSOF-D-13-00339R2.pdf (доступ 12.04.2021)
[92]	Формальные методы: использование и актуальность для разработки критически важных для безопасности систем. Л.М. Баррока, Дж.А. Макдермид, The Computer Journal 35 (6), 579-599, 1992. https://doi.org/10.1093/comjnl/35.6.579 (доступ 12.04.2021)
[93]	Как создать правильное программное обеспечение. Введение в формальную спецификацию и разработку программы путем преобразований. Е.А. Boiten et al., The Computer Journal 35 (6), 547-554, 1992. https://www.academia.edu/288606/High-lntegrity_System_Specification_and_Design (доступ 12.04.2021)
[94]	Связь и параллелизм. Р. Мильнер, Прентис-Холл, 1989, ISBN 9780131150072. https://www.abebooks.co.uk/9780131150072/Communication-Concurrency-Prentice-Hall-lnternational-0131150073/plp (доступ 12.04.2021)
[95]	Коммуникация последовательных процессов: Первые 25 лет. А. Абдаллах, С. Джонс, Дж. Сандерс (Эдс). Springer, 2004, ISBN 3540258132, 9783540258131. http://www.springer.com/gp/book/9783540258131 (доступ 12.04.2021)
[96]	Вычислительная логика высшего порядка. Дж. Ллойд. В вычислительной логике: логическое программирование и Beyond, лекции по информатике, Springer Berlin/Heidelberg, 2002, ISBN 978-3-540-43959-2. https://link.springer.com/chapter/10.1007/3-540-45628-7_6 (доступ 12.04.2021)
[97]	ISO 8807:1989, Information processing systems; open systems interconnection; LOTOS; a formal description technique based on the temporal ordering of observational behaviour (Системы обработки информации. Взаимосвязь открытых систем. LOTOS. Техника формального описания, основанная на временном упорядочении наблюдаемого поведения)
[98]	Проектирование программного обеспечения с OBJ. Алгебраическая спецификация в действии. Дж. Гоген, Г. Малкольм. Springer, 2000, ISBN 0792377575, 9780792377573. https://cseweb.ucsd.edu/goguen/pps/objbki.pdf (доступ 12.04.2021)
[99]	Математическая логика для компьютерных наук. М. Бен-Ари. Springer, 2001, ISBN 1852333197, 9781852333195. https://books.google.ru/books/about/Mathematical_Logic_for_Computer_Science.html?id=hzWIEy1qqR8C&redir_esc=y (доступ 12.04.2021)
[100]	ISO/IEC 13817-1:1996, Information technology - Programming languages, their environments and system software interfaces - Vienna development method - Specification language - Part 1: Base language (Информационные технологии. Языки программирования, их среды и интерфейсы системного программного обеспечения. Венский метод разработки. Язык спецификации. Часть 1. Базовый язык)
[101]	Систематическая разработка программного обеспечения с использованием VDM. С.В. Джонс. Прентис-Холл. 2-е изд., 1990. http://overturetool.org/publications/books/SSDusingVDM/Jones1990.pdf (доступ 12.04.2021)
[102]	Формальная спецификация с использованием языка Z, 2-е изд. Д. Лайтфут. Palgrave Macmillan, 2000, ISBN 9780333763278. https://he.palgrave.com/page/detail/Formal-Specification-using-Z/?K=9780333763278 (доступ 12.04.2021)
[103]	Метод В.С. Шнайдер. Palgrave Macmillan, 2001, ISBN 9780333792841. https://www.amazon.co.uk/B-Method-Cornerstones-Computing-Steve-Schneider/dp/033379284X (доступ 12.04.2021)
[104]	Концепции в языках программирования. Дж. Митчелл. Изд-во Кембриджского университета, 2003, ISBN-13: 978-0521780988, ISBN-10: 0521780985. https://www.amazon.com/Concepts-Programming-Languages-John-Mitchell/dp/0521780985 (доступ 12.04.2021)
[105]	Основания языков программирования. Дж. Митчелл. Изд-во Регулярная и хаотическая динамика. 2010. 720 с. ISBN 978-5-93972-757-0
[106]	Основные концепции языков программирования. Роберт У. Себеста. - Изд-во "Вильямс", 2001. 672 с. ISBN 5-8459-0192-8, 0-201-75295-6
[107]	Введение в разработку программного обеспечения на основе компонентов K.-K. Лау и С. ди Кола, Всемирный научный 2017. ISBN 978-981-3221-87-1, 978-981-3221-89-5. http://www.worldscientific.com/worldscibooks/10.1142/10486 (доступ 12.04.2021)
[108]	Реинжиниринг: почему и как реконструировать программное обеспечение. Рене Р. Клош. Подготовка к Калифорнийскому симпозиуму по программному обеспечению (CSS 96). Университет Южной Калифорнии, с. 92-99, апрель 1996 года, http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.52.5199&rep=rep1&type=pdf (доступ 12.04.2021)
[109]	Анализ критичности программного обеспечения COTS/SOUP. П. Бишоп, Т. Клеман, С. Герра. В проектировании надежности и безопасности систем, том 81, выпуск 3, сентябрь 2003 г., Elsevier Ltd., 2003 http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.6.7663&rep=rep1&type=pdf (доступ 12.04.2021)
[110]	Введение в теорию автоматов, языки и вычисления (3-е изд.). J. Hopcroft, R. Motwani, J. Ullman, Addison-Wesley Longman Publishing Co, 2006, ISBN: 0321462254. http://dl.acm.org/citation.cfm?id=1177300 (доступ 12.04.2021)
[111]	Руководство по научным вычислениям. P.R. Turner. CRC Press, 2001, ISBN 0849312426, 9780849312427. https://www.amazon.com/Guide-Scientific-Computing-Second-Turner/dp/0849312426 (доступ 12.04.2021)
[112]	Диаграммы последовательности сообщений, Д. Харель, П. Тиагараджан. В UML для реального: проектирование встраиваемых систем реального времени, ред. Л. Лаваньо. Springer, 2003, ISBN 1402075014, 9781402075018. http://www.springer.com/us/book/9781402075018 (доступ 12.04.2021)
[113]	ISO/IEC 19501:2005, Information technology - Open Distributed Processing - Unified Modeling Language (UML) Version 1.4.2 [Информационные технологии. Открытая распределительная обработка. Унифицированный язык моделирования (UML). Версия 1.4.2]
[114]	Основы кодов исправления ошибок, В. Хаффман, В. Плесс. Изд-во Кембриджского университета, 2003, ISBN 0521782805, 9780521782807. http://site.iugaza.edu.ps/mashker/files/%D9%83%D8%AA%D8%A7%D8%A8%D8%A7%D9%84%D8%AA%D8%B1%D9%85%D9%8A%D8%B2.pdf (доступ 12.04.2021)
[115]	Использование трассировок в анализе программ. А. Грос, Р. Джоши. Лекции по информатике, том 3920, Спрингер Берлин/Гейдельберг, 2006, ISBN 978-3-540-33056-1. https://link.springer.com/content/pdf/10.1007%2F11691372_25.pdf (доступ 12.04.2021)
[116]	Моделирование разнообразия при проектировании программного обеспечения. Обзор, Б. Литтлвуд, П. Попов, Л. Стриджини. ACM Computing Survey, том 33, N 2, 2001. http://dl.acm.org/citation.cfm?id=384192.384195 (доступ 12.04.2021)
[117]	N-версионный подход к отказоустойчивому программному обеспечению, А. Авизиенис, IEEE Transactions on Software Engineering, том SE-11, N 12, с. 1491-1501, 1985. http://dl.acm.org/citation.cfm?id=1314064 (доступ 12.04.2021)
[118]	Экспериментальная оценка принятия независимости в многоверсионном программировании, Дж. Рыцарь, Н.Г. Левесон. IEEE Transactions on Software Engineering, том SE-12, N 1, 1986. http://sunnyday.mit.edu/papers/nver-tse.pdf (доступ 12.04.2021)
[119]	В поисках эффективного разнообразия. Исследование шести языков отказоустойчивого программного обеспечения управления полетом. А. Авизиенис, М.Р. Лю и В. Шютц. 18-й симпозиум по отказоустойчивым вычислениям, Токио, Япония, 27-30 июня 1988 года, IEEE Computer Society Press, 1988, ISBN 0-8186-0867-6. http://www.cse.cuhk.edu.hk/lyu/paper_pdf/00005291.pdf (доступ 12.04.2021)
[120]	Изучение компенсируемых транзакций. Цзин Ли, Хуэйбяо Чжу, Гэгуан Пу, Цзифэн Хэ. На семинаре по программному обеспечению, 2007. SEW 2007. IEEE, 2007, ISBN 978-0-7695-2862-5. http://ieeexplore.ieee.org/document/4402774/(доступ 12.04.2021)
[121]	Отказоустойчивость программного обеспечения. Крис Инасио, Университет Карнеги-Меллона, 18-849b, надежные встраиваемые системы, 1998. https://users.ece.cmu.edu/koopman/des_s99/sw_fault_tolerance/ (доступ 12.04.2021)
[122]	Надежные компьютерные системы: проектирование и оценка, Д.П. Сивиорек и Р.С. Шварц, А.К. Петерс Лтд., 1998, ISBN 156881092Х https://www.amazon.com/Reliable-Computer-Systems-Design-Evaluation/dp/156881092Х (доступ 12.04.2021)
[123]	Обеспечение живучести критически важной системы. Через архитектуры программного обеспечения, Е.А. Strunk. Springer Berlin/Heidelberg, 2004, ISBN 978-3-540-23168-4. http://www.dtic.mil/get-tr-doc/pdf?AD=ADA446905 (доступ 12.04.2021)
[124]	Отказоустойчивость, принцип и практика. Т. Андерсон и П.А. Ли, том 3, надежные вычислительные и отказоустойчивые системы, Springer Verlag, 1987, ISBN 3-211-82077-9. https://www.amazon.com/Fault-Tolerance-Principles-Dependable-Fault-Tolerant/dp/3709189926 (доступ 12.04.2021)
[125]	Диагностика неисправностей: модели, искусственный интеллект, приложения. Дж. Корбич, Дж. Косельни, 3. Ковальчук, В. Чолева. Springer, 2004, ISBN 3540407677, 9783540407676. https://www.amazon.com/Fault-Diagnosis-Artificial-lntelligence-Applications/dp/3540407677 (доступ 12.04.2021)
[126]	Программное обеспечение. Проектирование самоадаптирующихся систем. Cheng, В.Н.С, de Lemos, R., Inverardi, P., Magee, J. (Eds.). ISBN 978-3-642-02161-9. http://www.springer.com/gp/book/9783642021602 (доступ 12.04.2021)
[127]	B.H.C. Cheng et al. (Eds), Самоадаптивные системы, LNCS 5525, с. 1-26, 2009. http://www.springer.com/gp/book/9783642021602 (доступ 12.04.2021)
[128]	Динамическая реконфигурация архитектур программного обеспечения архитектур через аспекты. С. Коста и др. Лекции по информатике, том 4758/2007, Springer Berlin/Heidelberg, 2007, ISBN 978-3-540-75131-1. https://link.springer.com/chapter/10.1007/978-3-540-75132-8_24?no-access=true (доступ 12.04.2021)
[129]	Архитектура системы, управляемой по времени. Н. Kopetz TU Wien Январь 2000. TU Wien. http://www.dependability.org/wg10.4/timedepend/05-Kopet.pdf (доступ 12.04.2021)
[130]	На пути к интеграции на основе моделей инструментов и методов для проектирования, проверки и внедрения встраиваемых систем управления. Йозеф Портер, Gabor Karsai, Peter , Harmon Nine, Peter Humke, Graham Hemingway, Ryan Thibodeaux, Janos Sztipanovits. Международная конференция по типовым инженерным языкам и системам. 2008: Модели в программном обеспечении Engineeringpp 20-34. https://link.springer.com/chapter/10.1007/978-3-642-01648-6_3 (доступ 12.04.2021).
[131]	Анализ формальной верификации для архитектуры системы, управляемой по времени. Джон Рашби. Документ с приглашением, представленный на FTRTFT 02, Ольденбург, Германия, сентябрь 2002 года. Springer-Verlag LNCS том 2469, с. 83-105. http://www.csl.sri.com/users/rushby/papers/ftrtft02.pdf (доступ 12.04.2021)
[132]	Комплексный тест по оценке соответствия Ада (АКАТС), версия 2.5, Орган по оценке соответствия Ада, апрель 2002 года. http://www.ada-auth.org/acats.html (доступ 12.04.2021)
[133]	Демонстрация эквивалентности исходного кода и содержимого PROM. Ди Джей Пэви и Л.А. Уинсборроу. Компьютерный журнал, т. 36, N 7, 1993
[134]	ISO/IEC 1539-1:2018, Information technology - Programming languages - Fortran - Part 1: Base language (Информационная технология. Языки программирования. Фортран. Часть 1. Основной язык)
[135]	ISO/IEC 7185:1990, Information technology - Programming languages - Pascal (Информационные технологии. Языки программирования. Паскаль)
[136]	ISO/IEC 8652:2012, Information technology - Programming languages - Ada (Информационная технология. Языки программирования. Ada)
[137]	ISO/IEC 9899:2018, Information technology - Programming languages - С (Информационные технологии. Языки программирования. Си)
[138]	ISO/IEC 10206:1991, Information technology - Progamming languages - Extended Pascal (Информационные технологии. Языки программирования. Расширенный Паскаль)
[139]	ISO/IEC 10514-1:1996, Information Technology - Programming Languages - Part 1: Modula-2, Base Language (Информационные технологии. Языки программирования. Часть 1. Базовый язык Modula-2)
[140]	ISO/IEC 10514-3:1998, Information technology - Programming languages - Part 3: Object Oriented Modula-2 (Информационные технологии. Языки программирования. Часть 3. Modula-2, объектно-ориентированный)
[141]	ISO/IEC 14882:2017, Programming languages - С++ (Языки программирования. С++)
[142]	IEC TR 15942:2000, Information technology - Programming languages - Guide for the use of the Ada programming language in high integrity systems (Информационные технологии. Языки программирования. Руководство по применению языка программирования Ada в системах высокой целостности)
[143]	Создание встроенного программного обеспечения на основе языков проектирования на уровне системы, Р. Домер, Д. Гайски. В "ASP-DAC 2004: Материалы конференции ASP-Dac 2004 "Азиатско-южнотихоокеанская конференция по автоматизации проектирования, 2004", IEEE Circuits and Systems Society. IEEE, 2004, ISBN 0780381750, 9780780381759 https://link.springer.com/chapter/10.1007/978-981-10-4436-6_1 (доступ 12.04.2021)
[144]	Преобразование моделей алгебры процесса в конечные автоматы UML. Преодолен ли семантический разрыв? М.Ф. ван Амстел и др., "Первая международная конференция по теории и практике модельных преобразований, ICMT". Ред. А. Вальесильо. Springer, 2008, ISBN 3540699260, 9783540699262. http://www.worldcat.org/title/theory-and-practice-of-model-transformations-first-international-conference-icmt-2008-zurich-switzerland-july-1-2-2008-proceedings/oclc/272298867 (доступ 12.04.2021)
[145]	Управление процессом тестирования. Практические инструменты и методы управления тестированием оборудования и программного обеспечения. Р. Блэк, Джон Уайли и сыновья, 2002, ISBN 0471223980, 9780471223986. https://www.abebooks.com/9780471223986/Managing-Testing-Process-Practical-Tools-0471223980/plp (доступ 12.04.2021)
[146]	Обсуждение статистического тестирования для применения, связанного с безопасностью. С. Кубалл, Ж.Х.Р. Май, Proc IMechE. Том 221. Часть О: J. Риск и надежность, Институт инженеров-механиков, 2007 http://journals.sagepub.com/doi/abs/10.1243/1748006XJRR43 (доступ 12.04.2021)
[147]	Оценка вероятности отказа при тестировании выявляет отсутствие отказов, W.K. Miller, L.J. Morell и др. IEEE Transactions on Software Engineering, том 18, No. 1, стр. 33-43, январь 1992 года, https://link.springer.com/chapter/10.1007/3-540-45416-0_16 (доступ 12.04.2021)
[148]	Оценка надежности по результатам соответствующих испытаний программного обеспечения для защиты растений, J. May, G. Hughes, A.D. Lunn. Журнал по разработке программного обеспечения IEE. Том 10. N 6. стр. 206-218, ноябрь 1995 года (ISSN: 0268-6961). http://ieeexplore.ieee.org/document/668130/(доступ 12.04.2021)
[149]	Валидация сверхвысокой надежности для систем на базе программного обеспечения, В. Littlewood и L. Strigini. Комм. ACM 36 (11), 69-80, 1993. http://dl.acm.org/citation.cfm?doid=163359.163373 (доступ 12.04.2021)
[150]	Надежность критически важных компьютерных систем 2. Ф. Дж. Редмилл, Elsevier Applied Science, 1989, ISBN 1851663819, 9781851663811. http://www.booksamillion.com/p/Dependability-Critical-Computer-Systems/F-J-Redmill/9781851663811 (доступ 12.04.2021)
[151]	Внесение ошибок в программное обеспечение. Защита программ от ошибок. Дж. Воас, Г. Макгро. Wiley Computer Pub., 1998, ISBN 0471183814, 9780471183815. https://www.amazon.com/Software-Fault-lnjection-Jeffrey-Voas/dp/0471183814 (доступ 12.04.2021)
[152]	A. Ахо, P. Сети, Дж. Ульман. "Компиляторы: принципы, технологии и инструменты", М.: "Вильямс", 2003. 768 с. http://www.twirpx.com/file/2614/ (доступ 12.04.2021)
[153]	Использование символьного выполнения для верификации систем, критически важных для безопасности. А. Коэн-Поризини, Г. Денаро, С. Гецци, М. Материалы 8-й Европейской конференции по разработке программного обеспечения и 9-го международного симпозиума ACM SIGSOFT по основам разработки программного обеспечения. АСМ, 2001, ISBN: 1-58113-390-1 https://link.springer.com/article/10.1007/s10664-005-3861-2 (доступ 12.04.2021)
[154]	Использование символьного выполнения для управления созданием текста. G. Lee, J. Morris, K. Parker, G. Bundell, P. Lam. In Software Testing, Verification and Reliability, vol. 15, No. 1, 2005. John Wiley & Sons, Ltd. http://onlinelibrary.wiley.com/doi/10.1002/stvr.309/referenceshttp://onlinelibrary.wiley.com/doi/10.1002/stvr.309/references (доступ 12.04.2021)
[155]	Является ли доказательство более экономичным, чем тестирование? С. Кинг, Р. Чепмен, Дж. Хаммонд, А. Прайор. IEEE Transactions on Software Engineering, vol. 26, No. 8, August 2000. http://dl.acm.org/citation.cfm?id=631243 (доступ 12.04.2021)
[156]	Проверка модели. Э.М. Кларк, О.А. Пелед. MIT Press, 1999, ISBN 0262032708, 9780262032704. https://mitpress.mit.edu/books/model-checking (доступ 12.04.2021)
[157]	Проверка систем и программного обеспечения. Методы и инструменты проверки моделей. Б. Берард, М. Бидойт, А. Финкель, Ф. Ларуссини, А. Пети, Л. Петруччи, Ф. Шноебелен, и П. Маккензи, Springer, 2001, ISBN 3-540-41523-8. http://www.springer.com/us/book/9783540415237 (доступ 12.04.2021)
[158]	Логика в информатике: моделирование и рассуждения о системах. М. Хут и М. Райан. Изд-во Кембриджского университета, 2000 год, ISBN 0521652006, 0521656028. https://www.amazon.com/Logic-Computer-Science-Modelling-Reasoning/dp/052154310X (доступ 12.04.2021)
[159]	Метрики и модели при проектировании программного обеспечения. S.H. Kan. Addison-Wesley, 2003, ISBN 0201729156, 9780201729153. https://books.google.ru/books/about/Metrics_and_Models_in_Software_Quality_E.html?id=EaefcL3pWJYC&redir_esc=y (доступ 12.04.2021)
[160]	Fagan, М. Проверки проекта и кода для уменьшения ошибок при разработке программы. IBM Systems Journal 15, 3 (1976): 182-211 https://www.cs.umd.edu/class/spring2005/cmsc838p/VandV/fagan.pdf (доступ 12.04.2021)
[161]	EmStar: среда для разработки программного обеспечения беспроводных встраиваемых систем. J. Elson et al. http://escholarship.org/uc/item/5h22d6xv, http://escholarship.org/uc/item/5h22d6xv (доступ 12.04.2021)
[162]	Технология разработки программного обеспечения, учебное пособие для студентов, Минск, БНТУ, 2020
[163]	Интеграция возможностей модели зрелости: руководство по интеграции процессов и улучшению продукции, Мэри Бет Криссис, Майк Конрад, Сэнди Шрум, Аддисон-Уэсли, 2003, ISBN 0321154967, 9780321154965. https://books.google.ru/books/about/CMMI.html?id=EUZsqueGeXoC&redir_esc=y (доступ 12.04.2021)
[164]	Анимация В модели для внешней верификации. Н. Waeselynck, S. Behnia, In Proceedings of the Second International Conference on Formal Engineering Methods, 1998. Компьютерное общество IEEE, 1998, ISBN 0-8186-9198-0. http://dl.acm.org/citation.cfm?id=857365 (доступ 12.04.2021)
[165]	Экард Брингманн, Андреас Крамер; Тестирование автомобильных систем на основе моделей: ICST, с. 485-493, 2008 Международная конференция по тестированию, проверке и валидации программного обеспечения, 2008. http://www.piketec.com/downloads/papers/Kraemer2008-Model_based_testing_of_automotive_systems.pdf (доступ 12.04.2021).
[166]	Брой М., Проблемы в области разработки автомобильного программного обеспечения, Международная конференция по разработке программного обеспечения (ICSE '06), Шанхай, Китай, 2006. http://dl.acm.org/citation.cfm?id=1134292, https://link.springer.eom/chapter/10.1007/978-3-319-16086-3_14 (доступ 12.04.2021)
[167]	Хаймдаль, М.П. Е.: Тестирование на основе моделей: впереди проблемы, Конференция по компьютерному программному обеспечению и приложениям (COMPSAC 2005), 25-28 июля 2005 года, Эдинбург, Шотландия, Великобритания, 2005. https://www.researchgate.net/publication/4174458_Model-based_testing_challenges_ahead (доступ 12.04.2021)
[168]	Джонатан Джеки, Маргус Веанес, Колин Кэмпбелл и Вольфрам Шульте, тестирование и анализ программного обеспечения на основе моделей с С #, ISBN 978-0-521-68761-4, Cambridge University Press, 2008. https://books.google.ru/books/about/Model_Based_Software_Testing_and_Analysi.html?id=3LW7Y8y2F4oC&redir_esc=y (доступ 12.04.2021)
[169]	С.Дж. Проуэлл, Применение моделей, использующих цепи Маркова, для тестирования сложных систем, HICSS '05:38 Ежегодные Гавайи, Международная конференция по системным наукам, 2005. https://www.researchgate.net/publication/221184160_Using_Markov_Chain_Usage_Models_to_Test_Complex_Systems (доступ 12.04.2021)
[170]	Марк Уттинг и Бруно Легард, Практическое тестирование на основе моделей. Подход к инструментам, ISBN 978-0-12-372501-1, Morgan-Kaufmann, 2007. https://www.researchgate.net/publication/220689494_Practical_Model-Based_Testing_A_Tools_Approach (доступ 12.04.2021)
[171]	Ян Бэйли и Хун Чжу. Формальная спецификация вариантов и поведенческих особенностей шаблонов проекта. Препринт представлен в Journal of Systems and Software 6 июля 2009 года. http://cms.brookes.ac.uk/staff/HongZhu/Publications/compsac08JSI-v8.pdf (доступ 12.04.2021)
[172]	Модельное тестирование реактивных систем: серия лекций, LNCS 3472, Springer-Verlag, 2005, ISBN 978-3-540-26278-7. http://is.ifmo.ru/books/_model-based_testing_of_reactive_systems.pdf (доступ 12.04.2021)
[173]	Тестирование на основе модели. Подключение спецификаций и тестирование. 9/26/2007. https://www.cs.utexas.edu/users/browne/uvvf2007/ModelBasedTesting.pdf (доступ 12.04.2021)
[174]	OF-FMEA подход к анализу безопасности систем, преимущественно использующих объектно-ориентированное ПО, Т. Cichocki, J. Gorski. В искусственном интеллекте и безопасности в вычислительных системах: 9-я Международная конференция, ACS'2002. Эд.Дж. Сольдек. Springer, 2003, ISBN 1402073968, 9781402073960. https://link.springer.com/chapter/10.1007/978-1-4419-9226-0_25 (доступ 12.04.2021)
[175]	Майрон Хехт, Эмили Димпфль: Автоматизированная генерация режимов отказов и анализ результатов из моделей SysML. DOI: 10.13140/2.1.4578.9446. https://www.researchgate.net/publication/265852057_Automated_Generation_of_Failure_Modes_and_Effects_Analysis_from_SysML_Models (доступ 12.04.2021).
[176]	Анализ надежности иерархических компьютерных систем, подверженных отказам по общей причине Л. Син, Л. Мешкат, С. Донохью. Проектирование надежности и безопасность систем, том 92, выпуск 3, март 2007. http://www.sciencedirect.com/science/article/pii/S0951832006001013 (доступ 12.04.2021)
[177]	IEEE VHDL. Руководство по проектированию на Verilog + Standard VHDL. https://www.csee.umbc.edu/portal/help/VHDL/p1076/P1076_Chap_00.pdf (доступ 12.04.2021)
[178]	IEEE 1149.1-2001 - IEEE Standard Test Access Port and Boundary Scan Architecture (ИИЭР Стандартный порт тестового доступа и архитектура сканирования границ)
[179]	IEC 61164:2004, Reliability growth - Statistical test and estimation methods (Повышение надежности. Статистические критерии и методы оценки)
[180]	Верификация и валидация программного обеспечения в реальном времени. Глава 5. У.Дж. Квирк (ред.). Springer Verlag, 1985, ISBN 3-540-15102-8. http://www.springer.com/us/book/9783642702266 (доступ 12.04.2021)
[181]	Объединение усилий по вероятностной и детерминированной верификации. W.D. Ehrenberger, SAFECOMP 92, Пергамский пресс, ISBN 0-08-041893-7. http://www.sciencedirect.com/science/article/pii/В9780080418933500537 (доступ 12.04.2021)
[182]	IEEE 352-2016 - IEEE Guide for General Principles of Reliability Analysis of Nuclear Power Generating Station Systems and Other Nuclear Facilities (ИИЭР Руководство по общим принципам анализа надежности систем атомной электростанции и других ядерных установок)