Национальный стандарт РФ ГОСТ Р ИСО 11843-7-2020 "Статистические методы. Способность обнаружения. Часть 7. Методы оценки с учетом фонового шума" (утв. и введен в действие приказом Федерального агентства по техническому регулированию и метрологии от 26 августа 2020 г. N 529-ст)

Statistical methods. Capability of detection. Part 7. Methods of an estimation taking into account background noise

ОКС 03.120.30
17.020

Дата введения - 1 июня 2021 г.
Взамен ГОСТ Р ИСО 11843-7-2014

Предисловие

1 Подготовлен Закрытым акционерным обществом "Научно-исследовательский центр контроля и диагностики технических систем" (ЗАО "НИЦ КД") на основе собственного перевода на русский язык англоязычной версии стандарта, указанного в пункте 4

2 Внесен Техническим комитетом по стандартизации ТК 125 "Применение статистических методов"

3 Утвержден и введен в действие Приказом Федерального агентства по техническому регулированию и метрологии от 26 августа 2020 г. N 529-ст

4 Настоящий стандарт идентичен международному стандарту ИСО 11843-7:2018 "Способность обнаружения. Часть 7. Методология, основанная на стохастических свойствах инструментального шума" (ISO 11843-7:2018 "Capability of detection - Part 7: Methodology based on stochastic properties of instrumental noise", IDT).

Международный стандарт разработан Техническим комитетом ISO/ТС 69.

Наименование настоящего стандарта изменено относительно наименования указанного международного стандарта для приведения в соответствие с ГОСТ Р 1.5-2012 (пункт 3.5).

При применении настоящего стандарта рекомендуется использовать вместо ссылочных международных стандартов соответствующие им национальные стандарты, сведения о которых приведены в дополнительном приложении ДА

5 Взамен ГОСТ Р ИСО 11843-7-2014

Введение

Методология линейной и нелинейной калибровки, приведенная в серии стандартов ИСО 11843, основана на использовании распределения вероятностей приведенной переменной состояния (измеряемая величина). При этом (явно или неявно) уделено внимание неопределенности, соответствующей оценке измеряемого отклика, преимущественно создаваемой базовым шумом при инструментальном анализе. Во многих аналитических приборах в тех случаях, когда значение измеряемой величины близко к минимальному обнаруживаемому значению, базовый шум является основной причиной неопределенности. Метод, установленный в настоящем стандарте в пределах его области применения, не требует повторного отбора образцов (выборок), что способствует экономии времени и средств.

Основой настоящего стандарта является математическое описание распределения вероятностей переменной отклика в терминах математически определенных случайных процессов. Это описание приводит к определению минимального обнаруживаемого значения. Для описания взаимосвязи отклика и измеряемой величины применены линейные и нелинейные калибровочные функции. Таким образом, настоящий стандарт согласован с ИСО 11843-2 и ИСО 11843-5.

Определение и применение минимального обнаруживаемого значения установлены в ИСО 11843-1 ¹⁾ и ИСО 11843-2 ²⁾; определение и применение функции прецизионности установлены в ИСО 11843-5 ³⁾. Функция прецизионности отражает зависимость точности от приведенной переменной состояния. В настоящем стандарте применены основные понятия стандартов серии ИСО 11843 в случае преобладания фонового шума при инструментальном анализе.

------------------------------

¹⁾_{ИСО 11843-1:1997 "Способность обнаружения. Часть 1. Термины и определения" (ISO 11843-1:1997 "Capability of detection - Part 1: Terms and definitions").}

²⁾_{ИСО 11843-2:2000 "Способность обнаружения. Часть 2. Методология в случае линейной калибровки" (ISO 11843-2:2000 "Capability of detection - Part 2: Methodology in the linear calibration case").}

³⁾_{ИСО 11843-5:2008 "Способность обнаружения. Часть 5. Методология в случаях линейной и нелинейной калибровки" (ISO 11843-5:2008 "Capability of detection - Part 5: Methodology in the linear and non-linear calibration cases").}

------------------------------

Минимальное обнаруживаемое значение x _d, как правило, выражают в единицах приведенной переменной состояния. Если калибровочная функция линейна, стандартное отклонение или коэффициент вариации переменной отклика, рассматриваемые в настоящем стандарте, могут быть линейно связаны со стандартным отклонением или коэффициентом вариации приведенной переменной состояния, которая может быть использована для оценки минимального обнаруживаемого значения х _d.

Если калибровочная функция нелинейна, функция прецизионности переменной отклика в настоящем стандарте должна быть преобразована в функцию прецизионности приведенной переменной состояния, как показано в ИСО 11843-5. В этой ситуации ИСО 11843-5 может быть использован для целей настоящего стандарта без каких-либо изменений.

Положения настоящего стандарта, относящиеся к калибровке, распространяются также на градуировку. При этом под калибровочной функцией следует понимать градуировочную кривую.

1 Область применения

Фоновый шум всегда существует в аналитических инструментах. В настоящем стандарте установлены методы оценки минимального обнаруживаемого значения в случае, когда фоновый шум является преобладающим источником неопределенности измерений. Минимальное обнаруживаемое значение может быть математически выведено на основе стохастических характеристик фонового шума.

В стандарте установлены основные методы:

- определения стохастических свойств фонового шума;

- использования стохастических свойств фонового шума для оценки стандартного отклонения (SD) или коэффициента вариации (CV) переменной отклика;

- вычисления минимального обнаруживаемого значения на основе полученных значений SD или CV.

Методы, установленные в настоящем стандарте, полезны для проверки обнаружения вещества с помощью различного типа измерительного оборудования, в котором фоновый шум преобладает над другими источниками неопределенности. Таким измерительным оборудованием могут быть приборы видимой и ультрафиолетовой поглотительной спектрометрии, атомной поглотительной спектрометрии, атомно-флуоресцентной спектрометрии, люминесцентной спектрометрии, хроматографии жидкостей и газов.

2 Нормативные ссылки

В настоящем стандарте использованы нормативные ссылки на следующие стандарты:

ISO 3534-1, Statistics - Vocabulary and symbols - Part 7: General statistical terms and terms used in probability (Статистика. Словарь и условные обозначения. Часть 1. Общие статистические термины и термины, используемые в вероятностных задачах)

ISO 3534-2, Statistics - Vocabulary and symbols - Part 2: Applied statistics (Статистика. Словарь и условные обозначения. Часть 2. Прикладная статистика)

ISO 3534-3, Statistics - Vocabulary and symbols - Part 3: Design of experiments (Статистика. Словарь и условные обозначения. Часть 3. Планирование эксперимента)

ISO 5725-1, Accuracy (trueness and precision) of measurement methods and results - Part 1: General principles and definitions [Точность (правильность и прецизионность) методов и результатов измерений. Часть 1. Общие принципы и определения]

ISO 11843-1, Capability of detection - Part 1: Terms and definitions (Способность обнаружения. Часть 1. Термины и определения)

ISO 11843-2, Capability of detection - Part 2: Methodology in the linear calibration case (Способность обнаружения. Часть 2. Методология в случае линейной калибровки)

ISO 11843-5, Capability of detection - Part 5: Methodology in the linear and non-linear calibration cases (Способность обнаружения. Часть 5. Методология в случаях линейной и нелинейной калибровки)

3 Термины и определения

В настоящем стандарте применены термины по ИСО 3534-1, ИСО 3534-2, ИСО 3534-3, ИСО 5725-1, ИСО 11843-1, ИСО 11843-2, ИСО 11843-5, а также следующие термины с соответствующими определениями. Перечень обозначений и сокращений, используемых в настоящем стандарте, приведен в приложении А.

Терминологические базы данных ИСО и МЭК доступны по следующим интернет-адресам:

- электронная платформа ИСО с функцией онлайн-просмотра терминов по адресу: http://www.iso.org/obp;

- электронная база МЭК Electropedia по адресу: http://www.electropedia.org/.

3.1 функция прецизионности (precision profile): Математическое описание стандартного отклонения (SD) переменной отклика [(X)] или стандартного отклонения приведенной переменной состояния [(X)] как функции приведенной переменной состояния.

Примечание 1 - Коэффициент вариации (CV) переменной отклика или приведенной переменной состояния как функции приведенной переменной состояния также применяют в качестве функции прецизионности.

Примечание 2 - Под точностью понимают значение SD или CV наблюдаемой переменной отклика или SD или CV приведенной переменной состояния при оценке с помощью калибровочной функции (ИСО 11843-5).

[ИСО 11843-5:2008, пункт 3.4, определение модифицировано]

3.2 минимальное обнаруживаемое значение приведенной переменной состояния x _d (minimum detectable value of the net state variable, x _d): Значение приведенной переменной состояния в действительном состоянии, которое с вероятностью (1 - ) ведет к заключению о том, что система не находится в базовом состоянии.

Примечание 1 - Если стандартное отклонение приведенной переменной (Х) является константой [(Х) = ], то минимальное обнаруживаемое значение x _d определяется как

,

(1)

где k _c - коэффициент, связанный с вероятностью ошибки первого рода;

k _d - коэффициент, связанный с вероятностью ошибки второго рода.

Если стандартное отклонение переменной отклика является константой [(X) = ], то минимальное обнаруживаемое значение может быть вычислено с помощью следующего уравнения

,

(2)

где |dY/dX| - абсолютная величина углового коэффициента линейной калибровочной функции, который является постоянным.

Примечание 2 - Если приведенная переменная состояния имеет нормальное распределение, для ошибок первого и второго рода, равных 5 %, коэффициенты k _с = k _d = 1,65, а формула (1) может быть упрощена до вида x _d = 3,30 .

Примечание 3 - Если k _c = k _d = 1,65, формула (1) принимает вид /x _d = 1/3,30 (т.е. 30 %). Поэтому значение x _d может быть найдено с помощью функции прецизионности (3.1). Значение x _d соответствует X(x _d), коэффициент вариации которой составляет 30 %.

Примечание 4 - Существует большое количество видов функции прецизионности (3.1), но они могут быть преобразованы одна в другую.

Например, стандартное отклонение (X) переменной отклика может быть преобразовано в стандартное отклонение (Х) приведенной переменной состояния с помощью абсолютного значения производной |dY/dX| калибровочной функции [Y = f(X)]: (X) - (X)/|dY/dX| (ИСО 11843-5). Точность этого приближения зависит от кривизны функции в точке определения d ²Y/dX ².

[ИСО 11843-5:2008, пункт 3.2, определение модифицировано]

4 Количественный анализ и фоновый шум

4.1 Источники ошибок при анализе

Количественный анализ процедуры определения значения измеряемой величины, как правило, включает подготовку пробы (выборки), инструментальный анализ, обработку данных и калибровку. Эти этапы анализа технически не зависят друг от друга как процедурно, так и в вероятностном смысле.

В настоящем стандарте рассмотрен только инструментальный анализ. Однако ошибки других этапов также влияют на конечное значение измеряемой величины. Таким образом, суммарная неопределенность оценки измеряемой величины зависит от неопределенностей соответствующих этапов. Для использования настоящего стандарта необходимо выполнение следующих условий.

Если значение содержания вещества близко к минимальному обнаруживаемому значению в хроматографии, то ошибка, соответствующая вводимой в хроматограф пробе, менее значима (например, коэффициент вариации CV = 0,3 % в современном аппарате), чем фоновый шум (CV = 30 %). Если влияние другого фактора (не шума) сопоставимо с влиянием шума, методы настоящего стандарта не применимы.

Обработка данных - процесс, направленный на выделение из общего инструментального шума таких параметров сигнала, как высота или площадь пика (относительная высота вершины пикообразного сигнала или интеграл интенсивности сигнала по области сигнала соответственно). В настоящем стандарте приведен метод статистического анализа влияния этого процесса на неопределенность результатов измерений. Использование цифрового или аналогового фильтра также может быть учтено при выполнении анализа шума после фильтрации.

4.2 Случайный процесс фонового шума

Типичными примерами переменной отклика в хроматографии являются высота и площадь пика. В настоящем стандарте за разность [формула (6)] и площадь [формулы (10) и (11)] интенсивностей принимают соответственно разность и сумму интенсивностей Y _i выходных данных измерительного прибора. Переменные отклика обычно не зависят друг от друга, даже если они получены в результате последовательных измерений одним и тем же прибором. С другой стороны, последовательные интенсивности Y _i представлены как независящий от времени случайный процесс. Во многих случаях также может быть рассмотрен шум 1/f (см. [1]).

Спектр мощности P(f) шума 1/f имеет угловой коэффициент, обратно пропорциональный частоте

,

(3)

где значение f близко к нулю.

Самая простая модель случайного процесса - белый шум. Пусть w _i - случайная переменная белого шума в i-й точке. По определению среднее белого шума равно нулю, а стандартное отклонение белого шума является постоянным в каждой точке i. Яркой особенностью белого шума является то, что интенсивности w _i и w _j (i j) не зависят друг от друга.

Процесс авторегрессии представляет собой математическую модель, в которой интенсивности M _i и M _j (i  j) не являются независимыми друг от друга. Процесс авторегрессии рассматривают как основу зависящих от времени выходных данных измерительного прибора [см. формула (9)]. Процесс авторегрессии в точке i имеет вид

,

(4)

где m _i - случайная переменная белого шума в точке i;

- постоянный параметр (- 1 < < 1).

5 Теория прецизионности

5.1 Теория, основанная на функции автоковариации

Теория, предложенная Вайнефорднером (см. [2], [3], [4]), основана на функции автоковариации

,

(5)

где - математическое ожидание случайной переменной, указанной в квадратных скобках, в точке t ₀.

Рисунок 1 - Сигнал (верхняя линия) и шум (нижняя линия)

В верхней части рисунка 1 изображен сигнал в виде прямоугольного импульса. Шум (являющийся фоном), накладывающийся на сигнал, изображен в нижней части рисунка. t ₀ - значение времени при отсутствии сигнала, а t ₀ +  - значение времени при наличии сигнала. Измерение (чтение сигнала) представляет собой разность интенсивностей в моменты времени t ₀ и (t ₀ + ). В отсутствие фонового шума значение сигнала в точке t ₀ равно нулю. При проведении измерений в точке (t ₀ + ) сигнал имеет конечное значение. В настоящем стандарте приведены модели измерений, в которых сигнал и шум накладываются друг на друга, этот общий случайный процесс принимает значение Y _i в момент времени t _i. Интенсивности сигнала в точках t ₀ и (t ₀ + ) обозначают и соответственно, а разность интенсивностей соответствует (6).

Разность значений функции автоковариации () в точках 0 и формирует правую часть формулы (7). Минимальное обнаруживаемое значение связано с фоновым шумом, разность интенсивностей сигнала часто применяют в аналитической оптической спектрометрии. Определение разности интенсивностей сигнала, например чтение сигнала с поправкой на фоновый шум (см. в [2], [3], [4]).

.

(6)

Здесь соответствует переменной отклика Y. Дисперсия разности интенсивностей сигнала имеет вид (7) (см. также [2], [3], [4]). Обоснование формулы (7) приведено в приложении В.

.

(7)

Формула (7) имеет практическое применение (см. рисунок 2), когда фактические функции автоковариации (0) и () известны из наблюдений за фоновым шумом. Подставляя значение из формулы (7) в формулу (2) ( = ), можно получить минимальное обнаруживаемое значение.

Рисунок 2 - Функция автоковариации шума

Можно использовать теорему Винера - Хинчина (см. [5]), связывающую функцию автоковариации со спектральной плотностью мощности (спектром мощности) через преобразование Фурье

,

(8)

где S _b(f) - спектр мощности наблюдаемого фонового шума;

G(f) - частотная характеристика (линейной) системы считывания данных.

Формула (8) показывает, как оценить стандартное отклонение [см. формулу (7)] на основе спектра мощности шума.

5.2 Теория, основанная на спектре мощности

Теория, основанная на спектре мощности базовой линии, или теория FUMI (функции взаимной информации) (см. [6], [7], [8]), дает возможность вычислять стандартное отклонение измеренных площади и высоты пика при инструментальном анализе. Измеренные значения представляют собой суммарную интенсивность выходных данных измерительного прибора по заданной области, как показано на рисунке 3. Если сигнал (форма и размер) является инвариантным, ошибка при измерении площади или высоты пика связана только с шумом и равна площади (высоте), соответствующей шуму в заданной области. Таким образом, ошибка измерений характеризуется площадью (высотой) пика, соответствующей шуму. Стандартные отклонения площади (высоты) пика шума совпадают со стандартными отклонениями измеренной площади или высоты пика.

Z - нулевая область (область отсутствия сигнала): S - область сигнала; I - область наложения сигнала и шума; остальные обозначения см. в приложении А

Рисунок 3 - Сигнал и шум в нулевой области и области наложения сигнала и шума

Количество точек данных в области наложения сигнала и шума равно (k _f - k _c).

В теории FUMI интенсивность шума Y _i в точке i описана как наложение случайных процессов белого шума и процесса авторегрессии (1)

.

(9)

Целью теории FUMI является определение оценки стандартного отклонения шума A _F по измерениям в заданной области (см. рисунок 3).

На практике, особенно в хроматографии, приняты различные способы объединения сигнала и шума (см. рисунок 4). Измеряемой величиной является объединенная интенсивность выше базовой линии, которая может быть горизонтальной или наклонной в пределах области [k _c + 1, k _f]. Горизонтальной базовой линией является горизонтальная линия интенсивности в нулевой точке. Наклонная базовая линия соединяет интенсивности на краях области наложения сигнала и шума [0, k _e]. Это обычно можно наблюдать в хроматографии (явление "дрейфа").

Рисунок 4 - Модели наложения выше горизонтальной линии (пунктирная линия) и наклонной линии (сплошная линия) между точками и

Площадь области между случайной траекторией процесса "сигнал плюс шум" и горизонтальной линией в заданной области (без сигнала) можно записать в виде

,

(10)

где Y _i - интенсивность шума в соответствии с (9);

- временной интервал между последовательными данными.

Здесь A _F усредняет переменную отклика Y.

Если в качестве базовой линии использована наклонная линия, A _F принимает вид

,

(11)

где А _T - площадь области в виде трапеции, образованной наклонной прямой, горизонтальной прямой и вертикальными прямыми, проходящими через краевые точки заданной области (k _c + 1) и k _f (см. рисунок 4). Для ситуации, представленной на рисунке 4, площадь А _т берут с отрицательным знаком. Если наклонная линия расположена в заданной области выше горизонтальной линии, площадь трапеции берут с положительным знаком.

Общее выражение для стандартного отклонения A _F имеет вид

,

(12)

где - среднее (математическое ожидание) случайной величины, указанной в квадратных скобках. E[A _F] - 0, так как по определению среднее шума с горизонтальной базовой линией [первый член в правой части формулы (11)] равно нулю и среднее для A _Т равно нулю (см. приложение С).

Приведенные формулы выведены на основе предположения о том, что не существует неопределенности нулевого уровня, т.е. Y ₀ = 0. Однако на практике такая неопределенность существует, и ее следует учитывать. Измерения в хроматографии обычно выполняют относительно нулевого уровня, который является выборочным средним интенсивностей шума по области, названной в настоящем стандарте нулевой областью (см. рисунок 3).

Квадрат стандартного отклонения , измеренной площади в пределах нулевой области имеет вид (см. [6], [7], [8])

,

(13)

где - дисперсия, соответствующая нулевой области,

- дисперсия, соответствующая измеряемой площади [ задана формулой (12)].

Обоснование формул (14) и (15) приведено в приложении С. Минимальное обнаруживаемое значение может быть получено подстановкой формулы (13) в формулу (2).

Дисперсия может быть описана следующим образом (см. [6], [7], [8])

.

(14)

Влияние объединения сигналов в установленной области принимает вид (см. [6], [7], [8])

,

(15)

где

;

(16)

- SD белого шума;

- SD белого шума, включенного в процесс авторегрессии;

р - постоянный параметр процесса авторегрессии первого порядка;

k _с, k _f и k _е - показаны на рисунках 3 и 4;

b - количество последовательных данных (точек) в нулевой области [-b + 1, 0].

Пять членов в формуле (15) обозначают следующие стохастические вклады в неопределенность измерений:

- первый член: погрешность белого шума в области объединения сигнала и шума (всего точек k _f - k _c);

- второй член: ошибка процесса авторегрессии в области объединения сигнала и шума (k _f - k _c точек);

- третий член: влияние k _c точек между нулевой точкой и начальной точкой области объединения сигнала и шума;

- четвертый член: влияние белого шума при наклонной базовой линии;

- пятый член: влияние процесса авторегрессии при наклонной базовой линии.

Примечание - Применимость теории FUMI довольно широка, но существуют две ситуации, в которых она не применима:

- основным источником погрешности не является фоновый шум. В масс-спектроскопии, если процесс ионизации дает намного большую погрешность, чем шум, теория FUMI дает заниженное значение стандартного отклонения в области измерений;

- если фактический инструментальный шум включает шум, который не может быть успешно аппроксимирован объединенным процессом белого шума и процесса авторегрессии. Пример - шум высокой интенсивности.

Изменения базовой линии фиксированных образцов, которые находятся вне предположения о стационарности, часто наблюдаются в градиентной хроматографии, но способ объединения с наклонной базовой линией может гарантировать робастность подхода, хоть и ограниченно.

6 Практическое применение теории FUMI

6.1 Оценка параметров шума

Все параметры, необходимые для применения теории FUMI, т.е. формулы (13)-(16), могут быть однозначно определены на основе экспериментальных данных. Параметры сигнала (b, k _c, k _f, k _e) могут быть установлены в соответствии с формой целевого пика, как показано на рисунке 3. С другой стороны, параметры шума (, , ) автоматически определяют по спектральной плотности мощности шума, как описано ниже.

Спектральную плотность мощности шума получают с помощью преобразования Фурье результатов измерений Y _i. Преобразование Фурье и инверсия преобразования Фурье имеют вид:

,

(17)

,

(18)

где N - количество наблюдений, включенных в область преобразования Фурье;

W = ехр [-j(2/N)];

j - мнимая единица.

Спектральная плотность мощности Р(k) случайного процесса Y _i имеет вид

,

(19)

где - сопряженное число к .

Если принять модель шума, описанную формулой (9), спектральную плотность мощности в формуле (19) можно описать (см. [6], [7], [8]) следующей формулой

.

(20)

Параметры шума , , , необходимые для применения в теории FUMI, могут быть определены с помощью нелинейного метода наименьших квадратов при аппроксимации формулой (20) спектральной плотности мощности фактического фонового шума.

Первый член преобразования Фурье в формулах (19) и (20) является постоянной составляющей, а соответствующей спектральной плотностью Р(0) можно пренебречь. Частота k в формуле (20) является целым числом и ограничена диапазоном от 1 до N/2, где N/2 - частота Найквиста. Типичный пример функции (20) показан на рисунке 5.

На практике частоту k часто выражают в герцах. Если - временной интервал между последовательными точками (интервал аналого-цифрового преобразователя, используемого для получения данных Y _i), то частота, соответствующая k (= 1, 2, ..., N/2), имеет вид k/().

Рисунок 5 - Спектральная плотность мощности смоделированного шума

На практике спектральная плотность мощности сигнала является обычно менее гладкой, чем показанная на рисунке 5. При обработке реальных наблюдений обычно имеются небольшие отклонения от гладкой кривой.

6.2 Оценка параметров шума при помощи функции автоковариации

Другой метод, основанный на [9], представлен ниже для определения оценок параметров , , , необходимых для оценки точности.

Оценка может быть сделана следующим образом:

,

(21)

где J - целое число (2 J N - 1) и

,

(22)

,

(23)

.

(24)

Оценки других параметров могут быть определены следующим образом:

,

(25)

,

(26)

где

.

(27)

Преимущество этого метода по сравнению с методом, приведенным в 6.1, состоит в том, что количество данных, используемых для определения оценок параметров шума в первом методе, ограничено 2 ⁿ, а для второго метода такого ограничения нет.

Приведенный в данном подразделе метод применим к фоновому шуму, представляющему собой смесь случайных процессов белого шума и процесса авторегрессии или только процесс авторегрессии, но не отдельно белый шум.

6.3 Процедуры определения оценки стандартного отклонения

При применении теории FUMI для определения оценки стандартного отклонения в области выполнения измерений необходимы выходные данные измерительного прибора, что в свою очередь позволяет определить минимальное обнаруживаемое значение. Полный набор этапов вычислений показан на рисунке 6.

Для определения параметров сигнала и шума необходимы такие выходные данные, как хроматограммы и спектры. Параметры сигнала включают область сигнала от точки 0 до точки k _e, область наложения сигнала и шума от точки (k _c + 1) до точки k _f и нулевую область от точки 0 до (-b + 1) (см. рисунок 3). Область сигнала включает (k _e + 1) данных, область наложения сигнала и шума включает (k _e - k _c) данных, а нулевая область включает b данных.

Параметры сигнала произвольны, но на практике будут полезны следующие рекомендации. Для Гауссовского сигнала, такого как показанный на рисунке 3, область сигнала может охватывать или вокруг центра сигнала, где - стандартное отклонение (ширина сигнала), а центр сигнала является его средним. Во многих случаях результатами измерений являются высота или вся площадь пика. Для измерений высоты пика k _f = k _c + 1. Для измерений площади пика k _f = k _e - 1 и k _c = 0. Во всех случаях количество данных (точек) в области объединения сигнала и шума составляет (k _f - k _c). Объединение по части области сигнала, как показано на рисунке 3, также эффективно с точки зрения точности. Нулевая область может быть установлена опытным путем, как область более узкая, чем область сигнала, как показано на рисунке 3.

В отличие от параметров сигнала, параметры шума (, , ) однозначно определяют в соответствии со стохастическими свойствами фонового шума. Некоторые примеры из хроматографии приведены в таблице 1. На первом этапе необходимо идентифицировать область фонового шума, где нет существенного вклада сигнала.

На втором этапе выполняют преобразование Фурье фонового шума в этой области и вычисляют спектральную плотность мощности по формуле (20). Если в формуле (20) количество точек N не превышает 2 ⁿ, для быстрого преобразования Фурье рекомендуется использовать 512 или 1024 точек, в том числе 50 или 100 точек в области сигнала.

На третьем этапе методом наименьших квадратов подбирают теоретическую кривую [формула (20)] для спектральной плотности мощности, как упомянуто выше. При небольшом количестве данных в области быстрого преобразования Фурье (например, 32) в некоторых случаях появляется смещение оценок параметров шума.

Параметры сигнала и шума, определенные как упомянуто выше, подставляют в формулы (13)-(16) для получения окончательного значения в соответствии с теорией FUMI (прецизионности).

Минимальное обнаруживаемое значение может быть найдено графически на основе показателей прецизионности, как приведенная переменная состояния, в которой коэффициент вариации приведенной переменной состояния составляет 30 %. Этот метод также применим для коэффициента вариации переменной отклика, так как функция прецизионности приведенной переменной состояния идентична таковой для переменной отклика, если калибровочная функция линейна (см. [10], [11]). В случае нелинейной калибровочной функции, функции прецизионности переменной отклика и приведенной переменной состояния различны. В этом случае для преобразования различных функций прецизионности и оценки минимального обнаруживаемого значения применяют метод, установленный в ИСО 11843-5.

Таблица 1 - Пример оценки параметров шума в хроматографии (см. [6])

Эксперимент
Эксперимент А	14	3,7	0,99
Эксперимент В	12	9,0	0,94
Эксперимент С	14	5,6	0,99

Рисунок 6 - Схема применения теории FUMI

Библиография

[1]	Ingle J.D. Jr. and Crouch S.R. Spectrochemical Analysis. Prentice-Hall, Inc. - New Jersey, 1988
[2]	Alkemade C.Th. J., Snelleman W., Boutilier G.D., Pollard B.D., Winefordner J.D., Chester T.L. and Omenetto N. A review and tutorial discussion of noise and signal-to-noise ratios in analytical spectrometry-l. Fundamental principles of signal-to-noise ratios. Spectrochim. - Acta, 33B. - pp. 383-399. - 1978
[3]	Boutilier G.D., Pollard B.D., Winefordner J.D., Chester T.L. and Omenetto N. A review and tutorial discussion of noise and signal-to-noise ratios in analytical spectrometry-II. Fundamental principles of signal-to-noise ratios. Spectrochim. - Acta, 33B. - pp. 401-415. - 1978
[4]	Alkemade C.Th. J., Snelleman W., Boutilier G.D. and Winefordner J.D. A review and tutorial discussion of noise and signal-to-noise ratios in analytical spectrometry-III. Multiplicative noises. Spectrochim. - Acta, 35B. - pp. 261-270. - 1980
[5]	Hino M. Spectral Analysis (Supekutoru Kaiseki). Asakura Shoten. - Tokyo. - 1982
[6]	Hayashi Y. and Matsuda R. Deductive prediction of measurement precision from signal and noise in liquid chromatography. - Anal. Chem. - 66(18). - pp. 2874-2881. - 1994
[7]	Hayashi Y. and Matsuda R. Prediction of precision from signal and noise measurement in liquid chromatography: Mathematical relationship between integration domain and precision. - Chromatographia. - 41. - pp. 75-83. - 1995
[8]	Poe R.B., Hayashi Y. and Matsuda R. Precision-optimization of wavelengths in diode-array detection in separation science. - Anal. Sci. - 13. - pp. 951-962. - 1997
[9]	Hayashi Y., & Zhang N.F. Evaluation of measurement precision from stationary baseline noise in instrumental analyses. - Anal. Sci. - 31. - pp. 1219-1224. - 2015
[10]	Kotani A., Yuan Y, Yang В., Hayashi Y., Matsuda R. and Kusu F. Selection of the optimal solvent grade for the mobile phase in HPLC with electrochemical detection based on FUMI theory. - Anal. Sci. - 25. - pp. 925-929. - 2009
[11]	Kotani A., Kojima S., Hayashi Y., Matsuda R. and Kusu F. Optimization of capillary liquid chromatography with electrochemical detection for determining femtogram levels of baicalin and baicalein on the basis of the FUMI theory. - J. Pharm. Biomed. Anal. - 48. - pp. 780-787. - 2008