Приложение D (обязательное). Расчет величины D с использованием ограниченного метода Спирмана-Карбера

Приложение D
(обязательное)

Расчет величины D с использованием ограниченного метода Спирмана-Карбера

D.1 Расчет величины D

Примечание - Ограниченный метод Спирмана-Карбера (Spearman-Karber) требует, чтобы последовательные экспозиции отличались друг от друга на постоянный интервал d и в каждой экспозиции использовалось одно и то же число реплик (биологических индикаторов) n.

D.1.1 Чтобы охватить фракционно-негативную область, нужно выбрать интервал экспозиции или уровня доз (, , ..., ). Начальная экспозиция выбирается так, чтобы стерилизующий эффект был равен нулю или r = 0. Последняя экспозиция выбирается такой, чтобы был обеспечен полный стерилизующий эффект или r = n. Тест считается действительным, если в экспозиции, предшествующей , отсутствуют отрицательные (стерильные) единицы (r = 0) и в экспозиции, следующей за , присутствуют только отрицательные единицы (r = n). При этом в двух промежуточных интервалах между и (где 0 < r < n) должны быть две значимые пробы. Затем рассчитывается средняя экспозиция до достижения стерильности или ограниченного показателя Спирмана-Карбера по формуле

,

где - средняя экспозиция до достижения стерильности (оценка ограниченного показателя Спирмана-Карбера);

- первая экспозиция, в которой наблюдаются все стерильные реплики, ;

d - интервал времени или дозы между экспозициями;

n - число реплик (биологических индикаторов) в каждой экспозиции;

- число стерильных реплик в каждой экспозиции;

- самая длительная экспозиция, в которой не наблюдаются отрицательные биологические индикаторы, r = 0;

- экспозиция, предшествующая ;

- сумма стерильных реплик (r) во всех экспозициях между и .

D.1.2 Величина D рассчитывается по формуле

,

где - среднее значение экспозиции до достижения стерильности, полученное из предыдущей формулы;

- среднее число живых спор в расчете на один биологический индикатор, определенное по всему количеству живых спор.

D.2 Расчет дисперсии , стандартного отклонения и доверительного интервала с помощью метода Спирмана-Карбера

Примечание - Расчет по методу Спирмана-Карбера позволяет установить вариацию и, в свою очередь, рассчитать стандартное отклонение и доверительный интервал.

D.2.1 Дисперсия , т.е. () рассчитывается по формуле

.

где d - интервал времени или дозы между экспозициями;

n - число проб (реплик) в каждой экспозиции;

- число стерильных реплик в каждой экспозиции;

- сумма величин, полученная умножением на (n - ) для каждой экспозиции и между и .

D.2.2 Стандартное отклонение () рассчитывается по формуле

D.2.3 Пользуясь верхним и нижним доверительными пределами равны , р = 0.95), рассчитывается нижний и верхний доверительные пределы для D:

нижний доверительный предел

;

верхний доверительный предел

.