Приложение 3 (справочное). Статистическая обработка результатов

Приложение 3
(справочное)

Статистическая обработка результатов

Определение 50% дозы по методу Рида и Менча и по методу Спермана-Кербера

Титрование вируса в пробирочных культурах и на животных предусматривает определение дозы, при которой действие вируса (цитопатогенный эффект или гибель животных) проявляется в 50% тест-объектов (пробирочных культур или животных), так называемых или . Поскольку в большинстве случаев по данным титрования сразу не удается определить 50% дозу, возникает необходимость в статистической обработке результатов. Результаты могут считаться статистически достоверными при соблюдении следующих условий:

1. Количество тест-объектов, зараженных одним разведением вируса, должно быть не менее 4.

2. В титрование должны быть включены два разведения вируса ниже 50% дозы и два разведения вируса выше этой дозы.

Среди различных методов подсчета или наибольшее распространение получили метод полных кумулятивов Рида и Менча и метод определения "центральной величины" Кербера.

1. Метод Рида и Менча

(Reed L.J., Muench H.A. A simple method of estimating 50% endpoints. Am. J. Hyd., 1938, 27, 493-497. Упрощенный вариант по книге Ворошиловой М.К., Жевандеровой В.И., Балаяна М.С. Методы лабораторной диагностики энтеровирусных инфекций. М.: Медицина, 1964. С. 127-129. Статистическая обработка результатов).

Метод основан на логической предпосылке, что тканевая культура или животное, погибшие при заражении их каким-либо разведением вируса, погибнут и при заражении любым более низким разведением.

Пример подсчета показан в табл. 1.

Таблица 1

Подсчет 50% дозы по методу Рида и Менча

Разведение вируса	Количество тест-объектов	Исходные данные		Кумулятивные данные		Процент гибели
		погибло	выжило	погибло	выжило
	4	4	0	7	0	10
	4	2	2	3	2	60
	4	1	3	1	5	17
	4	0	4	0	9	0

Из табл. 1 видно, что 50% доза находится между разведениями вируса и .

Далее расчет величины X, которую необходимо прибавить к разведению непосредственно ниже 50% дозы (в ), проводится по следующей формуле:

, где (1)

А - процент гибели при разведении, непосредственно ниже искомой 50% дозы (в данном случае 60%);

В - процент гибели при разведении непосредственно выше искомой 50% дозы (в данном случае 17%).

Подставляя полученные значения в формулу 1, находим:

откуда титр вируса (в обратных ) равен 6 + 0,23 = 6,23; другими словами, одна или соответствует разведению вируса .

Если в титрование были взяты разведения вируса с интервалом 0,5 , то величину X в формуле 1 следует умножить на 0,5.

Поскольку при титровании вируса в пробирочных культурах обычно получаются четкие результаты и культуры со 100% дегенерацией отделены от культур с полным отсутствием дегенерации всего одним разведением вируса, удобно пользоваться при подсчете титров по Риду и Менчу упрощенной схемой:

Количество пробирочных культур, зараженных разведением	Количество культур с ЦПЭ	Процент культур с ЦПЭ	Титр вируса в
4	1	25	(n-1), 66
4	2	50	n, 0
4	3	75	n, 33
4	4	100	n, 50

Для вычисления (количества цитопатогенных доз) вируса в 1 мл исследуемой жидкости к показателю величины титра вируса в прибавляют в зависимости от количества вируссодержащего материала, взятого для заражения одной культуры, соответствующие величины поправок:

Объем материала в миллилитрах, взятого для заражения одной культуры	Величина поправки в единицах логарифма
0,2	0,7
0,25	0,6
0,3	0,52
0,4	0,4
0,5	0,3
0,6	0,22
0,7	0,16
0,8	0,1

Например, если во всех пробирочных культурах, зараженных по 0,2 мл материалом в разведении , наблюдается цитопатогенный эффект, а в культурах, инокулированных разведением , цитопатогенного эффекта не наблюдается (при инокуляции же разведением цитопатогенный эффект отмечен в одной из четырех пробирок), то титр вируса в будет равен . Содержание же его в 1 мл будет равно .

2. Определение вируса по методу Спермана-Кербера

представляет собой отрицательный десятичный логарифм наибольшей использованной концентрации вируса, умноженной на логарифм разведения, т.е. сумма % пораженных клеток в каждом разведении/ разведения.

Таблица 1

Пример результата титрования

Разведения,	Результаты по ЦПД*	Процент (%) культур с наличием ЦПД
-4	4, 4, 4, 4, 4, 4	100
-5	4, 4, 3, 4, 4, 4	100
-6	4, 4, 3, 3, 0, 0	66,7
-7	4, 2, 0, 0, 0, 0	33,3
-8	0, 0, 0, 0, 0, 0	0
Сумма % с ЦПД		300
Примечание : * - от 1 до 4 - плюсовая система %-го выражения гибели клеточных культур (1+ = 25%, 2+ = 50%, 3+ = 75% и 4+ = 100%), 0 = отсутствие ЦПД.

Формула расчета по этим данным:

-4 - [{(100 + 100 + 66,7 + 33,3 + 0) / 100} - 0,5] x 1 = -4 - [300 / 100 - 0,5] x 1= -4 - 2,5 = 6,5.

Таким образом, будет равно или 6,5

3. Метод бляшек

Для расчета среднего значения количества бляшек используется следующая формула:

, где

t - объем, добавляемый в лунку при каждом шаге разведения;

- число БОЕ во всех лунках наименьшего разведения, при котором возможен учет (уже не сливные бляшки);

- число БОЕ во всех лунках следующего разведения;

- число БОЕ во всех лунках последнего разведения;

- количество всех лунок наименьшего разведения с несливными бляшками (соответствует );

- число всех лунок второго разведения с несливными бляшками ;

- фактор разведения между (например, и , то );

- количество всех лунок последнего разведения, при котором имеются бляшки ;

- фактор разведения между и (например, и , то );

d - шаг разведения .

Вычисления проводятся с целыми числами, если последнее число меньше 5, то оно остается неизменным; если оно больше 5, то округляется до следующего целого числа.

Пример:

Если объем, добавляемый при разведении, равен 0,2 мл, то