Приложение 4. Рекомендации по статистической обработке результатов исследования токсичности вещества для пресноводных и морских тест-организмов

1.1. Статистическая обработка результатов токсикологических исследований проводится с целью:

определения достоверных усредненных данных, характеризующих биологическую эффективность отдельных концентраций вещества и вещества в целом;

оценки достоверности различия средних количественных значений тест-функций в разных вариантах исследований (опыт и контроль).

1.2. Биологическая эффективность отдельных концентраций выражается либо через количественное значение тест-функции при этой концентрации в конце срока наблюдения (по отношению к значению в контрольной серии, выраженное в процентах), либо в виде срока достижения определенной величины тест-функции объекта при действии этой концентрации.

1.3. В тех случаях, когда в контрольной выборке также наблюдаются регистрируемые изменения (например, гибель тест-объектов), то к данным опытов вводят "поправку Аббота", определяемую следующим путем:

,

где: - уточненная величина эффекта вещества; - число погибших особей в опыте; - число погибших особей в контроле.

1.4. Характеристикой токсичности вещества служит величина концентрации, вызьюающая определенный эффект на тест-объект (, или ), или не производящая достоверного эффекта за время токсикологических исследований.

1.5. Задачей вычислений при определении ПДК служит установление максимальных концентраций, не оказывающих устойчивого эффекта ни на один из тест-параметров, учитываемых в исследованиях. Недействующей концентрацией исследуемого вещества признается такая концентрация, которая не вызьшает достоверное отклонение величины тест-функции от ее величины в контрольной серии за срок исследований. Тест-функция не должна достоверно отличаться от значений в контроле.

1.6. При определениях ориентировочно безопасного уровня воздействия вещества (ОБУВ вещества) устанавливаются концентрации, способные производить эффект на тест-параметры, не превышающие величину, оговоренную в настоящих Методических рекомендациях по соответствующему тест-объекту.

1.7. Дополнительную информацию о возможностях и приемах статистической обработки данных можно найти в соответствующих руководствах.

2.1. Для всех повторностей в контроле и в каждой из концентраций на конкретный срок вычисляется среднее арифметическое значение тест-функции X по формуле:

,

где: х - частные значения тест-параметра в каждой из повторностей (в контрольном варианте или в каждой из концентраций); n - количество значений (повторностей) в серии.

2.2. В случае существенных отклонений одной из дат в серии от средней арифметической целесообразно оценить, не выпадает ли она, в силу каких-то побочных причин, из общей закономерности. Для этого может быть проведено вычисление по следующим формулам:

если сомнительная дата оказалась наименьшей по значению -

,

где v - коэффициент оценки принадлежности; - сомнительная дата (наименьшая); - дата, следующая по величине; - дата, предшествующая наибольшей в серии,

если сомнительная дата оказалась наибольшей по значению -

,

где - сомнительная дата (наибольшая); - дата, предшествующая по величине; - дата, следующая за наименьшей в серии.

Полученный коэффициент v сопоставляется с приведенными в таблице величинами для уровня значимости Р=0,05 и для разного числа повторностей n (Таблица 3.1):

Таблица 3.1

Значение коэффициента v от числа повторностей n

Если вычисленная величина v равна табличному или превышает его, то оцениваемая дата может быть исключена из выборки данных. Новое среднее арифметическое значение и все последующие вычисления производятся без этой даты.

2.3. Вычисляется среднее квадратическое отклонение значений тест-функции от среднего () для контроля и для каждой из концентраций:

.

2.4. Рассчитывается ошибка среднего арифметического значения тест-функции (S) в контроле и в каждой из концентраций:

3.1. Вычисления достоверности различия по критерию (Стьюдента)

Вычисляется критерий достоверности различия средних значений тест-функции в контроле и в каждой из концентраций ():

.

Вычисленные величины критерия сопоставляются с табличными значениями (критерий Стьюдента), приведенными в таблице 3.1.1. Эти значения () соответствуют уровню значимости Р=0,05 и числу степеней свободы () до 30.

Таблица 3.1.1.

Значения критерия Стюдента

Различие между средними значениями тест-параметра в опыте и в контроле считается достоверным, если рассчитанная величина , при соответствующей величине k, равна табличной или превышает ее ().

3.2. Вычисления достоверности различия по критерию F (Фишера)

Для каждой пары сравниваемых средних величин (опыт и контроль) вычисляется величина отношения соответствующих дисперсий (квадратов средних квадратических отклонений):

.

Всегда берется отношение большей дисперсии к меньшей, поэтому величина не может быть меньше единицы.

Полученная величина критерия сопоставляется с табличными значениями () для уровня значимости Р=0,05 при соответствующем числе степеней свободы и (Таблица 3.2.1).

Если больше при соответствующем значении степеней свободы, то различие между сравниваемыми вариантами (между опытом и контролем) достоверны.

Таблица 3.2.1.

Значения критерия Фишера