Приложение 4.2.1. Методика расчета средней концентрации за период хронического эксперимента и определения максимальной разовой концентрации на уровне 98% вероятности ее появления

Приложение 4.2.1.

Методика расчета средней концентрации за период хронического эксперимента и определения максимальной разовой концентрации на уровне 98% вероятности ее появления

4.2.1.1. Расчет средней концентрации и определение максимальной разовой концентрации, повторяемость (вероятность) которой соответствует 98% уровню, за весь период хронического эксперимента по данным ежесуточных наблюдений осуществляется на основе построения кумулятивных кривых.

4.2.1.2. С целью построения кумулятивных кривых данные, полученные в результате отбора проб в камерах в течение хронического эксперимента, подвергаются статистической обработке и заносятся в таблицу 4.2.1.2.1.

Таблица 4.2.1.2.1.

Кумулятивная частота разовых концентраций изучаемого вещества в воздухе камер для ингаляционного воздействия за период хронического эксперимента

N разряда	Интервал значений концентраций в разряде	Число значений в разряде	Порядковый номер концентраций в разряде	Кумулятивная частота в %
1	2	3	4	5

Последовательность обработки всей совокупности значений (вариант) разовых концентраций может быть представлена в следующем порядке:

а) определение числа разрядов (графа 1) проводится по уравнению Штюргенца (1926)

Q = I + 3,32lgn, где

Q - число разрядов

n - общее число значений (вариант) в вариационном ряду

б) определение интервала значений концентраций (графа 2) в разряде (ширина разряда) осуществляется по формуле:

, где

- интервал

- максимальное значение разовой концентрации

- минимальное значение разовой концентрации

в) ранжировка значений концентраций по разрядам в порядке возрастания (графа 2)

г) определение числа значений в разряде (графа 3) осуществляется путем подсчета числа вариант в данном разряде

д) определение порядкового номера концентраций проводится путем сложения числа вариант в данном разряде с числом вариант в предыдущем разряде (графа 4)

е) вычисление кумулятивной частоты (графа 5) в процентах осуществляется по формуле:

, где

в - кумулятивная частота

- порядковый номер концентрации, соответствующей верхней границе разряда

n - общее число значений в вариационном ряду.

Пример расчета средней и определения максимальной разовой концентрации на уровне 98% вероятности ее появления по данным ежесуточных наблюдений в течение хронического эксперимента

Контроль за содержанием вещества А в камерах проводился ежесуточно в течение 4-х месяцев, что позволило отобрать 120 разовых проб воздуха. Вся совокупность значений концентраций (вариационный ряд, состоящий из 120 значений) разбивается на разряды согласно формуле: Q = I + 3,32lg120 = I + 3,32 х 2,079 = 7,9 = 8

Далее проводится определение интервала или ширина разряда. Максимальная разовая концентрация вещества А в камере, зарегистрированная в течение хронического эксперимента составляла 1,7 , а минимальная - 0,1 . Отсюда интервал значений концентраций (ширина разряда) рассчитывается по формуле:

После ранжировки значений концентраций по разрядам в порядке возрастания составляется таблица 4.2.1.2.1.а

Таблица 4.2.1.2.1.а

N разряда	Интервал значений концентраций в разряде	Число значений в разряде	Порядковый номер концентраций в разряде	Кумулятивная частота в %
1	2	3	4	5
1	0,1-0,3	10	10	8%
2	0,3-0,5	20	30	25%
3	0,5-0,7	30	60	50%
4	0,7-0,9	25	85	71%
5	0,9-1,1	20	105	87,5%
6	1,1-1,3	8	113	94%
7	1,3-1,5	5	118	98%
8	1,5-1,7	2	120	100%

В соответствии с данными таблицы 4.2.1.2.1.а, на логарифмически-пробитной сетке (рис. 4.2.1.1.) строят график: по оси абсцисс откладывают концентрацию, равную верхней границе разряда (например, в N разряда 1 - 0,3; в N разряда 2 - 0,5 и т.д.), а по оси ординат - соответствующие ей кумулятивные частоты (графа 5). Полученные точки соединяют прямой линией. Для выравнивания прямолинейной функции целесообразно применять метод наименьших квадратов (Н.А. Плохинский, 1961 и др.).

Построив прямую (рис. 4.2.1.1.), определяют все необходимые параметры: (средняя геометрическая концентрация, соответствующая кумулятивной частоте 50%), (концентрация, соответствующая кумулятивной частоте 84,1%), а затем масштаб распределения по формуле:

Определив и масштаб распределния , рассчитывают среднюю арифметическую велчину разовых концентраций, которая соответствует средней концентрации за период хронического эксперимента в камере. Средняя арифметическая велчина определяется по формуле:

Как видно из рисунка 4.2.1.1., средняя геометрическая концентрация, соответствующая кумулятивной частоте 50%, составляла - . Определив масштаб распределения: 1,0 : 0,65 = 1,54, можно рассчитать среднюю арифметическую величину , которая соответствует средней концентрации за период хронического эксперимента в данной опытной группе:

Отсюда - средняя арифметическая концентрация за период хронического эксперимента в данной опытной группе составляла - 0,71 . Из рисунка 4.2.1.1. устанавливаем, что максимальная разовая концентрация при вероятности ее появления на уровне 98% равнялась 1,7 .

Аналогичным образом обрабатывается весь ряд изученных концентраций во всех опытных группах.

Допустим, что установленная средняя концентрация за период хронического эксперимента (0,71 ) оказалась наименьшей пороговой величиной, а интегральный показатель опасности вещества А равен: (В = 0,66). Следовательно, коэффициент запаса в соответствии с установленным интегральным показателем В будет равен:

Отсюда расчетная недействующая концентрация, которая принимается за основу при обосновании среднесуточной ПДК вещества А, будет составлять: .

В дополнение к ней устанавливаем максимальную разовую концентрацию на уровне 98% вероятности ее появления в хроническом эксперименте с учетом того же коэффициента запаса: