Приложение Б (обязательное). Определение статистической однородности выборок значений показателей для оценки антропогенной нагрузки

Приложение Б
(обязательное)

Определение статистической однородности выборок значений показателей для оценки антропогенной нагрузки

Оценку антропогенной нагрузки проводят по таким показателям, как доля антропогенного воздействия и/или модуль притока химических веществ. Определение статистической однородности рядов значений показателей для оценки антропогенной нагрузки приводится на примере доли антропогенного воздействия и проводится в следующей последовательности.

Б.1 Для каждого пункта наблюдений составляют рабочую таблицу на основе данных по программе расчета данных УКИЗВ, включающую степень загрязненности и значение доли антропогенного воздействия, D, за каждый год (таблица Б.1). Ряды наблюдений должны быть достаточно большими (не менее 6 лет), а выборки значений доли антропогенного воздействия, предпочтительно, статистически однородными.

Таблица Б.1 - Характеристики загрязненности воды различных участков реки

Год	Участок реки (пункт наблюдений А)		Участок реки (пункт наблюдений Б)
	Степень загрязненности воды	Доля антропогенного воздействия, %	Степень загрязненности воды	Доля антропогенного воздействия, %

Б.2 Проверка статистической однородности выборок значений показателя доли антропогенного воздействия для каждого участка реки.

Для оценки статистической однородности значений доли антропогенного воздействия проводят анализ полученной совокупности по коэффициенту вариации, , %, [6], который рассчитывают по формуле

(Б.1)

где - среднее арифметическое выборки значений доли антропогенного воздействия.

Среднее арифметическое и стандартное отклонение рассчитывают по общепринятым статистическим формулам (см. приложение А).

Оценку однородности выборок значений доли антропогенного воздействия по значению проводят по следующим градациям [7]:

- менее 17% - абсолютно однородная;

- от 17% до 35% - достаточно однородная;

- от 35% до 40% - недостаточно однородная;

- от 40% до 60% - неоднородная;

- свыше 60% - абсолютно неоднородная.

Б.3 Алгоритм анализа выборок значений доли антропогенного воздействия с различной степенью однородности представлен на рисунке Б.1.

Б.4 Для дальнейшего анализа с применением t-критерия Стьюдента для парных зависимых выборок требуются абсолютно и достаточно однородные выборки.

Для недостаточно однородных и неоднородных выборок рекомендуется проанализировать выборку на наличие промахов (сильно отличающихся значений) и оценить выборки значений D после исключения промахов. Абсолютно неоднородные выборки анализируются с использованием критерия Вилкоксона для зависимых выборок.

Б.5 Наличие промахов в выборке значений D оценивают по критерию Ирвина [8]. Для этого выборку ранжируют от минимального значения к максимальному. Критерий определяют по формуле

(Б.2)

где и - наибольшие значения показателя в выборке.

Затем сравнивается с табличным значением критерия, , приведенным в таблице В.1. Если объем выборки занимает промежуточное положение между приведенными в таблице В.1, используют критерий для большего n. Например, для анализа выборки, состоящей из 15 вариантов, применяют , рассчитанный для n = 20 (1,3 при p < 0,05 и 1,8 при p < 0,01). Рекомендуемый уровень значимости p < 0,05.

Если , то нулевая гипотеза не подтверждается, т.е. результат - ошибочный, и он должен быть исключен при дальнейшей обработке результатов наблюдений.

Б.6 Для оценки статистически значимых отличий в показателях, определяющих антропогенную нагрузку на участки водотока, лежащие между исследуемыми пунктами, однородные выборки значений доли антропогенного воздействия за идентичные временные интервалы сопоставляются с использованием t-критерия Стьюдента для парных зависимых наблюдений [9]. Нулевая гипотеза предполагает, что разница между генеральными параметрами сравниваемых совокупностей равна нулю и различия между наблюдаемыми показателями носят не систематический, а случайный характер. Альтернативная гипотеза предполагает, что между показателями в сравниваемых пунктах проявляются систематические статистически значимые отличия.

Для сравнения выборок необходимо рассчитать t-критерий Стьюдента для парных зависимых наблюдений, сравнить его с теоретическим табличным значением и сделать вывод о наличии или отсутствии статистически значимых отличий.

Вычисление значения критерия Стьюдента осуществляется по формуле

(Б.3)

где - среднее арифметическое разностей между соответствующими показателями (за один и тот же год) в сравниваемых пунктах;

- стандартная ошибка разностей показателей.

Среднее арифметическое разностей между соответствующими показателями вычисляется по формуле

(Б.4)

где n' - количество пар значений показателя,

, - значения показателя D в пунктах А и Б.

Стандартная ошибка разностей показателей вычисляется по формуле

(Б.5)

где - стандартное отклонение выборки разностей показателей.

Стандартное отклонение выборки разностей показателей вычисляется по формуле

(Б.6)

где (n' - 1) - число степеней свободы, k для определения (см. таблицу В.2)

Значения t-критерия Стьюдента, при p<0,05 для выборок объемом не более 20 лет приведены в таблице В.2. Рекомендуемый уровень значимости не ниже 0,1 < p < 0,05. Для выборок большего объема значения при различных уровнях значимости приведены в справочных таблицах [9], [10]. Если , то нулевая гипотеза принимается, в противном случае принимается альтернативная.

Для оценки направления изменений сопоставляются средние арифметические значения выборок показателей, по которым проводится оценка антропогенной нагрузки в ближайших друг к другу пунктах. Если значение среднего арифметического показателя вышерасположенного по течению реки пункта превышает значение среднего арифметического нижерасположенного пункта, то антропогенная нагрузка увеличивается, если наоборот - снижается.

Б.7 Для оценки статистически значимых отличий в показателях, определяющих антропогенную нагрузку на участки водотока, лежащие между исследуемыми пунктами, неоднородные и абсолютно неоднородные выборки значений показателей за идентичные временные интервалы сопоставляются с использованием критерия Вилкоксона для парных зависимых наблюдений [11]. Нулевая гипотеза предполагает, что различия между наблюдаемыми показателями носят случайный характер, а альтернативная - систематический характер.

Рабочая таблица (таблица Б.6) при использовании критерия Вилкоксона заполняется следующим образом:

а) для каждого года вычисляют величину изменения показателя между пунктом А и пунктом Б . Пары наблюдений, которым соответствует нулевое изменение, следует исключить из анализа, соответственно уменьшив на единицу объем выборки;

б) вычисленные изменения упорядочивают по возрастанию их абсолютной величины (без учета знака) и нумеруют так, чтобы наименьшая разность получила первый ранг, R. Одинаковым по величине разностям присваивают один и тот же ранг, вычисленный как среднее тех мест, которые они занимают в упорядоченном ряду;

в) полученным рангам присваивают знак в соответствии с направлением изменения и получают знаковый ранг (Rz) отрицательный при уменьшении и положительный при увеличении;

г) вычисляют сумму знаковых рангов отдельно для положительных рангов и отдельно для отрицательных по формуле

(Б.7)

где n' - количество пар значений показателя;

- знаковый ранг изменения показателей.

"Типичным сдвигом" считается сумма преобладающих по знаку рангов, "нетипичным сдвигом" - редких по знаку рангов.

д) меньшую из двух сумм разностей ("нетипичный сдвиг") без учета её знака используют в качестве фактически установленной величины . Сравнивают полученную величину для принятого уровня значимости p и числа парных наблюдений n', которое берут без нулевых разностей, с критерием , приведенным в таблице В.3. При принимается гипотеза , в противном случае - . Рекомендуемый уровень значимости не ниже p < 0,05.

Таблица Б.6 - Пары значений показателя для расчета

Год	Значение показателя		Разность значений показателя	Ранг изменения, R	Знаковый ранг, Rz
	(в пункте А)	(в пункте Б)

Для количества пар наблюдений n' > 25 критические значения критерия Вилкоксона можно определить по формуле

(Б.8)

где n' - количество пар значений показателей,

q - величина, зависящая от принятого уровня значимости p (при p < 0,05 q = 1,96, при p < 0,01 q = 2,58) [9].

Б.8 Согласуясь с результатами применения t-критерия Стьюдента или критерия Вилкоксона, делают вывод о наличии или отсутствии статистически значимых изменений показателей, по которым определяют антропогенную нагрузку, между ближайшими пунктами по длине водотока. В случае отсутствия таких изменений делают вывод о равной антропогенной нагрузке на исследуемый участок.

Для оценки направления изменений сопоставляются значения медианы выборок показателей, по которым проводится оценка антропогенной нагрузки в ближайших друг к другу пунктах. Если значение медианы показателя вышерасположенного по течению реки пункта превышает значение медианы нижерасположенного пункта, то антропогенная нагрузка увеличивается, если наоборот - снижается.

Полученные результаты позволяют приближенно оценить антропогенную нагрузку на участке реки, расположенном между исследуемыми пунктами в случае равномерной антропогенной нагрузки, а в случае неравномерной - выделить участок, на котором происходит её изменение.