Приложение А (справочное). Статистическая обработка данных по отбору проб

Приложение А
(справочное)

Статистическая обработка данных по отбору проб

А.1 Составление программ отбора проб

В программе отбора проб время и частоту отбора устанавливают после проведения тщательной предварительной работы, в ходе которой обрабатывают полученные статистические данные. Если в точке отбора проб качество воды нестабильно и подвержено случайным или систематическим изменениям, полученные значения статистических параметров, таких как среднеарифметическое значение, среднеквадратичное отклонение и максимумы, являются лишь оценками реальных параметров, от которых они, как правило, отличаются.

В случае, когда изменения носят чисто случайный характер, расхождения между этими оценками и реальными значениями могут быть вычислены статистическими методами, причем эти расхождения, как правило, уменьшаются с увеличением числа отобранных проб. После установления частоты отбора проб полученные данные должны периодически пересматриваться с целью внесения необходимых изменений.

В А.2 - А.5 приведен пример использования статистической обработки параметра (среднеарифметическое значение), исходя из предположения нормального распределения.

А.2 Доверительный интервал

На практике доверительный интервал L для среднеарифметического значения n результатов определяется как интервал, в котором располагается действительное среднеарифметическое значение при данном уровне доверия.

А.3 Доверительная вероятность

Доверительная вероятность - это вероятность того, что действительное среднеарифметическое значение входит в рассчитанный доверительный интервал L. Доверительный интервал при 95 %-ной доверительной вероятности среднего значения некоторой концентрации, рассчитанный на основе выборки из n результатов, означает, что в 95 случаях из 100 в интервал входит значение .

В том случае, если отобрано большее число проб, частота случаев, при которых входит в доверительный интервал, будет близко к 95 %.

А.4 Для числа результатов n, взятых случайным образом, оценку истинного значения и стандартного отклонения определяют как среднеарифметическое значение и среднеквадратичное отклонение S по формулам:

,

(А.1)

,

(А.2)

где - результат единичного анализа;

n - количество результатов анализа.

Если n бесконечно увеличивается, то S мало отличается от , и доверительный интервал, определенный по некоторому числу n результатов, есть интервал   , где K - коэффициент (значение K в соответствии с принятой доверительной вероятностью приведено в таблице А.1).

Таблица А.1

Доверительная вероятность, %	K
99	2,58
98	2,33
95	1,96
90	1,64
80	1,28
68	1,00
50	0,67

Для оценки среднеарифметического значения результатов при нормальном распределении с данным доверительным интервалом L при выбранной доверительной вероятности необходимое число проб составляет , если известно значение .

Если известно только значение S, то рекомендуется увеличить количество образцов, хотя это будет мало влиять на значение K, т.к. среднеквадратичное отклонение S рассчитано для большого числа результатов (более 150). Если оценки основаны на менее чем 30 результатах, то K следует заменить значением коэффициента Стьюдента t, которое получают из таблиц процентных точек функции t-распределения.

А.5 Случайные и систематические изменения качества воды

Случайные изменения, как правило, распределяются по закону нормального распределения или по закону логарифмического нормального распределения. Систематические изменения могут иметь либо одно направление, либо могут быть циклическими, либо соответствовать сочетанию обоих типов. Характер изменений может быть различным для различных параметров, определяемых для одной и той же воды. Если доминирующее изменение носит случайный характер, время отбора проб не имеет большого значения с точки зрения статистики. Если систематические изменения носят циклический характер, время отбора важно как для определения всего цикла, так и для установления максимальных или минимальных значений определяемого показателя.

Периоды отбора проб должны быть достаточно регулярны, если систематические изменения имеют одно и то же направление. В каждом из указанных случаев число проб обычно определяется с помощью развернутых статистических методов. Если периодические систематические изменения не наблюдаются или имеют незначительный характер по сравнению со случайными колебаниями, достаточно отобрать такое число проб, чтобы допустимая неустойчивость среднеарифметического значения параметра соответствовала данному доверительному интервалу. Например, если распределение нормальное, то доверительный интервал L среднеарифметического значения n результатов при данной доверительной вероятности вычисляют по формуле

,

(А.3)

где K - коэффициент (значение K в соответствии с принятой доверительной вероятностью приведено в таблице А.1);

- среднеквадратическое отклонение распределения;

n - количество результатов анализа.

Следовательно, если требуемый доверительный интервал составляет 10 % реального среднеарифметического значения при требуемой доверительной вероятности 95 %, а среднеквадратическое отклонение составляет 20 % среднеарифметического значения, формула меняет вид:

,

(А.4)

где и, следовательно, n = 61.

Это означает, что следует отбирать по две пробы в день в течение месяца или по одной-две пробы в неделю в течение года.