Приложение 2 (рекомендуемое). Статистическая обработка данных по отбору проб

Приложение 2*

Рекомендуемое

Статистическая обработка данных по отбору проб

1. Составление программ отбора проб

В программе отбора проб время и частоту отбора проб определяют после проведения тщательной предварительной работы, в ходе которой полученные данные статистически обрабатываются. Если в точке отбора проб качество воды не стабильно и подвержено случайным или систематическим изменениям, полученные значения статистических параметров, таких как среднее арифметическое значение, среднее квадратическое отклонение и максимумы, являются лишь оценками реальных параметров, от которых они, как правило, отличаются.

В случае, когда изменения носят чисто случайный характер, расхождения между этими оценками и реальными значениями могут быть вычислены статистическими методами, причем эти расхождения, как правило, уменьшаются с увеличением числа отобранных проб. После установления частоты отбора проб полученные данные должны периодически пересматриваться с целью внесения необходимых изменений.

В пп. 2-5 настоящего приложения приводится пример использования статистической обработки параметра (среднее арифметическое значение), исходя из предположения нормального распределения.

Использованная в настоящем приложении терминология соответствует ИСО 3534. Более подробно вычисление среднего арифметического значения в пределах доверительного интервала описано в ИСО 2602.

2. Доверительный интервал

На практике доверительный интервал L для среднего арифметического значения n результатов определяют при данном доверительном уровне интервала, в котором располагается истинное (реальное) среднее арифметическое значение.

3. Доверительный уровень

Доверительный уровень есть вероятность, при которой реальное среднее арифметическое значение входит в вычисленный доверительный интервал L. Доверительный интервал на доверительном уровне 95%-ного среднего значения х некоторой концентрации, определенный из пробы, для которой получено n результатов, означает, что в 95 случаях из 100 интервал содержит реальное значение X.

В том случае, если отобрано большее число проб, частота случаев, при которых интервал будет включать X, приблизится к 95%.

4. Определение доверительного интервала и числа проб

Для некоторого числа результатов n, оценки реального среднего арифметического значения Х и среднеквадратическое отклонение сигма составят соответственно х, среднее арифметическое, и s по формуле

где х_1 представляет отдельные значения.

Если n увеличивается (см. п. 1), то s мало отличается от истинного значения сигма и доверительный интервал х, определенный по некоторому числу n результатов, есть интервал х +- К/n, где К в соответствии с принятым доверительным уровнем дается в таблице.

Доверительный уровень в %	99	98	95	90	80	68	50
К	2,58	2,33	1,96	1,64	1,28	1,00	0,67

Для оценки среднего арифметического значения X при нормальном распределении с данным доверительным интервалом L на выбранном доверительном уровне необходимое число проб составляет (2 х K х сигма х L)(2). Это верно только в том случае, если известно значение сигма. Большее число проб необходимо в том случае, если известна только одна оценка s, несмотря на то, что разница по сравнению с числом проб, полученным при использовании значения К, невелика, если s базируется на относительно большом числе проб.

5. Случайные и систематические изменения качества воды

Случайные изменения, как правило, распределяются по закону нормального распределения или по закону логарифмического нормального распределения. Систематические изменения могут иметь либо одно направление, либо могут быть циклическими, либо соответствуют сочетанию обоих типов. Характер изменений может быть различным для различных параметров, определяемых для одной и той же воды. Если доминирующее изменение несет случайный характер, время отбора проб не имеет большого значения с точки зрения статистики. Если систематические изменения носят циклический характер, время отбора проб имеет важное значение как для определения всего цикла, так и для установления максимальных или минимальных концентраций.

Периоды отбора проб должны быть достаточно регулярны, если систематические изменения имеют одно и то же направление. В каждом из указанных случаев число проб определяется в большинстве случаев с помощью развернутых статистических методов. Если периодические систематические изменения не наблюдаются или имеют незначительный характер по сравнению со случайными колебаниями, достаточно отобрать такое число проб, чтобы допустимая неустойчивость среднего арифметического значения параметра соответствовала данному доверительному интервалу. Например, если распределение нормальное в соответствии с вышеизложенным, то доверительный интервал L среднего арифметического значения n результатов при данном доверительном уровне вычисляют по формуле

          2 x K x сигма

      L = --------------,

          кв. корень (n)

      где сигма - среднее квадратическое отклонение распределения.

Следовательно, если требуемый доверительный интервал составляет 10% от реального среднего арифметического значения при требуемом доверительном уровне 95%, а среднее квадратическое отклонение составляет 20% от среднего арифметического значения, формула меняется

           2 х 1,96 х 20

      10 = --------------,

           кв. корень (n)

      где кв. корень (n) = 7,84 и n = 61.

Это означает частоту отбора проб: 2 пробы в день за 1 мес или 1-2 пробы в неделю за 1 год.

______________________________

* Настоящее приложение полностью соответствует разд. 16 ИСО 5667-1-80.