Приложение Г (справочное). Примеры расчетов фоновых концентраций химических веществ в воде водотоков

Приложение Г
(справочное)

Примеры расчетов фоновых концентраций химических веществ в воде водотоков*(1)

Пример Г.1 - В заданном для расчета створе систематических гидрохимических наблюдений N реки А требуется определить фоновую концентрацию вещества для азота аммонийного . Расчетный минимальный расход воды в реке . Результаты наблюдений приведены в таблице Г.1 и на рисунке Г.1.

Таблица Г.1 - Результаты наблюдений за содержанием азота аммонийного в створе N реки А

Дата	Расход воды в реке,	Содержание ,
1998 г.
05 II	12,3	1,33
13 III	23,9	0,35
02 IV	48,2	0,05
12 V	59,6	0,20
06 VI	49,1	0,26
09 VII	28,8	0,25
12 VIII	14,5	1,11
02 IХ	16,2	1,34
04 X	20,5	0,75
14XI	41,1	0,20
1999 г.
13 II	35,7	0,12
02 III	62,5	0,20
06 IV	82,0	0,21
07 V	83,1	0,04
10 VI	60,5	0,28
09 VII	28,2	0,50
06 VIII	32,3	0,30
04 X	51,0	0,25
01 XI	45,4	0,42
08 ХII	34,3	0,25

В результате статистического анализа исходных данных получено: n = 20; r = 0,93; ; ; .

Выбранный вид статистической связи

. (Г.1)

Сравнивая полученные данные с табличными (таблица 1), можно убедиться, что надежность статистической связи достаточно высока.

По уравнению (Г.1) рассчитываем значение при расчетном минимальном расходе воды :

().

По формуле (13) вычисляем :

().

Пример Г.2 - В заданном для расчета створе М реки Б требуется определить фоновую концентрацию для химического потребления кислорода (ХПК). Расчетный минимальный расход воды в реке . Результаты наблюдений приведены в таблице Г.2 и на рисунке Г.2.

Таблица Г.2 - Результаты наблюдений за содержанием химического потребления кислорода (ХПК) в створе Мреки Б

Дата	Расход воды в реке,	ХПК,
1997 г.
09 I	21,6	5,4
05 II	25,0	4,5
26 III	55,0	7,5
03 IV	60,2	5,7
15 IV	62,5	6,2
05 V	53,5	6,1
11 VI	30,0	4,4
09 VII	33,0	4,3
24 VIII	23,6	3,6
25 IX	44,9	4,8
21 X	64,9	6,5
1998 г.
21 I	23,1	4,0
25 II	24,9	2,7
23 III	58,5	5,3
16 IV	85,0	7,9
12 V	65,0	6,0
03 VI	50,0	5,6
21 VII	28,7	3,9
05 VIII	23,5	3,7
19 IX	59,0	6,7
26 X	64,0	6,5
24 XI	25,3	3,6
1999 г.
11 I	27,7	4,0
17 II	28,2	4,2
22 III	57,0	6,1
13 IV	65,3	6,7
18 V	58,0	6,7
16 VI	35,0	4,7
19 VII	27,5	3,9
30 VIII	25,6	4,1
29 IX	46,7	4,2
27 X	47,1	5,2
17 XI	42,5	4,4

В результате статистического анализа исходных данных получено: n = 36; r = 0,88; ; ; ; .

Выбранный вид статистической связи

. (Г.2)

Поскольку статистическая связь достоверна, а содержание ХПК при повышении расхода воды в реке увеличивается, дополнительно рассчитаем фоновую концентрацию при среднемноголетнем расходе воды и максимальном среднемесячном расходе воды года 5%-й обеспеченности, т.е. при   и  .

По уравнению (Г.2) находим:

(),

(),

(),

(),

(),

().

Пример Г.3 - В заданном для расчета створе G реки В требуется определить фоновую концентрацию нефтепродуктов . Расчетный минимальный расход воды в реке . Результаты наблюдений приведены в таблице Г.3 и на рисунке Г.3.

Таблица Г.3 - Результаты наблюдений за содержанием нефтепродуктов в створе G реки В

Дата	Расход воды в реке,	Содержание нефтепродуктов,
1997 г.
09 I	86,0	0,19
07 II	86,2	0,07
07 III	106,0	0,10
18 IV	475,0	0,07
26 V	317,0	0,12
26 VI	186,0	0,20
25 VII	89,0	0,10
15 VIII	67,6	0,10
26 IX	67,0	0,06
30 X	11,4	0,15
27 XI	86,0	0,07
26 ХII	64,4	0,10
1998 г.
25 I	71,7	0,13
20 II	103,0	0,10
25 III	212,0	0,08
24 IV	196,0	0,05
22 V	1154	0,11
24 VI	192,0	0,05
23 VII	135,0	0,06
27 VIII	93,5	0,08
25 IX	124,0	0,17
28 X	135,0	1,12
25 XI	320,0	0,11
25 ХII	99,0	0,10
1999 г.
27 I	118,0	0,10
26 II	108,0	0,05
25 III	88,0	0,05
28 IV	164,5	0,07
22 V	408,0	0,07
26 VI	175,0	0,08
23 VII	90,5	0,13
25 VIII	61,5	0,13
29 IX	70,5	0,17
28 X	69,5	0,06
18 XI	75,0	0,09
16 XII	102,0	0,12

Поскольку содержание нефтепродуктов в воде не зависит от расхода речной воды (рисунок Г.3), обработку результатов наблюдений для определения проводим согласно 5.5. Для выяснения значимости отличия результатов наблюдений, полученных в 1999 г., от данных 1997, 1998 гг. используем статистический критерий .

Из таблицы Г.4 следует: ; ; ; .

Таблица Г.4 - Результаты совместного ранжирования данных за 1999 и 1998 гг.

Содержание нефтепродуктов,	Ранг
1999 г.
0,05	2,5
0,05	2,5
0,06	5,5
0,07	7,5
0,07	7,5
0,08	10,0
0,09	12,0
0,10	14,0
0,12	18,5
0,13	21,0
0,13	21,0
0,17	23,5
n = 12	= 145,5
1998 г.
0,05	2,5
0,05	2,5
0,06	5,5
0,08	10,0
0,08	10,0
0,10	14,0
0,10	14,0
0,11	16,5
0,11	16,5
0,12	18,5
0,13	21,0
0,17	23,5
n = 12	= 154,5

По формуле (4) находим величину :

.

Так как , по формуле (8) определяем параметр z:

.

Полученное значение z попадает в интервал -1,28 < z < 1,28, поэтому принимаем, что отличие результатов наблюдений за 1999 и 1998 гг. незначимо.

Аналогичным способом проверим значимость отличия данных в 1997 г. Результаты этого анализа: ; ; ; .

Полученное значение z попадает в интервал -1,28 < z < 1,28, поэтому принимаем, что отличие результатов наблюдений за 1999 и 1997 гг. незначимо.

Так как данные за 1997-1999 гг. отличаются несущественно, в дальнейшем статистическом анализе все данные будем рассматривать совместно. Результаты группируем помесячно в соответствии с 5.5 и для каждой выделенной градации определяем среднюю концентрацию нефтепродуктов (таблица Г.5). В январе среднее содержание нефтепродуктов было наибольшим, поэтому этот месяц относим к основной (опорной) градации. Используя критерий , определим значимость отличия основной градации от остальных. От основной градации незначимо отличаются данные за июнь, сентябрь и октябрь (значения параметра больше значений параметра ). Данные за четыре месяца (январь, июнь, сентябрь и октябрь) объединяем в один массив (тогда n = 12) и, используя формулы (1), (10), (17), получаем:

; ; ;

().

Таблица Г.5 - Определение концентраций нефтепродуктов по выделенным градациям,

Год	I	II	III	IV	V	VI	VII	VIII	IX	X	XI	ХII
1997	0,19	0,05	0,10	0,07	0,12	0,20	0,10	0,10	0,06	0,15	0,07	0,10
1998	0,13	0,10	0,08	0,05	0,11	0,05	0,06	0,08	0,17	0,12	0,11	0,10
1999	0,10	0,05	0,05	0,07	0,07	0,08	0,13	0,13	0,17	0,06	0,09	0,12
	0,42	0,20	0,23	0,19	0,30	0,33	0,29	0,31	0,40	0,33	0,27	0,32
n	3	3	3	3	3	3	3	3	3	3	3	3
	0,14	0,07	0,08	0,06	0,10	0,11	0,10	0,10	0,13	0,11	0,09	0,11

Пример Г.4 - В заданном для расчета створе В реки К требуется определить фоновую концентрацию меди . Расчетный минимальный расход воды в реке . Результаты наблюдений приведены в таблице Г.6 и на рисунке Г.4.

Таблица Г.6. - Результаты наблюдений за содержанием меди в створе В реки К

Дата	Расход воды в реке,	Содержание меди,
		у левого берега			на середине реки
1998 г.
04 I	61,6	1,0			1,5
02 II	50,8	4,5			2,5
02 III	46,8	10,0			1,0
10 IV	111,0	5,5			1,0
11 V	642,0	9,0			5,5
02 VI	156,0	4,0			1,5
05 VII	86,7	1,0			1,0
02 VIII	51,8	6,5			1,0
05 IX	75,5	1,0			4,5
04 X	64,2	2,0			1,0
03 XI	68,5	1,0			3,5
01 XII	70,4	3,0			1,5
1999 г.
04 I	58,6	1,0			3,0
05 III	75,3	6,5			2,0
03 IV	301,0	1,0			2,0
07 V	1305	4,5			1,0
05 VI	348,0	7,0			2,0
01 VII	191,0		25,0		3,0
06 VIII	96,0	8,5			1,0
05 IX	78,2	11,0			2,0
02 X	80,0	3,5			3,5
06 XI	98,0	1,0			2,5
03 ХII	71,6	1,0			2,0
		93,5			49,5
n		22			23,0
		4,25			2,15

Сравнение результатов наблюдений, полученных в отдельных вертикалях, показывает, что средняя концентрация меди у левого берега наибольшая*(2). Кроме того, содержание меди в этой вертикали значимо отличается от ее содержания в средней части сечения реки (; ; z = 1,67). На основании этих результатов принимаем, что качество воды в контрольной струе характеризует концентрацию меди у левого берега.

Таким образом, для рассматриваемого сечения реки получено два ряда значений концентрации меди, один из которых характеризует качество воды в контрольной струе, второй - в остальной массе воды на середине реки и у правого берега. Значения концентрации меди в выделенных массах воды не зависят от изменения расхода воды в реке (рисунок Г.4).

Дальнейший расчет фоновой концентрации меди проводим отдельно для каждой из выделенных водных масс. Сопоставление результатов наблюдений по годам показало, что данные за 1999 г. несущественно отличаются от данных за 1998 г. как в контрольной струе (; ; z = 0,16), так и в остальной массе воды в сечении реки (; ; z = -0,95). В связи с этим далее в статистическом анализе данные за 1999 и 1998 гг. будем рассматривать как один массив.

Для оценки наличия существенных внутригодовых изменений содержания меди в речной воде выделим три версии периодичности (сезонности) этих изменений в годовом цикле:

1) по продолжительности гидрологических сезонов:

весна (март-май),

лето-осень (июнь-сентябрь),

зима (декабрь-февраль);

2) по продолжительности характерных наблюдаемых температур в речной воде:

первый период с температурой менее 5°С (ноябрь-апрель),

второй период с температурой в пределах 5-15°С (май-октябрь),

третий период с температурой более 15°С (июнь-сентябрь);

3) по совокупному влиянию различных факторов (по визуальному анализу данных):

первый период (март-сентябрь),

второй период (октябрь-февраль).

Размещение результатов наблюдений по градациям показано в таблице Г.7.

Таблица Г.7 - Распределение значений содержания меди, полученных в контрольной струе и остальной массе речной воды, с учетом версий выделенных градаций (сезонов и периодов)

Версии и градации	Контрольная струя			Остальная масса речной воды
	,	n		,	n
Первая версия:
весна	10,0; 5,5; 9,0; 6,5; 1,0; 4,5	6	6,08	1,0; 1,0; 5,5; 2,0; 2,0; 1,0	6	2,1
лето-осень	4,0; 1,0; 6,5; 1,0; 2,0; 1,0; 7,0; 8,5; 11,0; 3,5; 1,0	11	4,2	1,5; 1,0; 1,0; 4,5; 1,0; 3,5; 2,0; 3,0; 1,0; 2,0; 3,5; 2,5	12	2,2
зима	3,0; 1,0; 4,5; 1,0; 1,0	5	2,1	1,5; 1,5; 2,5; 3,0; 2,0	5	2,1
Вторая версия:
первый период	1,0; 3,0; 1,0; 4,5; 10,0; 5,5; 1,0; 1,0; 1,0; 6,5; 1,0	11	3,2	3,5; 1,5; 1,5; 2,5; 1,0; 1,0; 3,0; 2,0; 2,0; 2,5; 2,0	11	2,05
второй период	9,0; 2,0; 4,5; 3,5	4	4,7	5,5; 1,0; 1,0; 3,5	4	2,75
третий период	4,0; 11,0; 1,0; 6,5; 1,0; 7,0; 8,5	7	5,6	1,5; 1,0; 1,0; 4,5; 2,0; 3,0; 1,0; 2,0	8	2,0
Третья версия:
первый период	10,0; 5,5; 9,0; 4,0; 1,0; 6,5; 1,0; 6,5; 1,0; 4,5; 7,0; 8,5; 11,0	13	5,8	1,0; 1,0; 5,5; 1,5; 1,0; 1,0; 4,5; 2,0; 2,0; 1,0; 2,0; 3,0; 1,0; 2,0	14	2,0
второй период	2,0; 1,0; 3,0; 4,5; 3,5; 1,0; 1,0; 1,0; 1,0	9	2,0	1,0; 3,5; 1,5; 3,0; 3,5; 2,5; 2,0; 1,5; 2,5	9	2,3

Сопоставление результатов наблюдений по выделенным градациям (таблица Г.8) показывает, что в контрольной струе по первой версии следует объединить в один основной массив данные за период весна/лето-осень; по второй версии - за третий и второй периоды; по третьей версии для расчета предварительного значения фоновой концентрации вещества первый опорный период принимается за основной. Для остальной массы воды в сечении реки ни по одной из версий сезонности значимых отличий между выделенными градациями не обнаружено, поэтому все данные по содержанию меди в этой массе воды будем рассматривать как единый массив.

Таблица Г.8 - Результаты оценки отличия между отдельными градациями содержания меди в речной воде

Контрольная струя		Остальная масса речной воды
Первая версия
Весна/лето-осень	Весна/зима	Лето-осень/весна	Лето-осень/зима
Вторая версия
Третий период/второй период	Третий период/первый период	Второй период/первый период	Второй период/третий период
Третья версия
Первый период/второй период		Второй период/первый период

По первой версии сезонности получим

();

по второй версии сезонности -

();

по третьей версии сезонности -

();

За фоновую концентрацию вещества принимаем концентрацию меди, равную 7,5 .

Для остальной массы речной воды в сечении реки получим:

().

Пример Г.5 - Требуется определить для меди в заданном для расчета створе G реки К. В створе G систематические гидрохимические наблюдения не проводились. На 10 км выше створа G расположен створ L, где систематически проводятся наблюдения за качеством воды. Минимальный среднемесячный расход воды года 95%-й обеспеченности в створе G . Этому расходу соответствует средняя скорость течения воды v = 0,25 м/с, средняя глубина реки H = 1,81 м и ширина реки В = 103 м.

Значения концентрации меди в створе L составляют в контрольной струе 7,5 , в остальной массе воды - 2,6 (расчет указанных значений меди приведен в примере Г.4). Контрольная струя в створе L по ширине составляет примерно 34 м и имеет расход воды 15,3 . Ширина остальной массы речной воды - 69 м и расход этой массы воды - 30,7 .

Извилистость русла реки К на рассматриваемом участке составляет , гидравлический уклон . На 4 км ниже створа L в реку с левого берега впадает приток Т, а на 7 км ниже с правого берега поступают сточные воды (рисунок Г.5). Для устьевой части притока Т фоновое значение концентрации меди равно 4,2 , расход воды - 15 . Коэффициент самоочищения речной воды от меди на рассматриваемом участке при Р = 80% составляет 1/сут. Параметр равен 1 . Ниже впадения притока Т расчетные параметры русла реки составляют: ; v = 0,27 м/с; H = 2,36 м; В = 108 м; .

Учитывая исходные данные, контрольную струю в створе L принимаем за условный (первый) выпуск сточных вод, а остальную массу речной воды - за исходный расход речной воды (рисунок Г.5).

По формулам (53), (49) рассчитаем параметры с и на участке реки до и ниже впадения притока Т:

,

,

(),

().

На участке реки К от створа L до створа G протяженностью 10 км средневзвешенные значения параметров v, H, В, с, составят:

(м/с),

(м),

(м),

,

().

Рассчитаем по формулам (34), (30), (31) параметры и для левобережной струи водных масс в створе G:

(м),

;

(м),

;

(м),

.

Для правобережной струи в створе G, используя формулы (32), (33), получим:

,

,

.

Далее для расчетов за фоновую концентрацию вещества принимаем значение, полученное в створе L для массы воды за пределами контрольной струи: = 2,6 . Поскольку , расчеты проведем по формуле (20). Параметр для левобережной струи в створе G составит*(3):

().

Для правобережной струи в створе G аналогичный параметр будет равен:

().

В качестве искомой фоновой концентрации меди в воде реки К в створе G принимаем  = 6,8 .

Пример Г.6*(4) - Требуется определить для СПАВ в створе М реки Н. В створе М наблюдения не проводились. На 864 м выше створа М расположен створ А, где систематически проводятся наблюдения за химическим составом речной воды. На 364 м выше створа М в реку Н впадает приток П. Данные по реке Н в створе А: ; . Ниже впадения притока П данные по реке Н составляют: , v = 2,42 м/с, H = 2,37 м, В = 26,5 м, , . Исходные данные по притоку П: q = 50,6 , .

Контрольные результаты расчета в створе М на ПЭВМ с использованием программы "ГХМ-ФОН2", разработанной в соответствии с указаниями 5.7.2, 5.7.4, составили:

максимальное значение 94 ;

минимальное значение 0 ;

в 10 м от берега со стороны выпуска сточных вод 40 ;

в 12 м от берега со стороны выпуска сточных вод 25 ;

в 20 м от берега со стороны выпуска сточных вод 1 .

В качестве искомой фоновой концентрации СПАВ в воде реки Н в створе М принимаем = 94 .

______________________________

*(1) Для возможности проведения расчетов фоновых концентраций веществ на основе информации, выбираемой с помощью информационной системы "Гидрохим ПК", в ГХИ разработаны программы "ГХМ-ФОН1" и "ГХМ-ФОН2", эксплуатируемые в среде Windows 95/98, Windows NT 4.0 и выше.

*(2) Результат наблюдений, выделенный в таблице Г.6 рамкой, в расчете не учитывался, так как принят нехарактерным (при n = 23,  ;  ; ; ; ).

*(3) Так как для правобережного выпуска сточных вод в левобережной струе в створе G параметр составил 0,0000, данные по этому выпуску не включены в расчет по формуле (20).

*(4) Исходные данные для примера были взяты из работы [15] (с. 130, пример 1) для иллюстрации сходимости расчетов смешения и разбавления сточных вод по методу ГГИ и по методу, использованному в настоящих методических указаниях.