Приложение В (справочное). Примеры статистического анализа экспериментов по оценке прецизионности

Приложение В
(справочное)

Примеры статистического анализа экспериментов по оценке прецизионности

В.1 Пример 1. Определение содержания серы в угле (несколько уровней без недостающих данных и без выбросов)

В.1.1 Общие положения

a) Метод измерений

Определение содержания серы в угле (результаты измерений выражают в процентах по массе).

b) Источник

Tomkins, S.S: Industrial and Engineering Chemistry (Analytical edition), 14, 1942, pp 141-145 [4|.

с) Описание

В эксперименте принимали участие восемь лабораторий, которые провели анализ в соответствии со стандартным методом измерений, описанным в приведенном выше источнике [4]. Лаборатория N 1 сообщила о четырех результатах анализа, а лаборатория N 5 - о четырех или пяти; остальные лаборатории выполнили по три измерения.

d) Графическое представление

Обычно для графического представления данных используют статистики Манделя h и k, однако из-за того, что в данном примере они недостаточно иллюстративны, статистики были заменены диаграммами других типов. Диаграммы Манделя полностью проиллюстрированы и рассмотрены в примере В.3.

В.1.2 Исходные данные

Исходные данные представлены в процентах по массе [% (m/m)] в таблице В.1, выполненной по форме А рисунка 2 (см. 7.2.8), и не вызывают особых замечаний.

Графические представления этих данных даны на рисунках В.1 - В.4.

Таблица В.1 - Исходные данные. Содержание серы в угле, в процентах по массе

Номер лаборатории i	Уровень j
	1	2	3	4
1	0,71	1,20	1,68	3,26
	0,71	1,18	1,70	3,26
	0,70	1,23	1,68	3,20
	0,71	1,21	1,69	3,24
2	0,69	1,22	1,64	3,20
	0,67	1,21	1,64	3,20
	0,68	1,22	1,65	3,20
3	0,66	1,28	1,61	3,37
	0,65	1,31	1,61	3,36
	0,69	1,30	1,62	3,38
4	0,67	1,23	1,68	3,16
	0,65	1,18	1,66	3,22
	0,66	1,20	1,66	3,23
5	0,70	1,31	1,64	3,20
	0,69	1,22	1,67	3,19
	0,66	1,22	1,60	3,18
	0,71	1,24	1,66	3,27
	0,69	-	1,68	3,24
6	0,73	1,39	1,70	3,27
	0,74	1,36	1,73	3,31
	0,73	1,37	1,73	3,29
7	0,71	1,20	1,69	3,27
	0,71	1,26	1,70	3,24
	0,69	1,26	1,68	3,23
8	0,70	1,24	1,67	3,25
	0,65	1,22	1,68	3,25
	0,68	1,30	1,67	3,26

Примечание 8 - В эксперименте, результаты которого представлены в таблице В.1, лаборатории не инструктировались относительно необходимого числа измерений; указывалось только минимальное число (равное трем для каждого базового элемента). Согласно рекомендованной процедуре, изложенной в настоящем стандарте, для лабораторий N 1 и N 5, представивших большее число результатов, должен быть произведен случайный отбор трех из них. Однако чтобы проиллюстрировать процедуру расчета для разного количества результатов измерений в базовых элементах, в этом примере все результаты были сохранены. Читатель сам может произвести случайный отбор с целью уменьшения количества результатов измерений до трех в каждом базовом элементе и убедиться, что в данном случае такое изменение процедуры оказывает относительно малое влияние на значения , и .

В.1.3 Расчет средних значений для базовых элементов ()

Средние значения для базовых элементов представлены в процентах по массе [% (m/m)] в таблице В.2, выполненной по форме В рисунка 2 (см. 7.2.9).

В.1.4 Расчет стандартных отклонений ()

Стандартные отклонения представлены в процентах по массе [% (m/m)] в таблице В.3, выполненной по форме В рисунка 2 (см. 7.2.10).

В.1.5 Проверка на совместимость и наличие выбросов

При и числе лабораторий p=8 критические значения для критерия Кохрена равны 0,516 для 5% и 0,615 для 1%.

Для уровня 1 наибольшее значение s имеет место в лаборатории N 8; при этом ; тестовая статистика = 0,347.

Для уровня 2 наибольшее значение s имеет место в лаборатории N 5; при этом ; тестовая статистика = 0,287.

Для уровня 3 наибольшее значение s имеет место в лаборатории N 5; при этом ; тестовая статистика = 0,598.

Для уровня 4 наибольшее значение s имеет место в лаборатории N 4; при этом ; тестовая статистика = 0,310.

Таблица В.2 - Средние значения в базовых элементах. Содержание серы в угле, в процентах по массе

Номер лаборатории i	Уровень j
	1		2		3		4
1	0,708	4	1,205	4	1,688	4	3,240	4
2	0,680	3	1,217	3	1,643	3	3,200	3
3	0,667	3	1,297	3	1,613	3	3,370	3
4	0,660	3	1,203	3	1,667	3	3,203	3
5	0,690	5	1,248	4	1,650	5	3,216	5
6	0,733	3	1,373	3	1,720	3	3,290	3
7	0,703	3	1,240	3	1,690	3	3,247	3
8	0,677	3	1,253	3	1,673	3	3,257	3

Таблица В.3 - Стандартные отклонения: Содержание серы в угле, в процентах по массе

Номер лаборатории i	Уровень j
	1		2		3		4
1	0,005	4	0,021	4	0,010	4	0,028	4
2	0,010	3	0,006	3	0,006	3	0,000	3
3	0,021	3	0,015	3	0,006	3	0,010	3
4	0,010	3	0,025	3	0,012	3	0,038	3
5	0,019	5	0,043	4	0,032	5	0,038	5
6	0,006	3	0,015	3	0,017	3	0.020	3
7	0,012	3	0,035	3	0,010	3	0,021	3
8	0,025	3	0,042	3	0,006	3	0,006	3

Полученные результаты означают, что один базовый элемент на уровне 3 можно считать квазивыбросом и что выбросов нет. Квазивыброс сохраняют в последующих расчетах.

Применение критерия Граббса к средним значениям базовых элементов дало результаты, представленные в таблице В.4. В данном случае нет единичных квазивыбросов или выбросов. На уровнях 2 и 4 высокие результаты для лабораторий N 3 и N 6 согласно тестовой статистике для двух пиков представляют собой квазивыбросы; они были сохранены в анализе.

В.1.6 Расчет , и

Дисперсии, аналитическое представление которых дано в 7.4.4 и 7.4.5, рассчитывают нижеследующим образом, с использованием уровня 1 в качестве примера.

Количество лабораторий

.

.

.

.

.

.

.

.

.

.

.

Расчеты для уровней 2, 3 и 4 могут быть выполнены аналогичным образом, что приведет к результатам, представленным в таблице В.5.

В.1.7 Зависимость прецизионности от m

Рассмотрение данных, содержащихся в таблице В.5, не обнаруживает какой-либо зависимости, и поэтому в качестве показателей прецизионности могут быть использованы средние значения стандартных отклонений и .

В.1.8 Выводы

Меры прецизионности для данного метода измерений, выраженные в процентах по массе, имеют следующие значения:

- стандартное отклонение повторяемости ;

- стандартное отклонение воспроизводимости .

Таблица В.4 - Применение критерия Граббса к средним значениям в базовых элементах

Уровень	Одиночный нижний	Одиночный верхний	Двойной нижний	Двойной верхний	Значения
1	1,24	1,80	0,539	0,298	Значения статистики Граббса
2	0,91	2,09	0,699	0,108
3	1,67	1,58	0,378	0,459
4	0,94	2,09	0,679	0,132
Квазивыбросы	2,126	2,126	0,110 1	0,110 1	Критические значения Граббса
Выбросы	2,274	2,274	0,056 3	0,056 3

Таблица В.5 - Расчетные значения , и для содержания серы в угле, в процентах по массе

Уровень j
1	8	0,690	0,015	0,026
2	8	1,252	0,029	0,061
3	8	1,667	0,017	0,035
4	8	3,250	0,025	0,058

Данные значения стандартных отклонений повторяемости и воспроизводимости могут быть применены в диапазоне содержания серы 0,69-3,25% по массе. Они были определены на основании эксперимента с однородными уровнями, в котором участвовало восемь лабораторий, представивших результаты в этом диапазоне, в которых были обнаружены и сохранены четыре квазивыброса.

В.2 Пример 2. Точка размягчения смолы (несколько уровней с недостающими данными)

В.2.1 Общие положения

a) Метод измерений

Определение точки размягчения смолы при помощи кольца и шарика.

b) Источник

Стандартные методы испытаний дегтя и аналогичных продуктов.

Раздел "Смолы". Метод серии РТ3 с использованием нейтрального глицерина [5].

c) Материал

Материал был отобран из промышленных партий смолы, собран и подготовлен согласно указаниям, приведенным в части "Пробы" раздела "Смолы" [5].

d) Описание

При определении точки размягчения смолы измерения температуры производились в градусах Цельсия. В эксперименте участвовало 16 лабораторий. С целью охватить стандартный набор технических смол, предполагалось произвести измерения на четырех образцах (уровнях), имеющих точки размягчения вблизи 87,5, 92,5, 97,5 и 102,5°С. Однако для уровня 2 был выбран не соответствующий требованиям материал со средней температурой размягчения около 96°С, который скорее соответствовал уровню 3. Лаборатория N 5 вначале неправильно провела анализ пробы для уровня 2 (эта проба измерялась первой), в результате чего у нее осталось недостаточно материала для выполнения еще одного измерения на этом уровне. Лаборатория N 8 обнаружила, что у нее вообще нет образца для уровня 1 (она располагала двумя образцами для уровня 4).

с) Графические изображения

Статистики Манделя h и k должны были быть представлены на диаграмме, но снова в этом примере они не использовались и были заменены другим типом графического представления данных. Диаграммы Манделя полностью проиллюстрированы и рассмотрены в примере, приведенном в В.3.

В.2.2 Исходные данные

Исходные данные представлены в градусах Цельсия в таблице В.6, выполненной по форме А рисунка 2 (см. 7.2.8).

В.2.3 Средние значения для базовых элементов

Средние значения для базовых элементов представлены в градусах Цельсия в таблице В.7, выполненной по форме В рисунка 2 (см. 7.2.9).

Графическое изображение этих данных представлено на рисунке В.5.

Таблица В.6 - Исходные данные. Точка размягчения смолы, °С

Номер лаборатории i	Уровень j
	1	2	3	4
1	91,0	97,0	96,5	104,0
	89,6	97,2	97,0	104,0
2	89,7	98,5	97,2	102,6
	89,8	97,2	97,0	103,6
3	88,0	97,8	94,2	103,0
	87,5	94,5	95,8	99,5
4	89,2	96,8	96,0	102,5
	88,5	97,5	98,0	103,5
5	89,0	97,2	98,2	101,0
	90,0	-	98,5	100,2
6	88,5	97,8	99,5	102,2
	90,5	97,2	103,2	102,0
7	88,9	96,6	98,2	102,8
	88,2	97,5	99,0	102,2
8	-	96,0	98,4	102,6
	-	97,5	97,4	103,9
9	90,1	95,5	98,2	102,8
	88,4	96,8	96,7	102,0
10	86,0	95,2	94,8	99,8
	85,8	95,0	93,0	100,8
11	87,6	93,2	93,6	98,2
	84,4	93,4	93,9	97,8
12	88,2	95,8	95,8	101,7
	87,4	95,4	95,4	101,2
13	91,0	98,2	98,0	104,5
	90,4	99,5	97,0	105,6
14	87,5	97,0	97,1	105,2
	87,8	95,5	96,6	101,8
15	87,5	95,0	97,8	101,5
	87,6	95,2	99,2	100,9
16	88,8	95,0	97,2	99,5
	85,0	93,2	97,8	99,8
Примечание - Очевидных квазивыбросов или статистических выбросов нет.

В.2.4 Абсолютные расхождения в базовых элементах

В данном примере в каждом базовом элементе имеются два результата измерений, и для характеристики их различий могут быть использованы абсолютные расхождения, представленные в таблице В.8, выполненной по форме В рисунка 2 (см. 7.2.10).

Графическое изображение этих данных представлено на рисунке В.6.

Таблица В.7 - Средние значения для базовых элементов. Точка размягчения смолы, °С

Номер лаборатории i	Уровень j
	1	2	3	4
1	90,30	97,10	96,75	104,00
2	89,75	97,85	97,10	103,10
3	87,75	96,15	95,00	101,25
4	88,85	97,15	97,00	103,00
5	89,50	-	98,35	100,60
6	89,50	97,50	101,35	102,10
7	88,55	97,05	98,60	102,50
8	-	96,75	97,90	103,25
9	89,25	96,15	97,45	102,40
10	85,90	95,10	93,90	100,30
11	86,00	93,30	93,75	98,00
12	87,80	95,60	95,60	101,45
13	90,70	98,85	97,50	105,05
14	87,65	96,25	96,85	103,50
15	87,55	95,10	98,50	101,20
16	86,90	94,10	97,50	99,65
Примечание - Результат для i=5, j=2 был исключен (см. 7.4.3).

Таблица В.8 - Абсолютные расхождения в базовых элементах. Точка размягчения смолы, °С

Номер лаборатории i	Уровень j
	1	2	3	4
1	1,4	0,2	0,5	0,0
2	0,1	1,3	0,2	1,0
3	0,5	3,3	1,6	3,5
4	0,7	0,7	2,0	1,0
5	1,0	-	0,3	0,8
6	2,0	0,6	3,7	0,2
7	0,7	0,9	0,8	0,6
8	-	1,5	1,0	1,3
9	1,7	1,3	1,5	0,8
10	0,2	0,2	1,8	1,0
11	3,2	0,2	0,3	0,4
12	0,8	0,4	0,4	0,5
13	0,6	1,3	1,0	1,1
14	0,3	1,5	0,5	3,4
15	0,1	0,2	1,4	0,6
16	3,8	1,8	0,6	0,3

В.2.5 Проверка на совместимость и наличие выбросов

Применение критерия Кохрена дает значения статистики С, представленные в таблице В.9.

Критические значения (см. 8.1) на уровне 5%-ной значимости при составляют 0,471 для и 0,452 для . Никаких квазивыбросов не отмечено.

При применении к средним значениям в базовых элементах критериев Граббса не было обнаружено ни единичных, ни двойных квазивыбросов или выбросов (см. таблицу В.10).

В.2.6 Расчет , , и

Эти величины рассчитаны в соответствии с 7.4.4 и 7.4.5.

Для уровня 1, используемого в качестве примера, и расчеты выглядят следующим образом (с целью облегчения арифметических действий из всех данных вычтено 80,00).

Количество лабораторий .

Количество параллельных определений .

.

.

.

.

.

(плюс 80,00)=88,366 6.

.

.

Значения для всех четырех уровней (образцов) представлены в таблице В.11.

Таблица В.9 - Значения статистики Кохрена С

Уровень j	1	2	3	4
С	0,391 (15)	0,424 (15)	0,434 (16)	0,380 (16)
Примечание - В скобках приведено количество лабораторий.

Таблица В.10 - Применение критерия Граббса для анализа средних значений в базовых элементах

Уровень n	Одиночный нижний	Одиночный верхний	Двойной нижний	Двойной верхний	Значения
1; 15	1,69	1,56	0,546	0,662	Значения статистики Граббса
2; 15	2,04	1,77	0,478	0,646
3; 16	1,76	2,27	0,548	0,566
4; 16	2,22	1,74	0,500	0,672
Квазивыбросы
n=15	2,549	2,549	0,336 7	0,336 7	Критические значения Граббса
n=16	2,585	2,585	0,360 3	0,360 3
Выбросы
n=15	2,806	2,806	0,253 0	0,253 0
n=16	2,852	2,652	0,276 7	0,276 7

Таблица В.11 - Расчетные значения , и для точки размягчения смолы

Уровень j		°С
1	15	88,40	1,109	1,670
2	15	96,27	0,925	1,597
3	16	97,07	0,993	2,010
4	16	101,96	1,004	1,915

В.2.7 Зависимость прецизионности от m

При рассмотрении таблицы В.11 не обнаружено какой-либо явной зависимости. Изменения по диапазону значений m, если таковые вообще имеются, слишком малы, чтобы их считать существенными. Более того, ввиду малого диапазона значений m и характера измерений, наличие зависимости от m едва ли можно ожидать. Представляется оправданным вывод, что прецизионность в данном диапазоне, который был выбран как охватывающий материал стандартного типа, не зависит от m; поэтому в качестве окончательных значений для стандартных отклонений повторяемости и воспроизводимости могут приниматься средние значения по уровням.

В.2.8 Выводы

Для практического применения данного метода измерений значения прецизионности могут считаться не зависящими от уровня материала (от значения измеряемой величины) и составляют:

- стандартное отклонение повторяемости °С

- стандартное отклонение воспроизводимости °С.

В.3 Пример 3 - Термометрическое титрование креозотового масла (несколько уровней с выбросами)

B.3.1 Общие положения

a) Источник

Стандартные методы испытаний гудрона и аналогичных продуктов. Раздел "Креозотовое масло" [5].

b) Материал

Материал был отобран от промышленных партий креозотового масла, собран и подготовлен в соответствии с указаниями части "Пробы" раздела "Креозотовое масло" [5].

c) Описание

Экспериментальному изучению подвергся стандартный метод количественного химического анализа, предусматривающий термометрическое титрование с выражением результатов измерений в процентах по массе. В измерениях принимали участие девять лабораторий, использовавших по пять образцов в двух экземплярах (дубликатах) каждый. Образцы отбирались таким образом, чтобы охватить стандартный диапазон, характерный для общепромышленного применения, а именно - чтобы образцы приближенно соответствовали уровням 4, 8, 12, 16 и 20 (в процентах по массе). Общепринятая практика предусматривает регистрацию результатов измерений только до одного десятичного знака, однако в данном эксперименте операторам было дано указание регистрировать результаты измерений до двух десятичных знаков.

В.3.2 Исходные данные

Исходные данные представлены в процентах по массе в таблице В.12, выполненной по форме А рисунка 2 (см. 7.2.8).

Результаты измерений лаборатории N 1 были всегда выше, а на некоторых уровнях существенно выше по сравнению с результатами измерений других лабораторий.

Второй результат измерений лаборатории N 6 на уровне 5 сомнителен; зарегистрированное значение гораздо лучше подошло бы к уровню 4.

Эти вопросы подробнее рассматривают в В.3.5.

В.3.3 Средние значения для базовых элементов

Средние значения для базовых элементов представлены в процентах по массе в таблице В.13, выполненной по форме В рисунка 2 (см. 7.2.9).

В.3.4 Абсолютные расхождения в базовых элементах

Абсолютные расхождения , представлены в процентах по массе в таблице В.14, выполненной по форме С рисунка 2 (см. 7.2.10).

Таблица В.12 - Исходные данные. Термометрическое титрование креозотового масла, в процентах по массе

Номер лаборатории i	Уровень j
	1	2	3	4	5
1	4,44 4,39	9,34 9,34	17,40 16,90	19,23 19,23	24,28 24,00
2	4,03 4,23	8,42 8,33	14,42 14,50	16,06 16,22	20,40 19,91
3	3,70 3,70	7,60 7,40	13,60 13,60	14,50 15,10	19,30 19,70
4	4,10 4,10	8,93 8,80	14,60 14,20	15,60 15,50	20,30 20,30
5	3,97 4,04	7,89 8,12	13,73 13,92	15,54 15,78	20,53 20,88
6	3,75 4,03	8,76 9,24	13,90 14,06	16,42 16,58	18,56 16,58
7	3,70 3,80	8,00 8,30	14,10 14,20	14,90 16,00	19,70 20,50
8	3,91 3,90	8,04 8,07	14,84 14,84	15,41 15,22	21,10 20,78
9	4,02 4,07	8,44 8,17	14,24 14,10	15,14 15,44	20,71 21,66

Таблица В.13 - Средние значения для базовых элементов: Термометрическое ти