Приложение D (справочное). Примеры статистического анализа данных экспериментов по оценке промежуточных показателей прецизионности

Приложение D
(справочное)

Примеры статистического анализа данных экспериментов по оценке промежуточных показателей прецизионности

D.1 Пример 1. Получение стандартного отклонения промежуточных показателей прецизионности с изменяющимися факторами [время + оператор] в пределах определенной лаборатории на отдельном уровне

D.1.1 Сведения общего характера

a) Метод измерений

Определение содержания углерода в стали методом вакуумно-эмиссионной спектрометрии. Результаты измерений выражены в процентах по массе.

b) Источник

Регулярный отчет сталеплавильного завода за ноябрь 1984 г.

c) План эксперимента

В определенной лаборатории проба, отобранная наугад из материалов, анализировавшихся в один день, снова была проанализирована на следующий день другим аналитиком. За месяц было получено 29 пар такого рода данных (см. таблицу D.1).

Таблица D.1 - Исходные данные. Содержание углерода, % по массе

Номер пробы j	Первый день	Второй день	Диапазон
1	0,130	0,127	0,003
2	0,140	0,132	0,008
3	0,078	0,080	0,002
4	0,110	0,113	0,003
5	0,126	0,128	0,002
6	0,036	0,032	0,004
7	0,050	0,047	0,003
8	0,143	0,140	0,003
9	0,091	0,089	0,002
10	0,040	0,030	0,010
11	0,110	0,113	0,003
12	0,142	0,145	0,003
13	0,143	0,150	0,007
14	0,169	0,165	0,004
15	0,169	0,173	0,004
16	0,149	0,144	0,005
17	0,044	0,044	0,000
18	0,127	0,122	0,005
19	0,050	0,048	0,002
20	0,042	0,146	0,104
21	0,150	0,145	0,005
22	0,135	0,133	0,002
23	0,044	0,045	0,001
24	0,100	0,161	0,061
25	0,132	0,131	0,001
26	0,047	0,045	0,002
27	0,168	0,165	0,003
28	0,092	0,088	0,004
29	0,041	0,043	0,002

D.1.2 Анализ

Данные , и представлены в таблице D.1. Анализ проводился по методике, изложенной в 8.2.

На рисунке D.1 представлена диаграмма отклонений от средних значений, полученных в первый и второй дни в функции номера пробы j. Диаграмма и применение критерия Кохрена указывают, что расхождения (диапазоны изменений) для проб с номерами 20 и 24 являются выбросами. Такое большое расхождение вероятнее всего обусловлено ошибками при регистрации данных. Значения, соответствующие этим пробам, были изъяты из выполненного по формуле (12) расчета стандартного отклонения промежуточной прецизионности с изменяющимися факторами (время + оператор), которое оказалось равным

.

D.2 Пример 2. Получение стандартного отклонения промежуточной прецизионности с изменяющимся фактором времени посредством межлабораторного эксперимента

D.2.1 Сведения общего характера

а) Метод измерений

Определение содержания ванадия в стали методом атомно-абсорбционной спектрометрии, описанным в инструкции к эксперименту. Результаты исследования выражают в процентах по массе.

b) Источник

ИСО/ТК 17 Сталь/ПК 1, Методы определения химического состава. Эксперимент проводился в мае 1985 г.

c) Схема эксперимента.

Трехфакторный ступенчато вложенный эксперимент осуществлялся с участием 20 лабораторий, каждая из которых представляла два результата измерений в условиях повторяемости в первый день и еще один результат - на следующий день на каждом из шести уровней, предусмотренных в эксперименте. Все измерения в каждой лаборатории выполнялись одним оператором, с использованием одного и того же измерительного оборудования.

D.2.2 Анализ

Данные для всех шести уровней представлены в таблице D.2.

Анализ дисперсии дается только для одного из уровней, а именно для уровня 1.

Диаграмма данных (результаты измерений, проводимых в первый и второй дни в функции номера лаборатории i) приведена на рисунке D.2. Диаграмма свидетельствует о том, что лаборатория 20 - выпадающая. Имеет место большое расхождение между результатом измерений во второй день и средним значением в первый день по сравнению с результатами измерений в других лабораториях. Данная лаборатория была исключена из расчетов показателей прецизионности.

В соответствии с С.1 приложения С были рассчитаны значения , , , и результаты представлены в таблице D.3.

Таблица D.2 - Исходные данные. Содержание ванадия, % по массе

Номер лаборатории i	Уровень 1 (0,01%)			Уровень 2 (0,04%)			Уровень 3 (0,1%)			Уровень 4 (0,2%)			Уровень 5 (0,5%)			Уровень 6 (0,75%)
	День первый		День второй	День первый		День второй	День первый		День второй	День первый		День второй	День первый		День второй	День первый		День второй
1	0,0091	0,0102	0,0098	0,0382	0,0388	0,0385	0,101	0,103	0,102	0,214	0,211	0,210	0,514	0,510	0,513	0,755	0,753	0,751
2	0,0100	0,0100	0,0090	0,0410	0,0410	0,0390	0,111	0,111	0,108	0,220	0,220	0,215	0,520	0,540	0,540	0,800	0,755	0,750
3	0,0095	0,0090	0,0094	0,0390	0,0380	0,0370	0,108	0,110	0,107	0,213	0,215	0,215	0,500	0,514	0,504	0,738	0,730	0,724
4	0,0080	0,0083	0,0077	0,0374	0,0361	0,0382	0,109	0,106	0,104	0,214	0,222	0,201	0,519	0,518	0,518	0,744	0,742	0,732
5	0,0100	0,0100	0,0100	0,0350	0,0370	0,0370	0,103	0,103	0,110	0,210	0,210	0,205	0,495	0,500	0,512	0,743	0,753	0,750
6	0,0089	0,0094	0,0094	0,0368	0,0368	0,0377	0,106	0,106	0,108	0,232	0,240	0,221	0,526	0,532	0,513	0,733	0,740	0,746
7	0,0098	0,0099	0,0101	0,0376	0,0380	0,0384	0,107	0,105	0,108	0,215	0,215	0,216	0,521	0,519	0,526	0,754	0,756	0,756
8	0,0096	0,0094	0,0099	0,0379	0,0366	0,0379	0,108	0,107	0,108	0,193	0,195	0,210	0,507	0,493	0,511	0,732	0,729	0,732
9	0,0104	0,0094	0,0100	0,0365	0,0370	0,0367	0,104	0,106	0,105	0,211	0,205	0,213	0,509	0,515	0,515	0,734	0,738	0,747
10	0,0107	0,0118	0,0097	0,0370	0,0375	0,0380	0,105	0,110	0,105	0,210	0,220	0,225	0,520	0,520	0,525	0,760	0,760	0,765
11	0,0100	0,0100	0,0090	0,0380	0,0380	0,0375	0,102	0,102	0,102	0,213	0,211	0,214	0,513	0,516	0,514	0,746	0,748	0,746
12	0,0109	0,0115	0,0097	0,0390	0,0390	0,0390	0,101	0,108	0,105	0,208	0,215	0,210	0,509	0,528	0,510	0,758	0,748	0,750
13	0,0100	0,0095	0,0095	0,0375	0,0375	0,0375	0,103	0,104	0,108	0,212	0,222	0,215	0,510	0,520	0,505	0,735	0,755	0,750
14	0,0096	0,0096	0,0100	0,0374	0,0374	0,0389	0,104	0,106	0,110	0,218	0,218	0,212	0,520	0,528	0,522	0,740	0,735	0,742
15	0,0099	0,0091	0,0082	0,0381	0,0375	0,0392	0,109	0,106	0,107	0,214	0,210	0,211	0,510	0,510	0,515	0,749	0,729	0,744
16	0,0098	0,0100	0,0095	0,0373	0,0377	0,0397	0,105	0,105	0,104	0,215	0,212	0,218	0,519	0,517	0,531	0,754	0,751	0,759
17	0,0105	0,0102	0,0112	0,0389	0,0382	0,0373	0,107	0,108	0,104	0,214	0,210	0,209	0,517	0,515	0,514	0,735	0,728	0,741
18	0,0103	0,0105	0,0118	0,0382	0,0380	0,0374	0,103	0,104	0,103	0,224	0,218	0,217	0,515	0,514	0,517	0,788	0,798	0,787
19	0,0098	0,0096	0,0104	0,0383	0,0375	0,0366	0,110	0,109	0,104	0,217	0,215	0,215	0,530	0,525	0,520	0,755	0,745	0,740
20	0,0140	0,0140	0,0100	0,0370	0,0408	0,0369	0,104	0,106	0,107	0,214	0,214	0,203	0,518	0,518	0,481	0,730	0,737	0,658

Таблица D.3 - Значения , и

Номер лаборатории i
1	0,0011	0,00015	0,009700
2	0,0000	0,00100	0,009667
3	0,0005	0,00015	0,009300
4	0,0003	0,00045	0,008000
5	0,0000	0,00000	0,010000
6	0,0005	0,00025	0,009233
7	0,0001	0,00025	0,009933
8	0,0002	0,00040	0,009633
9	0,0010	0,00010	0,009933
10	0,0011	0,00155	0,010733
11	0,0000	0,00100	0,009667
12	0,0006	0,00150	0,010700
13	0,0005	0,00025	0,009667
14	0,0000	0,00040	0,009733
15	0,0008	0,00130	0,009067
16	0,0002	0,00040	0,009767
17	0,0003	0,00085	0,010633
18	0,0002	0,00140	0,010867
19	0,0002	0,00070	0,009933

Суммы квадратов , и и среднее значение равны:

,

,

,

.

Из этих значений получены суммы квадратов SS0, SS1 и SSe и сведены в таблицу ANOVA (см. таблицу D.4).

Несмещенные оценки дисперсии между лабораториями , между днями в пределах лаборатории и оценка дисперсии повторяемости составляют:

,

,

.

Стандартные отклонения воспроизводимости , промежуточной прецизионности с изменяющимся фактором времени и повторяемости имеют следующие значения:

,

,

.

Значения этих стандартных отклонений для всех шести уровней содержания ванадия сведены в таблицу D.5 и представлены на рисунке D.3.

Таблица D.4 - Анализ ANOVA. Содержание ванадия

Источник	Сумма квадратов	Степень свободы	Средний квадрат	Ожидаемый средний квадрат
0 (лаборатория)		18
1 (день)		19
Остаток		19
Сумма		56

Таблица D.5 - Значения , и для шести уровней содержания ванадия в стали, в процентах по массе

Уровень	Номер выпадающей лаборатории	Среднее значение
1	20	0,009 8
2	2	0,037 8
3	-	0,105 9
4	6 и 8	0,213 8
5	20	0,516 4
6	20	0,748 4