Upload
others
View
6
Download
0
Embed Size (px)
Citation preview
Vámos István
Statisztika az analitika
laborban Elméleti összefoglaló és példatár
vegyipari technikusok számára
- 2 -
- 3 -
Bevezetés
A kémiai analízis célja a vizsgálandó anyag minőségi és mennyiségi összetételének
meghatározása. A gyakorlati elemzési feladatok többségében a legfontosabb a mennyiségi
összetétel pontos meghatározása, ám rögtön fölmerül egy kérdés: a kapott eredmények mennyire
tükrözik a vizsgált minta tényleges összetételét, vagyis milyen pontosak a mért értékeink (milyen
hibákat követtünk el a mérés során). Sőt az sem közömbös, hogy az adott mérési módszer milyen
biztonsággal ismételhető.
A pontatlanságok alapvetően kétfélék. Egy részük a mérőmódszer (eszköz) tökéletlenségéből
ered vagy a mérés alapját képező fizikai-kémia folyamatok korlátaiból adódik (pl. csapadék
oldhatósága). A hiba adódhat (sajnos nem is ritkán) a helytelenül végzett műveletek
eredményeként is. Ezek a hibák rendszeresen, ugyanolyan értelemben „tolják el” a valós értéket,
ezért ezeket a hibákat rendszeres hibáknak nevezzük.
A mérési pontatlanságok másik része a kísérleti körülmények kismértékű és ellenőrizhetetlen
ingadozásaiból adódik. Ezeket joggal nevezhetjük véletlen hibáknak.
A rendszeres hibák kiszűrése nem egyszerű feladat. Segíthet egy másik mérési módszerrel való
összehasonlítás, ám sokkal biztosabb, ha a meghatározandó alkotóból rendelkezünk a saját
mintákhoz hasonló mátrixú standard-del (mátrix: a mérendő komponenst kísérő anyagok
együttese). Ilyenkor ennek ismert mennyiségét tekintjük a valódi értéknek, és a mért értékeink
középértékének (erről később) ettől való eltérést tekinthetjük a módszer rendszeres hibájának. Ha
már felismertük a rendszeres hibát (külön „öröm” ha ez pl. additív hiba), akkor ez általában
kiküszöbölhető (korrekció, újrakalibrálás stb.).
A véletlenszerű hibák leírására a matematikai statisztika eszközeit használhatjuk. Általában a
véletlen (random) hiba mindig fellép sok, egyenként kis hatások következményeként
(hőfokingadozás, pontatlan leolvasás, hálózati feszültség ingadozás stb.). Véletlen hibaként
értelmezhető a kiugró érték is, ami időnként fellépő, jelentős mérési eltérést okozhat. Kezeléséről
részletesebben fogunk beszélni egy későbbi fejezetben.
A bevezetőben ritkán „támadják” le a gyanútlan olvasót egy számpéldával, most mégis lássunk
egy egyszerű analitikai problémát a fentiek és az elkövetkezendők illusztrálására.
Határozzuk meg egy ismert koncentrációjú (20 mg/dm3) standard Fe
3+-tartalmát valamely
analitikai eljárással. Párhuzamos méréseink eredménye a következő: 19,4; 19,5; 20,1; 20,3; 19,8;
19,6.
Lássunk néhány megállapítást illetve felmerülő kérdést!
Mérési eredményeink kisebb-nagyobb mértékben eltérnek egymástól és ezen - hétköznapi
tapasztalataink - alapján nem is csodálkozunk.
A hat mérés számtani átlaga (19,78 mg/dm3)
A várt értéktől (20 mg/dm3) ez a számtani átlag különbözik. Valahol hibát követtünk el?
Van-e a közismert számtani átlagtól eltérő más paraméter, ami mérési eredményeinket jól
(vagy jobban) jellemezhetné?
Mi okozza az eltéréseket?
Mennyire szóródnak a mért értékek? Megengedhető-e ekkora szóródás?
Ezekre és ehhez hasonló kérdésekre keressük a választ a mérési adatok statisztikai kiértékelése
során…
- 4 -
1. Statisztikai alapfogalmak
1.1 Átlag, szórás, RSD
Az analitikai mérési eredményt leegyszerűsítve a valódi érték és egy hiba összegének
tekinthetjük, mely hiba a bevezetőben említettek szerint rendszeres és véletlenszerű lehet.
Szigorúan véve a valódi értéket (jelölésére a továbbiakban a görög μ-t használjuk) tökéletesen
megmérni nem lehet.
A középérték az első fontos statisztikai fogalom, amit szinte magától érthetőnek vettünk. Ha
mérési eredményeink rendre x1, x2, x3, … xn, akkor a mérések középértéke vagy számtani átlaga
(ahol n a mérések száma)
n
x
n
xxxxx
n
i
i
n
1321 ...
A középérték jellemzésére más statisztikai fogalmak is használhatók pl. medián.
Medián: ha az adatokat növekvő sorrendbe rendezzük, akkor a középső adat az adathalmaz
mediánja (páros számú minta-elemszám esetén a két középső átlaga).
Egy másik fontos fogalmat még nem jelöltünk be az 1. ábrán, de világosan látható, hogy mérési
adataink ingadoznak a középérték körül. Ezt az ingadozást a statisztika szórásnak nevezi. Minél
kisebb a szórás, annál megbízhatóbb a mérés eredménye. Az analitikai gyakorlatban, ahol a
mérésszám a legtöbb esetben 10-nél is kisebb, a matematikai statisztikában használt szórás (σ)
helyett az ún. korrigált tapasztalati szórást (s) használjuk
1
)(
1
)(...)()( 1
2
22
2
2
1
n
xx
n
xxxxxxs
n
i
i
n
Egy másik, az analitikában gyakran használt fogalom az RSD (Relative Standard Deviation vagy
relatív szórás), melyet többnyire százalékban adunk meg.
(%)100x
sRSD
Valódi érték
Rendszeres hiba
Mérési eredmények
A mérések sorszáma
Középérték
2 3 4 5 6 7
x x
x x
x
x x
l l l l l l l
Véletlen hiba
1
- 5 -
Mintafeladat 1.
Ellenőrző laboratóriumban egy szennyvíz pH-ját mérik. A mérési eredmények a következők: 5,8;
6,1; 5,9; 6,3; 5,7; 6,2; 6,4; 6,4, 6,0, 5,5. A mérési eredmények alapján mekkora a szennyvíz pH-
jának a.) várható értéke, b.) korrigált tapasztalati szórása, c.) relatív standard deviációja (RSD)?
Megoldás
a.) Várható érték:
x = (x1+x2+ xn)/n= 6,03
b.) Korrigált tapasztalati szórás:
3057,01
)()(
2
n
xxsSD
i
c.) Relatív standard deviáció (RSD):
%07,510003,6
3057,0
x
SDRSD
Megjegyzés: Az RSD a fenti példában elég nagy. Egy analitikai laboratóriumban igyekszünk az
RSD-t 0,5 % alá szorítani!
Mintafeladat 2.
NaOH-oldat pontos koncentrációját határozzuk meg KH-ftalátra. Bemérünk 4.8327 g KH-
ftalátot 250 cm3-es mérőlombikba. Ebből 25 cm
3-eket titrálunk. A három párhuzamos mérés
(NaOH fogyás) adatai: 21,23; 21,29; 21,19 cm3. Mennyi az NaOH- oldat pontos koncentrációja
(átlag), szórása (korrigált tapasztalati szórás) és RSD-je?
Megoldás
n=4,8327/204,2=0,023666 mol (250 cm3-ben)
Ennek négyszeres van egy literben: 0,094666 mol/dm3.
c1 (NaOH)= 25 . 0,09467/21,23= 0,1115
c2………………………………= 0,1112
c3………………………………= 0,1117
Átlag 0,1115 mol/ dm3
korr. tapasztali szórás 0,00025 mol/ dm3
RSD 0,2257 %
- 6 -
1.2 A mérési eredmény megadása Már 3-5 párhuzamos mérés esetén is érdemes a számtani átlag (várható érték) megadása mellett
a mért adatok szóródására jellemző értéket is megadni.
Ha a középértéket 3 párhuzamos mérés helyett jóval több (pl. 15) párhuzamos mérésből
számoljuk, nemcsak a valódi értéket közelítjük meg jobban, hanem a szóródás mérőszáma is
csökken. Ezért a középérték szórására a n
ss
x képletet használhatjuk.
A mérési eredményünket pedig a következőképp adhatjuk meg n
sccátlag .
A képlet némiképp módosul, ha adott (pl. 95%) valószínűségi intervallumot adunk meg a várható
érték körül. A 2. mintafeladatban a t(ν;α) szorzót táblázatból kereshetjük ki. Erről részletesebben
a Student-eloszlásnál olvashatunk majd. Ezzel a t-vel szorozzuk az s/√n értéket.
Mintafeladat 1.
Feladatunk egy 0,5 mol/dm3 névleges koncentrációjú vas-oldat ellenőrzése. A vizsgálat során a
következő eredményeket kaptuk: 0,48; 0,47; 0,51; 0,49; 0,52; 0,50 mg/dm3. Adjuk meg mérési
eredményeink alapján a minta koncentrációját szabályos formában!
Megoldás
x =0,495 mg/dm3 ; s=0,0175 mg/dm
3 A középérték szórásával megadva az eredményt:
007,0495,06
018,0495,0
n
sx mg/dm
3
Mintafeladat 2.
10 mérési eredményünk a következő:
24,46 23,93 25,79 25,17 23,82 25,39 26,54 23,85 24,19 25,50
Milyen intervallumban van a valódi érték 95%-os valószínűséggel?
Megoldás
x 24,864 s=0,946 t(ν;α)=t(9;0,05)=2,262
68,086,2410
946,0262,2864,24 x
24,18< μ < 25,54
- 7 -
1.3 Hisztogram, normális eloszlás
Nagyobb számú mérési adatot jól áttekinteni nem könnyű. Ezt a könnyebb áttekinthetőséget
segíti, ha adatainkat valahogy osztályokba soroljuk, majd ezeket az osztályokat megpróbáljuk
grafikusan ábrázolni. Ezt az ábrázolási módot nevezzük hisztogramnak. Az adatok
csoportosításával kapott minden osztály fölé egy téglalapot emelünk, melynek területe arányos
az adott osztályba sorolt adatok számával illetve relatív gyakoriságával.
Lássunk egy egyszerű mintapéldát!
Mintafeladat és megoldás
Egy vízminta magnézium-tartalmára 25 párhuzamos mérési eredményünk van. Ezek rendre a
következők: 11,22; 11,50; 11,80; 11,35; 11,60; 11,30; 11,64; 11,55; 11,15; 11,42; 11,71; 11,26,;
11,55; 11,85; 11,59; 11,42; 11,52; 11,30; 11,65; 11,46; 11,48; 11,77, 11,50 mg/dm3.
Soroljuk az eredményeket 9 osztályba, számoljuk meg, hogy egy-egy osztályba hány adat kerül
(gyakoriság). Számoljuk ki a relatív gyakoriságot illetve az összegzett (kumulatív) gyakoriságot
is!
Osztályok Gyakoriság Rel. gyakoriság
(%-ban)
Kumulált gyakoriság
(%-ban)
11,10 – 11,19 1 4 4
11,20 – 11,29 2 8 12
11,30 – 11,39 3 12 24
11,40 – 11,49 4 16 40
11,50 – 11,59 6 24 64
11,60 – 11,69 3 12 76
11,70 – 11,79 3 12 88
11,80 – 11,89 2 8 96
11,90 – 11,99 1 4 100
25 100 -
0
5
10
15
20
25
30
Osztályok
Rela
tív g
yako
riság
0
20
40
60
80
100
120
Osztályok
Ku
mu
lált
rela
tív g
yako
riság
Ha méréseink számát megnövelnénk, valamint sűrítenénk az osztályközöket, akkor a relatív
gyakoriság hisztogramjának burkológörbéje egy harang alakhoz közelítene. Ekkor a relatív
gyakoriság tart a normális eloszlás (Gauss-eloszlás) sűrűségfüggvényéhez.
- 8 -
A kumulál relatív gyakoriság – hasonló finomítás esetén – egy s-alakú görbéhez közelít, melyet
eloszlásfüggvénynek nevezünk.
Egy (folytonos) valószínűségi változót akkor nevezünk normális eloszlásúnak, ha
sűrűségfüggvénye
2
2
2
)(
2
1)(
x
exF
A függvény elég bonyolultnak tűnik, de valójában az f(x)=e-x2
függvény állandókkal megtűzdelt
változata. Sajnos az y=e-x
függvény sem középiskolás anyag, így némi magyarázatra szorul.
Johann Carl Friedrich Gauss (1777 – 1855) A normális vagy Gauss-eloszláson nem egyetlen eloszlást értünk, hanem épp a konstansok miatt
egy egész „eloszláscsaládot”. Az egyes eloszlások az x-tengely menti elhelyezkedése és
szélessége más és más, csak az alakjuk hasonló. A görbe szimmetrikus, haranghoz hasonlít,
csúcsa lekerekített, lelapuló ágai minkét oldalon a vízszintes tengelyhez közelítenek. A függvény
maximumánál van a várható érték (μ); a görbe inflexiós pontjai pedig a várható érték körül a
szórást (σ) jelölik ki.
Kitüntetett szerepe van az ún. standard normális eloszlásnak (u-eloszlás), melynél μ=0 és σ=1.
2
2
2
1)(
u
eyuF
ahol
xu
0
0,2
0,4
0,6
0,8
1
1,2
-6 -4 -2 0 2 4 6
A görbén a pontok által kirajzolt függvény a normális eloszlás kumulált (összegzett)
valószínűségeit mutatja: eloszlásfüggvény. A háromszögek pontsora pedig a normális eloszlás
sűrűségfüggvényét jelöli. A legnagyobb a „sűrűség” a várható érték körül, itt van a függvénynek
maximuma.
A standard normális eloszlás u - F(u) függvényértékeit táblázat segítségével tudjuk használni.
Ennek használata nélkülözhetetlen (bár nem egyszerű)!
A teljes haranggörbe alatti területet egységnyinek véve,
x határok közé esik a mért értékek kb. 2/3-a (68,2%-a)
2x határok közé esik a mért értékek 95,5%-a
3x határok közé esik a mért értékek 99,7%-a.
- 9 -
Mintafeladat 2.
Gyakorlásképpen ellenőrizzük az F(u) táblázati adatok segítségével a ± 1σ; ± 2σ; ± 3σ
szórás intervallumokhoz tartozó f(u) sűrűség függvény alatti területeket.
Megoldás
Lássuk pl. a ± 2σ-t (pontosabban ± 1.96σ) ! A 95 %-os valószínűség jelölése α= 0,05; α/2=0,025;
1- α/2= 0,975; Ezt az értéket keressük a táblázatban. Az u-ra 1.96 adódik.
Tehát korábbi állításaink igaznak bizonyulnak, ± 1.96σ alatti sűrűségfüggvény a teljes görbe
alatti terület 95%-a.
Hasonlóképp kereshetjük ki ± 1σ és ± 3σ értékekhez tartozó görbe alatti területeket is.
- 10 -
2. Normális eloszlás, u-próba
A standard normális eloszlás (u-eloszlás), melynél μ=0 és
σ=1.
2
2
2
1)(
u
eyuf
ahol
xu
Az egymintás u-próba azt ellenőrzi, hogy a mintabeli
átlag szignifikánsan eltér-e a populáció átlagától (a
populációt normális eloszlásúnak feltételezve). A kérdés,
hogy x különbség a véletlen műve-e?
A próba lépései: 1.)
xu kiszámítása 2.) α-szignifikanciaszint megválasztása (egyoldali,
kétoldali?) 3.) kritu kikeresése táblázatból
4.) krituu ?
(Ha ismerjük a mérésszámot, akkor n
-el dolgozunk!)
Konfidencia intervallum (1-α): megbízhatóság, elfogadás (pl. 0,95 vagy százalékban: 95%);
Szignifikancia szint: kockázat, α-valószínűség, elutasítás (pl. 0,05 vagy százalékban: 5%)
A fentiek kicsit részletesebben
Tételezzük fel, hogy a meghatározandó értéket nagy pontossággal (sok méréssel) meghatároztuk.
Más szavakkal, ismerjük a várható értéket gyakorlatilag elhanyagolható szórással. A mérésnek
nincs szisztematikus hibája. Ez esetben a várható értéket azonosnak tekinthetjük a valódi
értékkel, jelöljük ezt μ-vel. Szeretnénk eldönteni, hogy erre az értékre mért középérték (Várható
érték) jelentősen tér-e el a μ-től.
A kérdésre a választ akkor kaphatjuk meg, ha x különbség abszolút értékét x szórásával
hasonlítjuk össze. Ha 3)( x vagy átrendezve 3)(
x.
Ez akkor fordul elő, ha x jelentősen („szignifikánsan”) eltér μ-től, hiszen véletlen okok miatt
ekkora eltérés 1000 eset közül csak háromszor fordulna elő, így inkább valami rendszeres hibára
következtethetünk.
Ha 2)(
x, az eltérés „gyanús”. Ha véletlennek tulajdonítanánk, az esetek 5%-ban lenne
igazunk. Ha 2)(
x, akkor az eltérés inkább jelentéktelennek tekinthető, a mérési módszer
szórásával magyarázható. Ha általánosságban a számok (3, 2) helyett u-t írunk, akkor a fenti
egyenlőtlenséget átrendezve uxux egyenlőtlenséget kapjuk, aminek kapcsán
jól értelmezhető mit jelent az xsu ”megbízhatóság”. u=1 esetén 68,3; u=2 esetén 95,5 illetve
u=3 esetén 99,7% valószínűséggel esik a mérési eredmény az egyenlőtlenséggel megadott
határok közé.
Kis számú mérési eredmény esetén nem ezeket a határértékeket kell figyelembe venni!
(Lásd t-próba).
- 11 -
Mintapélda 1.
Egy 70 mg/dm3 koncentrációjú oldat mérése során 2 mg/dm
3 szórást mértek ki. Normális
eloszlást feltételezve, a mérési eredmények hány %-a esik 71 és 73 mg/dm3 közé?
Megoldás
Először megkeressük az F(u) függvény értékeit az egyes u értékeknél.
5,02
707111
xu illetve 5,1
2
707322
xu
u=0,5-nél F(u)= 0,69146 illetve u=1,5-nél F(u)= 0,93319. F(u2)-F(u1)=0,2417, azaz 24,17% a
mérési eredmények esik a megadott intervallumba.
Mintafeladat 2.
Egy alkatrész névleges mérete: 40 mm, szórása 0,03 mm. Normális eloszlást feltételezve, a
minták mekkora hányada esik 40 ±0,05 intervallumba?
Megoldás
67,103,0
4095,3911
xu 67,1
03,0
4005,4022
xu
F(u1)= 0,00475 illetve F(u2)= 0,9525; F(u2)-F(u1)=0,9058 így 90,58%-a esik az adott
intervallumba.
- 12 -
3. Student eloszlás, t-próba
Ha egy normális eloszlású sokaságból vett minta
sok elemű (n > 120), akkor a mintából számított
standard deviáció jól becsüli az elméleti szórást,
-t. Ha azonban nem ez a helyzet, a kevesebb elemű
mintából becsült s (korrigált tapasztalati szórás)
esetén szélesebb konfidencia tartományt kell
megadnunk ahhoz, hogy biztonságunk
megmaradjon. A helyes összefüggéseket ezekben
az esetekben a normális eloszlás helyett a Student
eloszlás adja meg, amelynél a megbízhatósági
tartományok szélességét megadó t-szorzók a minta
elemszámától, pontosabban a minta szabadsági
fokától (ν=n-1) függenek (Student: W. S. Gosset
matematikus álneve).
A t-próbát akkor alkalmazzuk, ha viszonylag kevés mérési adatunk van, illetve a módszer
szórását nem ismerjük (azt a mérési adatsorból határozzuk meg). A kérdés többnyire úgy merül
fül, hogy a mérési eredmények középértéke a helyes értéktől jelentősen eltér-e vagy csak a
véletlennek tulajdonítható a tapasztalt eltérés.
Az u-próbához hasonlóan járunk el, vagyis az átlag és a várható érték különbségét hasonlítjuk a
középérték szórásához.
n
s
xt
. A kiszámolt t-értéket a Student-táblázatban található tkritikus értékhez hasonlítjuk. Ha
az általunk kiszámolt t a tkrit-nél kisebb, akkor csak a véletlen okozhatta a tapasztalt eltérést,
ellenkező esetben szignifikáns az eltérés.
A Student-táblázatban az első oszlop a szabadsági fokot adja meg (ν=n-1). A megfelelő
szabadsági fok sorában kell megkeresnünk azt a tkrit-értéket, melyet a választott megbízhatósági
szinthez rendelünk (pl. 95%-os megbízhatóság; egyes táblázatok ezt 0.05 szignifikancia
szintként jelölik).
Az előbbieket kicsit tudományosabban úgy fogalmazhatjuk meg, hogy a következő
nullhipotézisre keressük a választ.
H0 : x =μ; Ezzel szemben áll az ellenhipotézis, H1 : x ≠μ
A t-próba lépései hasonlóak a korábban megismert u-próbáéval. A tkrit értékeket táblázatból
kereshetjük ki.
Figyeljük meg az alábbi ábrát! A feladatok során egyoldali vagy kétoldali szignifikancia szinttel
kell dolgoznunk! Hogy melyikkel ez a probléma megfogalmazásától függ. Az 1. mintapélda
áttanulmányozása során
- 13 -
Mintapélda 1.
Egy gyógyszer hatóanyag tartalma nem lehet kevesebb, mint 99 mg (egyoldali!)
a.) Ítéljük meg, hogy teljesül-e az előírás 95%-os megbízhatósági szinten, ha mérési adatok a
következők: 98.0 97.3 98.2 mg (tételezzük föl a mérési adatok normális eloszlását).
b) Tételezzük föl, hogy a hatóanyag tartalom előírt értéke 99 mg. Teljesül-e ez 95%-os
megbízhatósági szinten (a mérési adatok ugyanazok)?
Megoldás
a.) Student-próbát végzünk
Átlag: 97.83
Korr. tapasztalati szórás: 0.473
28.43473.0
9983.97
/
0
ns
xt
Szabadsági fok.(ν)=n-1=2 α/2 = 5%, tehát α = 10%
Konfidencia szint 90% Student táblázatból → 2.920
),( kittt
4.28 > 2.92 Nem teljesül az előírás!
b.) 28.43473.0
9983.97
/
0
ns
xt
Szabadsági fok.(ν)=n-1=2 α = 5%
Konfidencia szint 95% Student táblázatból → 4.303
),( kittt
4.28< 4.303 Teljesül az előírás!!!!
Mintapélda 2.
Véletlenszerűen kiválasztott 10 db 1 kg-os kenyeret dekagrammos pontossággal mértünk le.
Feltételezhetjük-e, hogy a véletlen okozza az eltérést, vagy az adagoló rendszer hibája?
A mérés eredménye: 98 101 97 99 101 100 98 99 99 96
A minta elméleti várható értéke: 100 (dkg).
Megoldás
A nullhipotézis: = 100.0
x = 98,8 dkg s=1,62
- 14 -
n
s
xt
33,2
10
62,1
1008,98
t
A Student-táblázat értéke ν= 9 szabadsági foknál 95 % biztonsági szinten t = 2,262.
95%-os biztonsággal állíthatjuk, hogy szignifikáns az eltérés, nem a véletlen okozza ezt, az
adagoló rosszul van beállítva.
- 15 -
4. Kétmintás t-próba, páros t-próba
Két normális eloszlás összehasonlítása az átlagaik és a szórásaik összehasonlítását jelenti.
Feltételezi, hogy mindkét adathalmaz szórásnégyzete egyenlőnek tekinthető (statisztikailag).
Akkor használjuk, ha meg szeretnénk állapítani, hogy a két minta várható értéke egyenlő-e.
21
2121
nn
nn
s
xxt
d
2
11
21
2
22
2
112
nn
snsnsd
2
ds = súlyozott átlagszórás
Kétmintás t-próba: adott két normális eloszlású minta (a minta nagyságok nem feltétlenül
egyenlők). Ezeket kívánjuk statisztikailag összehasonlítani.
Kétmintás próbával ellenőrizhetjük pl. hogy két töltőgép azonos mennyiségeket tölt-e
palackokba.
Páros t-próba: Adott két összetartozó normális eloszlású minta. A páros t-próba esetén a fenti
képelt egyszerűsödik, hiszen n1=n2. Ha például két iskola tanulóinak testsúlyát szeretnénk
összehasonlítani, akkor csak nehezen képzelhető el a tanulók párokba rendezése (nem is beszélve
a létszám különbségről). Ugyanakkor egy fogyókúra hatékonyságát célszerű ugyanazon
személyek testsúly mérésével megoldani fogyókúra előtt és után. Ez tehát páros t-próba.
A t-próbák nem túl érzékenyek a normalitásra, vagyis az eredmények nem torzulnak sokat, ha az
eloszlások kissé eltérnek a normalitástól.
A fenti képlet csak akkor alkalmazható, ha a szórások azonossága feltételezhető. Ha nem, akkor
Welch-próbát alkalmazunk.
2
2
2
1
2
1
21
n
s
n
s
xxt
Mintafeladat 1.
Két laboratóriumban mérték egy acél titán-tartalmát atomabszorpciós módszerrel. A mért adatok
a következők:
I. laboratórium II. laboratórium
0.470 % 0.529 %
0.448 % 0.490 %
0.463 % 0.489%
0.449 % 0.521%
0.482 % 0.486%
0.454 % 0.502%
0.477 %
0.409 %
a.) Határozzuk meg az egyes laboratóriumok által mért átlagos titán-tartalmat és szórásokat!
b.) Ellenőrizzük, hogy a két laboratórium által mért titántartalom-különbség a véletlen műve-e,
vagy ekkora eltérést statisztikailag elfogadhatunk 95%-os megbízhatósági szinten (a két labor
mérési sorozatának szórásnégyzeteit azonosnak tekinthetjük)!
Megoldás
a.) I. laboratórium 1x 0.4565; s1=0.0229
II. laboratórium 2x 0.503; s2=0.0182
- 16 -
b.)
0211.0268
0182.0)16(0229.0)18( 22
ds
07.486
86
0211.0
503.04565.0
21
2121
nn
nn
s
xxt
d
Táblázat alapján tkrit =(1-0.05/2; 12)=2.18.
Mivel a tkrit<tszámított, a két labor közötti eltérés nem magyarázható csupán a véletlennel!
Mintafeladat 2.
Két tartályban ugyanazon anyag oldatai vannak. Az első tartályból 5 analízist végzünk. A mért
koncentráció átlaga 56.8 g/l; a tapasztalati szórás 2.3 g/l.
A második tartályból 7 elemzést végzünk. Az elemzések átlaga 58.0 g/l; a tapasztalati szórás 1.9
g/l (normális eloszlást feltételezünk).
a) Vizsgáljuk meg 1%-os szignifikancia szinten a következő feltételezést: az első tartályban 56.8
g/l, a másodikban 59.0 g/l koncentrációjú oldat van.
b) Vizsgáljuk meg 1%-os szignifikancia szinten hogy a két tartályban azonos koncentrációjú
oldat van.
Megoldás
n x s
a.) Feltételezés 56,8 g/l 5 56,8 2,3
Feltételezés 59,0 g/l 7 58,0 1,9
A második feltételezést kell vizsgálni csak (hisz az első tartályban az átlag megegyezik a
feltételezéssel); t-próba (Student-féle t-eloszlás)
39,179,1
5859
/
0
ns
xt
Szabadsági fok.(ν)=n-1=6 1-α = 99%
Szignifikancia szint (α) = 0,01 Táblázatból → 3,707
),( kittt
1,39 < 3,707 Elfogadható a feltételezés
b) Kétmintás t-próbát végzünk
Szabadsági fok 10275221 nn
;11
21
12
nns
xx
282,46*61,329,5
275
111
2
12
2
21
2
1
21
2
nsnsnn
S
s = 2,069
991,0
7
1
5
1069,2
8,5658
t
Szignifikancia szint 01,0 Táblázatból 169,3kritt
krittt Elfogadható a feltételezés.
- 17 -
5. F-próba
Két adathalmaz szórásának (szórás négyzetének) összehasonlítására szolgál. 2
2
2
1
s
sF . A
számlálóba mindig a nagyobb értéket írjuk. F<Fkrit ? Ha igen, feltételezhető a szórások
azonossága. A szórásnégyzeteket a statisztikába gyakran varianciának nevezik.
Az Fkrit értékeket táblázatból kereshetjük ki.
Mintafeladat
Egy analitikai eljárás szórásának csökkentésére módosítást vezettek be, ezt kell elbírálni. A
következő mérési eredményeket kapták (mg/dm3)
Az eredeti eljárás mérési eredményei A módosított mérési eljárás eredményei
5.655 5.615
5.660 5.534
5.695 5.677
5.709 5.513
5.646 5.450
Sikeresnek tekinthető-e a módosítás (95 %-os megbízhatósági szinten)?
Megoldás
Mivel az újítással a szórást szerették volna csökkenteni, a szórásokat kell összehasonlítani F-
próbával.
Az s1= 0.0274 s12=0.00075
s2= 0.08898 s22=0.00792
54.1000075.0
00792.02
1
2
2 s
sF
Táblázatból: Fkrit=6.39
F>Fkrit →A módosított eljárás szórása szignifikánsan nagyobb (nem csak a véletlen műve, hogy
nagyobb a módosított eljárás szóródása), nem sikeres a módosítás!
- 18 -
6. Egyenes illesztés, kalibrációs görbe, regresszió
Az analitikai kémiában igen gyakori az egyenes illesztés illetve kalibrációs görbe szerkesztése. A
spektrofotometriás, gázkromatográfiás stb. mérések során ugyanis a koncentráció – analitikai jel
összefüggése lineáris. Mérési pontjainkra akár vonalzóval, akár számítással úgy illesztünk
(többnyire) egyenest, hogy a pontoktól minél kisebb távolságra helyezkedjen el. Matematikailag
ezt a legkisebb négyzetek módszerével oldhatjuk meg. Lényege, hogy a négyzetösszeg
(területösszeg) minimális legyen.
2
ii mxcy minimum, ahol az egyenesünk egyenlete: y= mx + c. Az egyenes
egyenletében az c a tengelymetszet, a m a meredekség.
Az egyes mérési pontok illeszkedésének szorosságára vezették be a lineáris korrelációs
együtthatót.
22yyxx
yyxxR
ii
ii
A képlet működőképességét könnyű belátni. Ha a változók együtt mozogva térnek el az
átlagoktól, akkor a számláló (azaz az átlagoktól való eltérések szorzatának összege) nagy szám
lesz. Ha viszont egymástól függetlenül mozognak, akkor kicsi és nagy szorzótényezők egyaránt
adódnak, tehát a számláló kicsi lesz. A nevező (a négyzetes eltérések szorzata) normalizáló
szerepet játszik: kiküszöböli a változók nagyságrendjéből adódó eltéréseket, a korrelációs
együtthatókat összehasonlíthatóvá teszi. A tökéletes egyenesre illeszkedésnél az R értéke 1. Egy
kalibrációs görbe esetén már 0,99-nek is nagyon örülünk.
A regresszió szó az angol regression to the mean (visszatérés az átlaghoz) kifejezésből
származik. Eredetileg Francis Galtontól származik, aki apák és fiaik testmagasságát vizsgálta.
Tapasztalata az volt, hogy magasabb apa, magasabb fiú, vagyis egy elég természetes jelenség az
öröklődésben.
Mintapélda
Kalibrációs egyenest kell meghatározni „kézi”-módszerrel.
Az egyenes egyenlete: y= mx + c
2xx
yyxxm
i
ii yc -m x
y
Tengelymetszet
x
y = mx + c
Területek
összege
Meredekség
- 19 -
Mérési pontjaink a következők:
xi yi
0,0 0,3
1,0 2,2
2,0 3,0
3,0 4,0
Megoldás
Célszerű egy táblázatot készíteni a megadott minta alapján
i xi yi xxi 2xxi yyi 2yyi yyxx ii
1 0,0 0,3 -1,5 2,25 -2,075 4,305625 3,1125
2 1,0 2,2 -0,5 0,25 -0,175 0,030625 0,0875
3 2,0 3,0 0,5 0,25 0,625 0,390625 0,3125
4 3,0 4,0 1,5 2,25 1,625 2,640625 2,4375
Σ x 1,5 y 2,375 5 7,3675 5,95
19,1
5
95,52
xx
xxyym
i
ii yc -m x =0,59 y=1,19x+0,59
Természetesen az EXCEL-program segítségével ugyanezt sokkal gyorsabban is kiszámolhatjuk.
Az adatpárok beírása után a diagramvarázslóval kirajzoltatjuk a kalibrációs görbét. Trendvonal
felvétele és regresszió (R2). Minél jobban megközelíti a regresszió az 1 értéket, annál jobban
illeszkednek mért pontjaink az egyenesre.
- 20 -
Független változó
(xi)
Függő változó
(yi)
0,0 0,3
1,0 2,2
2,0 3,0
3,0 4,0
Egyenes illesztés y = 1.19x + 0.59
R2 = 0.961
0.0
1.0
2.0
3.0
4.0
5.0
0.0 1.0 2.0 3.0 4.0
független változó
füg
gő
vált
ozó
Gyakran előfordul, hogy két változó mennyiség közötti kapcsolatot vizsgálunk. A kapcsolat
szorosságát célszerű egy mérőszámmal jellemezni. Sok ilyen mérőszám létezik, ezek közül a
legelterjedtebb az ún. korrelációs együttható, vagy Pearson-féle korrelációs együttható. Az
együtthatót r-rel jelöljük, és a mérések közötti lineáris kapcsolat szorosságát méri.
Jelölje a két változóra vett mintát x1,x2,….xn, és y1,y2,..,yn
Ekkor a korrelációs együttható a következők alapján számolható:
N
i
i
N
i
i
i
N
i
i
yyxx
yyxx
r
1
2
1
2
1
)()(
)()(
Értéke -1 és +1 közötti lehet.
Az EXCEL a trendvonal felvételénél az R2 számolja ki (ez persze csak 0 és +1 közötti szám
lehet)
- 21 -
Reziduálisok
Az ún. reziduálisok (maradékok) arról adnak felvilágosítást, hogy a becsült egyenes és a
ténylegesen mért pontok között milyen eltérés (összefüggés) van.
Nézzük ezt táblázatosan és grafikusan is. (A „kalapos”-y az illesztett egyenes pontja).
xi yi cmxy ii ˆ ii yy ˆ 2ˆii yy
0 0,3 0,59 -0,29 0,0841
1,0 2,2 1,78 0,42 0,0004
2,0 3,0 2,97 0,03 0,0009
3,0 4,0 4,16 -0,16 0,0256
Σ 0,8679
Reziduálisok
-0.4
-0.3
-0.2
-0.1
0
0.1
0.2
0.3
0.4
0.5
0 1 2 3 4 5
Megfigyelés
Mara
dék
Adatsor1
A reziduálisok diagramja azt mutatja, hogy a maradékok véletlenszerűen helyezkednek el az x-
tengely két oldalán. Ha ez nem így lenne, gyanakodhatnánk, hogy az egyenes illesztés nem jó.
Ha a maradékok ábrázolása során a pontoknak valamilyen „menete” van, az illesztési hibára
utalhat.
A reziduálisokat is elővarázsolhatjuk az EXCEL segítségével (Eszközök/Adatelemzés/Regresszió
– Ezen belül Reziduálisok /Maradékok –ki kell pipálni). MARADÉK TÁBLA
Megfigyelés Becsült
Y Maradékok
1 0.59 -0.29
2 1.78 0.42
3 2.97 0.03
4 4.16 -0.16
A reziduálisok szórását (ez a statisztikai mérőszáma annak, hogy a mérési pontjaink mennyire
térnek el az illesztett egyenestől) az alábbi képlettel számolhatjuk ki.
2
ˆ)(
2
n
yyrs
ii
- 22 -
Leolvasás a kalibrációs görbéről, hibahatárok
A kalibrációs görbét többnyire arra használjuk, hogy egy ismeretlen minta „válaszjele” alapján
megmondjuk a vizsgált komponens koncentrációját. Ám a kalibrációs görbe köré – ha korrektek
akarunk lenni) egy ún. jóslási sávot kell rajzolnunk, melyen belül a kalibrációs görbe adott
valószínűséggel (pl. 95%) elhelyezkedik. Ez persze a leolvasott koncentrációra is hatással lesz.
Az x0 az alábbi képlettel számítható intervallumban lesz
22
2
011)(0
xxm
yy
nNm
rss
i
x
N az ismeretlen minta méréseinek ismétlési száma
n a kalibráló adatsor mintaszáma
m az illesztett görbe meredeksége
Mintapélda
Egy fotometriás mérés kalibrációs görbéjének adatai a következők.
A koncentrációk mg/dm3-ben értendők.
Koncentráció 2,56 5,12 8,19 10,24 12.80
Abszorbancia 0,320 0,591 0,920 1,135 1,396
Az ismeretlen mintára 0,871-es abszorbanciát mértünk. Határozzuk meg a kalibrációs egyenest
valamint az ismeretlen minta koncentrációját 95 %-os konfidencia intervallumával.
Megoldás
xi
yi
2xxi cmxy ii ˆ ii yy ˆ 2ˆii yy
2,56 0,320 27,2693 0,2322 -0,0022 4,84.10
-6
5,12 0,591 7,0862 0,5917 -0,0007 4,9.10
-7
Koncentráció mg/dm3
az x̂ 95%-os
megbízhatósági
intervalluma
Válaszjel
- 23 -
8,19 0,920 0,1665 0,9150 0,005 2,5.10
-5
10,24 1,135 6,0418 1,1309 0,0041 1,681.10
-5
12,80 1,396 25,1803 1,4004 -0,0044 1,936.10
-5
x y Σ 2xxi Σ 2ˆii yy
7,782 0,8722 65,7434 6,65.10
-5
0047,02-5
106,65)(
-5
rs
3
2
2
/0499,07439,651053,0
8722,0871,0
5
1
1
1
1053,0
0047,00
dmmgsx
Az egyenes egyenlete alapján (y=0,1053x+0,0526) az ismeretlen abszorbanciához tartozó
koncentráció: 3/77,71053,0
0526,0871,0dmmgxism
A Student táblázatból t(α,ν) =t(0.05,4) =2,776
Az ismeretlen minta tehát 7,77 ± 0,14 mg/dm3 koncentrációjú
- 24 -
7. Validálás
A validálás annak a dokumentált bizonyítása, hogy az adott eljárás (analitikai módszer) megfelel
az előre rögzített minőségi jellemzőknek és követelményeknek.
Egy analitikai módszer validálásakor tanulmányozzuk a módszer teljesítményjellemzőit és
igazoljuk, hogy a módszer alkalmas az adott analitikai feladatra.
Minden analitikai mérés célja, hogy helyes mérési eredményt kapjunk. Egy mérési eredmény
akkor helyes, ha torzítatlanul (pontosan) a valódi értéket mérjük, megfelelő precizitással. A
validálás során a fent említett két legfontosabb teljesítményjellemző vizsgálatát még néhány
továbbival is ki kell egészíteni.
Torzítatlanság (Accuracy)
Precizitás (Precision)
- Ismételhetőség (Repeability)
- Intermediate Precision
- Reprodukálhatóság
Szelektivitás/Specifikusság
Linearitás (Linearity)
Kimutatási határ (Detection limit)
Meghatározási határ (Determination limit)
Állóképesség/Zavartűrés (Robustness/Ruggedness)
(A gyakorlatban sokszor nehézséget okoz a precizitás és pontosság fogalmak közti
különbségtétel. A pontosság (torzítatlanság) arra vonatkozik, hogy az eredményeink a megfelelő
(valódi) érték körül szóródnak. Precíznek akkor nevezünk egy módszert, ha a mérési
eredmények szórása megfelel a támasztott követelményeknek.)
Az analitikai teljesítményjellemzők vizsgálata
Meghatározásuk megfelelő referencia anyagok segítségével történhet. A referencia anyag lehet:
CRM – Certified Reference Material,
Házi referencia anyag (CRM-mel összemért).
A továbbiakban titrálások validálásával kapcsolatos példákat találunk.
Például a titrálás validálásához olyan referencia anyagot válasszunk, mely:
jól definiált összetételű és nagy tisztaságú
nagy a moláris tömege (csökken a bemérés relatív hibája)
pontosan és jól bemérhető (pl. nem higroszkópos)
jól oldható és oldata stabil
reakciója a mérőoldattal gyors és sztöchiometrikusan megy végbe.
- 25 -
Szelektivitás/specifikusság:
Szelektív az a módszer, amely a vizsgálandó anyagot az egyéb jelenlevő komponensektől
elválasztva kvantitatívan képes mérni. Specifikus az a módszer, amely kizárólag az analizálandó
anyag mérési jelét értékeli, a többi jelenlevő komponens figyelembe vétele nélkül. A
szelektivitás kérdését általában a jól kidolgozott klasszikus analitikai irodalmak alapján
értékelhetjük.
A kimutatási határ a mért alkotónak az a legkisebb mennyisége, mely az adott módszerrel
megbízhatóan megkülönböztethető a vak mintától. Ez normális eloszlást feltételezve a vak minta
szórásának háromszorosa. Gyakorlatban 12-20 vakmintát mérünk, és ebből számoljuk a szórást,
illetve annak háromszorosát.
A meghatározási határ az a legkisebb koncentráció, amit még megbízhatóan meg tudunk
határozni. Praktikusabban fogalmazva az a határkoncentráció, mely a vakminta válaszjelétől a
szórás tízszeresével nagyobb.
Legtöbb titrálás esetén a meghatározási határ inkább akadémikus kérdés. Természetesen
kimérhető, ha a vizsgálati minta mennyiségét fokozatosan csökkentjük. Gyakorlatban a fent
említett definíciótól eltérően keressük azt a legkisebb mérhető anyagmennyiséget, amit
RSD<3.0% pontosan tudunk mérni (lásd a korábbi, pontosságnál meghatározott kritériumot). A
kimutatási határértéket többek között befolyásolja az alkalmazott büretta mérete és a mérőoldat
koncentrációja is.
Linearitás
A módszer linearitása azt jelzi, hogy a vizsgált tartományban lineáris összefüggés van a mért
analitikai jel (vagy annak matematikai traszformáltja) és a minta koncentrációja (vagy a
közvetlenül bemért tömeg) között.
Titrálások esetén pl. gyógyszerkönyvek általában azt adják meg követelményként, hogy a
meghatározandó alkotóra fogyott mérőoldat mennyisége az alkalmazott büretta térfogatának
70%-a körül legyen. Itt kell figyelembe venni a rendelkezésünkre álló minta mennyiségét, az
alkalmazni kívánt büretta térfogatát, és a szükséges mérőoldat koncentrációját (ne feledkezzünk
meg a molekula egyenérték tömegéről sem!). Ezeket kell a fenti kritériumnak megfelelően
összehangolni, és így kiszámolni a titrálandó anyag mennyiségét.
Ha ez megtörtént, a kiszámított bemérést tekintsük 100%-nak, és e körül, 50-130%-os bemérés
tartományban (ami megfelel a büretta térfogat 20-100% tartományának) kell elvégezni a
linearitás vizsgálatát 7-8 pontban, pontonként minimum 2 független bemérésből. (Ez azt
jelenti, hogy ha hígításra van szükség, a párhuzamosokhoz külön bemérésre, és ezekből külön-
külön hígításra van szükség.)
Az eredmények elemzését regresszió analízissel végezzük el, követelmény, hogy a maradékok
tendencia nélkül, azaz véletlenszerűen szóródjanak a nulla vonal körül, és a korrelációs
koefficiens (R) >0.99. (Lásd lent.)
Linearitás vizsgálat esetén bármely komolyabb statisztikai analízis előtt rajzoljuk fel a
koncentráció/bemért tömeg (x-tengely) – analitikai jel (mV, fogyás) (y-tengely) diagramot.
Ebből “szemre” is jól következtethetünk a linearitásra. Matematikai módszerekkel persze
pontosabb eredményre jutunk.
Egy egyenes egyenlete az y=mx+c egyenlettel írható le, ahol az c a tengelymetszetet jelöli, a m
egyenes meredeksége.
Egy egyszerű mintapéldán és az EXCEL program használatával nézzük az egyik legegyszerűbb
megoldást. Az Excel program behívása után gépeljük be az adatsort, majd indítsuk el a
diagramvarázslót (Diagramtípus: Pont(XY)). A görbe felvétele után az egyenesre vigyük a
- 26 -
kurzort és az egér bal gombjának segítségével, vegyük föl a “trendvonalat”. (Trendvonal felvétel:
lineáris; Egyebek: Egyenlet látszik a diagramon; R-négyzet érték látszik a diagramon)
Koncentráció Analitikai
jel
(mg/L) (mV)
2.56 32.0
5.12 59.1
8.19 92.0
10.24 113.5
12.80 139.6
y = 10.535x + 5.2578
R2 = 0.9999
0.0
50.0
100.0
150.0
0.00 5.00 10.00 15.00
Koncentráció (mg/L)
An
ali
tikai
jel
A fentiek alapján az egyenes egyenlete: y= 10.535x+5.2578 illetve R2= 0.9999.
Az R2 minél jobban megközelíti az 1-et, annál jobban illeszkedik az egyenes a mérési adatorra.
Ha R2 > 0.995 a titrálási módszerünk az adott tartományban lineárisnak tekinthető. A korrelációs
illetve determinációs együtthatóról részletesebben matematikai statisztika könyvekből
tájékozódhatunk (pl. Kemény-Deák: Kísérletek tervezése és értékelése; Műszaki Könyvkiadó,
2000)
A korrelációs együttható négyzete szigorúan véve nem a linearitást méri, hanem az
adatsorra illesztett függvény illeszkedésének jóságát. Természetesen mivel az illesztett
függvény (lineáris) egyenes, jelen esetben az R2 a linearitásra utal. (Egyes irodalmak az R
2-et
regressziós együtthatónak nevezik).
A linearitás vizsgálatot még alaposabban elvégezhetjük, ha az Excel program
Eszközök/Adatelemzés/Regresszió funkcióját választjuk és azon belül vizsgáljuk az ún.
Reziduálisokat (Maradékok). Például a reziduumokat a mérések sorrendjében ábrázolva azt is
ellenőrizhetjük, hogy a mérési hibáknak nincs-e egyirányú menete. Vagy ha a reziduumok
azonos szélességű sávban ingadoznak, a szórás állandóságára következtethetünk. Mindezekről
bővebben a fent említett könyvben találhatunk részleteket.
Megfigyelés Becsült Y Maradékok
1 32.22705 -0.22705 2 59.19625 -0.09625 3 91.53822 0.461784 4 113.1346 0.365354 5 140.1038 -0.50385
-0,6
-0,4
-0,2
0
0,2
0,4
0,6
0 2 4 6
Mérésszám
Mara
dék
Nézzük a linearitás vizsgálatát „x” alapanyag potenciometriás titrálással történő hatóanyag
tartalom meghatározási módszerének validálási példáján (büretta térfogata: 10 ml).
A linearitás bizonyításához a méréseket az X alapanyagból, a módszerben megadott bemérés
(melyet 100%-nak tekintünk) 30-130%-os tartományában, 8 pontban (30, 45, 60, 75, 90, 105,
120, 130%), pontonként 2 független bemérés randomizált mérésével végezzük.
- 27 -
Sorszám
Bemért minta
mennyisége (g)
Mérőoldat
fogyása (ml)
Regresszióból
számolt fogyás
Két fogyás
különbsége
(Maradék/Reziduális
)
1 0,17500 5,055 5,039264 0,015736
2 0,14039 4,045 4,047773 -0,00277
3 0,10500 3,030 3,033937 -0,00394
4 0,31241 8,958 8,975721 -0,01772
5 0,14016 4,032 4,041184 -0,00918
6 0,24534 7,067 7,054331 0,012669
7 0,17515 5,041 5,043561 -0,00256
8 0,28457 8,180 8,178174 0,001826
9 0,07021 2,032 2,037289 -0,00529
10 0,21045 6,059 6,054819 0,004181
11 0,31524 9,051 9,056794 -0,00579
12 0,10635 3,069 3,072611 -0,00361
13 0,21009 6,047 6,044506 0,002494
14 0,07069 2,053 2,05104 0,00196
15 0,29125 8,365 8,36954 -0,00454
16 0,24510 7,064 7,047456 0,016544
A regressziós egyenes ábrázolása: A reziduálisok ábrázolása:
0,000
1,000
2,000
3,000
4,000
5,000
6,000
7,000
8,000
9,000
10,000
0,00 0,05 0,10 0,15 0,20 0,25 0,30 0,35
Bemérés (g)
Mérő
old
at
fog
yása (
ml)
-0,02
-0,015
-0,01
-0,005
0
0,005
0,01
0,015
0,02
0,00 0,05 0,10 0,15 0,20 0,25 0,30 0,35
Bemérés (g)
Mara
déko
k
Az egyenes paraméterei Becsült érték: Konfidencia intervallum:
(P=95%)
Meredekség: 28,6475 28,5853 – 28,7098
Tengelymetszet: 0,0259 0,0129 – 0,0390
Korrelációs koefficiens: 0,9999
Regressziós egyenes egyenlete: y= 28,6475*x+0,0259
A reziduálisok véletlenszerűen, tendencia nélkül szóródnak a regressziós „0” vonal körül. A
módszer lineáris a mérési koncentráció 30-130 %-os tartományában.
Torzítatlanság
A torzítatlanság azt fejezi ki, hogy a mérési eredmény mennyire közelíti meg a valódi értéket. A
torzítatlanság vizsgálata deríthet fényt a mérés rendszeres hibájára (mely lehet additív, lineáris,
nem lineáris). A torzítatlanságot egyes irodalmak helyességnek is nevezik.
- 28 -
Gyakorlatban érdemes a linearitás vizsgálata során nyert adatok felhasználásával ellenőrizni ezt a
paramétert. Vizsgáljuk a bemért és a mérőoldat fogyásból számított anyagmennyiség
megegyezőségét.
Követelmény:
Korrelációs koefficiens (R) > 0,99.
Tengelymetszet konfidencia intervalluma tartalmazza a 0-t (additív hiba);
Meredekség konfidencia intervalluma tartalmazza az 1-t (lineárisan arányos hiba);
Reziduálisok véletlenszerűen, egyenletesen szóródjanak a „0” körül (nem lineárisan
arányos hiba);
Lineárisan
arányos hiba
eor
eorobs
b
bb
th
th )( *100
bobs: az egyenes meredeksége (ml/g)
btheor: meredekség elméleti értéke (ml/g)
rr
theorCM
Zb *1000
Z: sztöchiometriai faktor: 1
Műszeres:
<0,3%
Vizuális:
<0,5%
Additív hiba T
obs
V
a*100
aobs: az egyenes tengelymetszete (ml)
VT: a módszer várt titrálási térfogata (ml)
Műszeres:
<0,4%
Vizuális:
<0,6%
Véletlen hiba
TV
Vsdv )(*100
ahol 2
)(
n
SddVSdv
2)( iobsobsi mbaVSdd
n: mérések száma
Vi= a mintára fogyott mérőoldat korrigált
térfogata (ml)
mi= a bemért minta (g)
Műszeres:
<0,3%
Vizuális:
<0,5%
Additív hibát okozhat potenciometriás titrálás esetében a túl gyors titrálási sebesség, és a nem
megfelelő elektród, vizuális titrálás esetében, pedig a nem megfelelő indikátor.
Abban az esetben, ha nincs lineárisan arányos hiba és additív hiba, akkor az alábbi képlettel
számoljuk ki a „Practical Relative Error”-t (Relative Accuracy):
100*)(theor
theorobsobs
b
bb
V
a
Ennek a hibának a követelményeit az alábbi táblázat tartalmazza:
Titrálás típusa Ismételhetőség
(RSD)
Sav/bázis ±0,67
Nem vizes ±0,67
Redox ±1,0
Argentometriás ±1,0
Komplexometriás ±1,33
- 29 -
A linearitásnál ismertetett adatok alapján a torzítatlanság ellenőrzése a példánkon:
Sorszám mi Vkorrig. (Vi-aobs-bobs*mi)2
1 0,17500 5,042 0,000247639
2 0,14039 4,032 7,68647E-06
3 0,10500 3,017 1,54949E-05
4 0,31241 8,945 0,000314018
5 0,14016 4,019 8,4337E-05
6 0,24534 7,054 0,000160511
7 0,17515 5,028 6,55663E-06
8 0,28457 8,167 3,33674E-06
9 0,07021 2,019 2,79713E-05
10 0,21045 6,046 1,74858E-05
11 0,31524 9,038 3,35597E-05
12 0,10635 3,056 1,30359E-05
13 0,21009 6,034 6,22358E-06
14 0,07069 2,040 3,84314E-06
15 0,29125 8,352 2,06009E-05
16 0,24510 7,051 0,000273727
A regressziós egyenes ábrázolása:
0,0
1,0
2,0
3,0
4,0
5,0
6,0
7,0
8,0
9,0
10,0
0,00 0,05 0,10 0,15 0,20 0,25 0,30 0,35
Bemérés (g)
Ko
rrig
ált
fo
gyás
aobs: 0,012946 Sdd: 0,001236
bobs: 28,64753 Sdv(V): 0,009396
Lineárisan arányos
hiba eor
eorobs
b
bb
th
th )( *100 0,09% <0,3%
Additív hiba T
obs
V
a*100 0,18% <0,4%
Véletlen hiba TV
Vsdv )(*100 0,13% <0,3%
A mérés torzítatlan a névleges bemérés 30-130 %-os tartományában.
Pontosság
A vizsgált módszer pontossága a mérési eredmények középérték körüli szóródására jellemző és
az eljárás véletlen hibáját jelzi. Gyakorlatban három szinten szoktuk értékelni:
Ha olyan mérési sorozatból számítjuk a szórást, melyet ugyanazon a napon, ugyanabban a
laborban, ugyanazzal a módszerrel, ugyanazon műszeren, ugyanaz az analitikus végzett,
akkor ismételhetőségről beszélünk.
A ismételhetőség megítélésére tapasztalati szórást illetve RSD-t számítunk, általában 7
független, párhuzamos mérést alkalmazunk.
sx x
n
i
( )2
1
(%)100x
sRSD
- 30 -
A különböző titrálás típusok esetén más és más az elvárás:
Titrálás típusa Ismételhetőség
(RSD)
Sav/bázis <0,33
Nem vizes <0,33
Redox <0,5
Argentometriás <0,5
Komplexometriás <0,67
Intermediate precision-ról akkor beszélünk, ha csak egy paramétert változtatunk.
analitikusok közti ismételhetőség (ugyan azon napon, ugyan abból a sorozatból,
független bemérésekből, azonos műszeren, azonos módszerrel), abban az esetben, ha az
adott vizsgálatot több analitikus végezheti;
napok közti ismételhetőség (majdnem azonos az előbb ismertetettel, de egy analitikus
végzi, különböző napokon).
Ezekben az esetekben 3-3 független párhuzamos bemérésből dolgozunk, és az eredmények
jellemzésére a csoportok közti és a csoporton belüli szórást, valamint az összes (adott
típuson belüli) mérési eredmény RSD használjuk. Ezek után variancia- analízissel
ellenőrizzük a csoportok eredményeinek azonosságát. (Általában 95%-os
konfidenciaszinten.)
Ha a minta és az analitikai módszer azonos, de az eredményeket különböző laborokban
különböző személyek kapták, akkor a szórás a reprodukálhatóságot írja le. (Ennek olyan
módszerek esetében van értelme, amit több labor is használ! Pl.: gyógyszerkönyvbe kerülés
előtt.)
Állékonyság/zavartűrés Azt fejezi ki, hogy a módszer milyen mértékben tartja meg (az előírás szerinti, de kis mértékben
változó felhasználási körülmények között is) a megbízhatóságát. Ha például különböző
laboratóriumok ugyanazt a módszert alkalmazzák, a kísérleti paraméterek kis mértékben
különbözni fognak a felhasznált eszközök és laboratóriumi eltérések miatt. Emiatt szinte
elkerülhetetlenek apró eltérések, amiknek hatása lehet a módszer teljesítményére. A kísérleti
paraméterek azonban egy laboron belül is változhatnak (hőmérséklet, oldószer stb.)
A módszer zavartűrését úgy vizsgáljuk, hogy szándékosan változtatunk a módszer
paramétereiben és vizsgáljuk azok következményeit.
Sav-bázis titrálások esetén például feltétlenül érdemes vizsgálni a levegő (CO2) befolyásának
hatását nemcsak a módszerre, hanem ha pl. NaOH mérőoldatot használunk, annak
karbonátosodására.
Validálások során a fentinél még általánosabb az elkészített oldatok stabilitásának vizsgálata
(Állékonyság), vagy a titrálási sebesség megváltoztatásának (Zavartűrés) hatása.
Az oldatstabilitást legegyszerűbben úgy ellenőrizhetjük le, hogy a randomizált sorrendben
bemért anyagmennyiséget ismert időközökkel oldjuk be, miközben ezzel párhuzamosan
elkezdjük a titrálást is. Így az első mérés lesz a nulla időpont, az utolsó pedig megadja, hogy ez
idő alatt stabil-e, vagy sem az oldat. A mi példánkon bemutatva ezt:
- 31 -
Sorszám Eltelt idő
(perc)
Mért tartalom
(%) 1 0 100,49
2 12,5 100,17
3 22,25 100,22
4 29 99,86
5 37,75 100,01
6 45,5 100,28
7 52,25 100,12
8 61 100,09
9 67,75 100,30
10 75,5 100,20
11 83,25 99,99
12 90 100,22
13 97,75 100,17
14 105,5 100,66
15 112,25 100,01
16 119 100,33
Oldatstabilitás
99,00
99,50
100,00
100,50
101,00
101,50
102,00
0 20 40 60 80 100 120 140
Idő (min)
Ta
ratl
om
(%
)
A titrálási sebesség (vagy bármely befolyásoló paraméter pl. hőmérséklet) hatására 3 különböző
sebességnél végzünk 3-3 független, párhuzamos mérést, és ezek eredményeit hasonlítjuk össze a
csoportok közti, csoporton belüli szórásokkal, valamint variancia analízissel ellenőrizzük a
csoportok eredményeinek azonosságát. (Általában 95%-os konfidenciaszinten.)
- 32 -
Mintapélda
Egy szilárd (magnetit minta) vastartalmát elemezzük AAS módszerrel. Végezzük el a módszer
validálását (linearitás R2>0,98; torzítatlanság,precizitás, reprodukálhatóság, kimutatási-;
meghatározási határ). Rendelkezésre áll: 316,0 mg/dm3 koncentrációjú vas standard oldat (CRM)
Linearitás
c (mg/L) A (mért) A (szám) A(m)-A(sz)
0.00 0.000 0.0137 -0.0137 R2>0,98
0.50 0.066 0.0689 -0.0029
1.00 0.128 0.1241 0.0039
2.32 0.280 0.2698 0.0102
3.16 0.376 0.3626 0.0134
4.23 0.490 0.4807 0.0093
5.29 0.577 0.5977 -0.0207
Torzítatlanság (új mérési sorozat)
bemérés
c (mg/L) A (mért) c (szám) Meredekség 1
0.00 0.0131 -0.005 -0.005 tengelymetszet 0
0.50 0.0687 0.498 -0.002 R2>0,99
1.00 0.1226 0.986 -0.014
2.32 0.2700 2.322 0.002
3.16 0.3578 3.117 -0.043
4.23 0.4821 4.243 0.013
5.29 0.5846 5.171 -0.119
- 33 -
Precizitás
Ismételhetőség Krit: RSD< 1%
7 független bemérés (magnetit minta)
1. analitikus 2. analitikus
Minta Mért. konc Minta
Mért. konc
1. 3.926 1. 3.91
2. 3.916 2. 3.912
3. 3.929 3. 3.945
4. 3.936 4. 3.953
5. 3.941 5. 3.921
6. 3.910 6. 3.909
7. 3.921 7. 3.927
Átl. 3.926 Átl. 3.925
Szórás 0.011 Szórás 0.018
RSD (%) 0.28 RSD (%) 0.46
F-próba F= 2.68 páros t-próba > ismételhető!
F (krit) 4.28
s(d)= 0.0149
t= 0.126 t(krit) 95%, 12 =2.179
Reprodukálhatóság (a magnetit minta!)
A labor 3.999 mg/L (7 minta átlaga)
s(A) 0.0200
RSD (%) 0.50
B labor 3.927 mg/L (7 minta átlaga)
s(B) 0.0157
RSD (%) 0.40
F-próba F= 1.62 páros t-próba > nem reprodukálható!
F (krit) 4.28
s(d)= 0.01798
t= 7.49 t(krit) 95%, 12 =2.179
Kimutatási / Meghatározási határ
7 független minta (feltárósav keverék, hígítva)
Minta Mért. konc Minta
Mért. konc c(kimut)=ct+3*s
1. -0.005 1. 0.02 0.01997 mg/L
2. 0.002 2. 0.05
3. -0.001 3. -0.01 c(meghat)=ct+10*s
4. 0.002 4. 0.02 0.0618 mg/L
5. -0.004 5. -0.04
6. 0.012 6. 0.01 c(kimut)=ct+3*s
7. 0.007 7. 0.07 0.126 mg/L
Átl (ct) 0.001857 Átl (ct) 0.017143
Szórás (s) 0.006
Szórás (s) 0.0364 c(meghat)=ct+10*s
0.381 mg/L
- 34 -
8. Mérési bizonytalanság
A mérési bizonytalanság: "a mérési eredményhez társított azon paraméter, amely a mérendő
mennyiségnek ésszerűen tulajdonítható értékek szóródását jellemzi." Figyelembe veszi az összes
– mérés során felmerülő – mérési hibaforrásokat.
Térfogatmérő eszközök (gyártói tűrések)
Mérőlombik 100 cm3 A-jelű ±0,08 cm
3
Mérőlombik 100 cm3 B-jelű ±0,16 cm
3
Mérőlombik 250 cm3 A-jelű ±0,15 cm
3
Mérőlombik 250 cm3 B-jelű ±0,3 cm
3
Pipetta 25 cm3 A-jelű ±0,03 cm
3
Pipetta 25 cm3 B-jelű ±0,06 cm
3
Büretta 50 cm3 A-jelű ±0,05 cm
3
Büretta 50 cm3 B-jelű ±0,1 cm
3
Mintapélda 1.
Mennyi egy „B”-jelű 25 cm3-es pipetta kiterjesztett mérési bizonytalansága, mellyel 5
párhuzamos mérést végeztünk (gravimetriásan)? A mért (illetve az adott hőmérsékleten a
sűrűség segítségével számolt) térfogatok a következők:
25,02 24,99 25,03 25,02 24,96 cm3.
Megoldás
x 25,00 cm3; s= 0,029 cm
3
A B-jelű pipetta tűrése (táblázatból): ± 0,06 cm3 A tűrést szórás-jellegű adattá kell konvertálni.
A tűrés egyenletes eloszlású, ebből (külön magyarázat nélkül) 3 -mal való osztással kapunk
szórást (standard bizonytalanságot), vagyis 035,03
06,0 cm
3. A két szórás együttes ún.
kombinált mérési bizonytalansága a hibaterjedés törvénye alapján összegezhető 22 ba =
045,0035,0029,0 22 cm3.
95%-os megbízhatósági szinthez k=2-es szorzó tartozik. Így 95%-osmegbízhatósági szinten a
kiterjesztett mérési bizonytalanság: 2x0,045= 0,091 cm3.
A pipettánk (100 mérésből 95 esetben) 24,91 ill. 25,09 cm3 közötti folyadék mennyiséget adagol.
Mintapélda 2.
0,1 mol/dm3-es NaOH oldattal, titrálással határozzuk meg a sósav oldatunk koncentrációját. Az
NaOH mérőoldat cp-jét 99,5% tisztaságú KH-ftaláttal faktorozzuk (Bemérünk 5,105 g KH-
ftalátot 250 cm3-es mérőlombikba, ebből 25,0 cm
3-t kipipettázva, az NaOH fogyása: 25,15 cm
3).
Az ismeretlen sósavból is 25,0 cm3-eket titrálunk meg a már ismert cp-jú NaOH-val. A fogyások
átlaga: 25, 66 cm3.
Mennyi a mérési eljárásunk kiterjesztett mérési bizonytalansága (illetve a sósav-oldat
koncentrációja)?
Megoldás
Csak azonos mértékegységű mérési bizonytalanságok összegezhetők. Itt célszerű relatív standard
bizonytalanságokra áttérni. A %-ok már összegezhetők a hibaterjedés törvénye szerint.
Táblázatosan az egyes (figyelembe veendő) mérési bizonytalanságok az alábbiak:
- 35 -
A mérési
bizonytalanság
forrása
Érték
Mérési
bizonytalanság
Relatív m.
bizonytalanság (%)
KH-ftalát tisztasága 99,5% 0,14%* 0,14 %
KH-ftalát tömege 5,105 g 0,0016 g** 0,031 %
KH-ftalát oldat
térfogata
250 cm3 0,18 cm
3*** 0,072 %
A cp-hez használt
KH-ftalát térfogata
25,0 cm3 0,042 cm
3 0,17 %
Az NaOH cp-kor
leolvasott térfogat
25,15 cm3 0,12 cm
3**** 0,48 %
Titrált HCl-oldat 25,0 cm3 0,042 cm
3 0,17 %
A HCl-oldatra fogyott
NaOH térfogata
25,66 cm3 0,12 cm
3 0,46 %
%73,046,017,048,017,0072,0031,014,0 2222222
95%-os megbízhatósági szinten k=2 >> 2x 0,87%= 1,56 %. Ez azt jelenti, hogy a 0,1 mol/dm3-
es oldat kiterjesztett mérési bizonytalansága 0,00156 mol/dm3.
A fenti adatokkal a HCl-oldat koncentrációja kiterjesztett mérési bizonytalansággal:
0,102 ±0,0015 mol/dm3
* A titer-alapanyag tisztaságának mérési bizonytalanságát a következő képlettel számoljuk:
%14,032
5,99100
32
%100
tisztaság
** A mérleg kalibráció bizonyítványa alapján szórás 0,0015 g
precizitás (0,5x utolsó digit) 0,0005 g
leolvasási pontosság(0,5x utolsó digit/ 3 ) 0,0003 g >>0,0016 g
*** B-jelű 250 cm3-es mérőlombik st. bizonytalanság 0,3/ 3 = 0,173 cm
3
jelre töltés pontosság (korábbi mérés) 0,05 cm3
**** B-jelű büretta (50 cm3) tűrése 0,1 cm
3
Szórása: 0,1/ 3 =0,058
Leolvashatóság: Két osztásköz/2. 3 =0,1/2
. 3 =0,029
Végpont meghatározás pontossága (becslés): 0,1 cm3
A komb. mérési bizonytalanság: 12,01,0029,0058,0 222
A sósav koncentráció:
102,00,2515,2525022,204
100066,250,25105,5
mol/dm
3
- 36 -
9. Kiegészítések
Bár eddig csak a normális (Gauss) eloszlással foglalkoztunk, de fontos megjegyezni, hogy
nemcsak ez az eloszlásfajta létezik, bár tény, hogy ez a leggyakoribb.
9.1.1 Egyenletes eloszlás
Képzeljük el a következőt: egy szabályos kockával dobunk. Egyformán 1/6 a gyakorisága annak,
hogy a dobás eredménye 1-2-3...illetve 6, vagyis bármely szám (1 és 6 között) egyenletesen kell
eloszlani. Folytonos változóra áttérve pl. valós számok egészre kerekítésénél ugyanez a helyzet.
Az analitikai gyakorlatban minden digitálisan kijelzett érték utolsó helyi-értéke ilyen kerekített
értéknek tekinthető, tehát az utolsó digit egyenletes eloszlásúnak tekinthető. Az egyenletes
eloszlás várható értéke (x±a tartományban): (a+a)/2; szórása:
334
4
12
2 22aaa
9.1.2 Háromszög (Simpson) eloszlás
Ha két teljesen egyforma kockát feldobunk, akkor milyen lesz a dobott számok összegének
eloszlása? A tizenegy lehetőség már nem egyforma gyakran fordul elő, a 7-es várható
leggyakrabban, míg a 2-es és a 12-es legkevésbé. Ez egy tipikus háromszög eloszlás.
Ennek az eloszlásnak a szórása (x±a tartományban): 6
a.
Mérőlombikok, büretták tűrését pl. 100 cm3±0,08 cm
3 szokás egyenletes eloszlással, de még
célszerűbb háromszög eloszlással becsülni. Vagyis szórássá alakítása 6 -al való osztással
számolható: u= 0,08/ 6 = 0,033 cm3, de nem hiba az u= 0,08/ 3 = 0,046 cm
3 számítási módszer
sem!
a) Egyenletes eloszlás b) Háromszög eloszlás Az ábrán a sötétebb sávok a ±σ tartományt jeltik
9.1.3 Exponenciális eloszlás
Ilyen típusú eloszlás véletlen hosszúságú időtartamok eloszlásaként lép fel. Pl. radioaktív
bomlás.
9.1.4 Binomiális eloszlás akkor használható, ha a vett minta eleme kétféle lehet (pénzérme
feldobása)
9.1.5 Poisson eloszlás – ritka események modellezésre használható (pl. üzemi balesetek).
A két utolsó eloszlás ún. diszkrét eloszlás.
- 37 -
9.2 Varianciaanalízis
A variancia analízis a matematikai statisztikai eljárások között kiemelkedő jelentőséggel bír.
Nemcsak egy egyszerű hipotézisvizsgálat, hanem bonyolult gyakorlati problémák (pl.
kísérlettervezés) elemzésére, értékelésére használható módszer.
A variancia analízis eredményeinek összefoglalására gyakran alkalmazzák az ún. szórásfelbontó
táblázatot, amit az angol szakkifejezés rövidítéséből ANOVA táblának szokás nevezni.
Ilyen típusú probléma lehet pl. ha egy betongyárba 4 cementgyárból vásárolnak cementet. A
cement minőségét próbakockák nyomószilárdsági adatainak összevetésével ellenőrzik.
Eldöntendő, hogy van-e különbség a beszállítók között.
A varianciaanalízisről részletesebben szakkönyvekből tájékozódhatunk.
9.3 Kiugró értékek kezelése (Dixon-teszt)
A Dixon-féle Q-teszt során a Q=köz/terjedelem mennyiséget számoljuk ki és egy táblázatból vett
Qkrit értékkel hasonlítjuk össze. Ha Q>Q krit, akkor a gyanús, kiugró adat elhagyható (terjedelem:
a legnagyobb és legkisebb elem közötti különbség, a köz a gyanús és a legközelebbi szomszédja
közötti különbség).
- 38 -
- 39 -
Példatár
- 40 -
Hisztogram, a normális eloszlás sűrűség függvénye
► 1/1. feladat
Egy oldat ismételt spektrofotometriás mérései során az alábbi abszorbancia értékeket mértük.
Mérésszám Mért érték (A) Mérésszám Mért érték (A)
1 0.3410 9 0.3430
2 0.3350 10 0.3420
3 0.3470 11 0.3560
4 0.3590 12 0.3500
5 0.3530 13 0.3630
6 0.3460 14 0.3530
7 0.3470 15 0.3480
8 0.3460
Az egyes méréseket a könnyebb áttekinthetőség érdekében besoroljuk 12 osztályba, kiszámolva
az egyes osztályokban való előfordulásuk gyakoriságát illetve relatív gyakoriságát, majd ezt
ábrázoljuk egy ún. hisztogramm segítségével.
Osztályköz Gyakoriság Rel. gyakoriság (%)
0.3300 – 0.3333
0.3333 – 0.3367
0.3367 – 0.3400
0.3400 – 0.3433
0.3433 – 0.3467
0.3467 – 0.3500
0.3500 – 0.3533
0.3533 – 0.3567
0.3567 – 0.3600
0.3600 – 0.3633
0.3633 – 0.3667
0.3667 – 0.3700
► 1/2. feladat
50 hallgató vizsgatesztjének eredménye (pontokban megadva)
63 57 63 69 53 63 79 68 51 61
72 57 71 65 67 64 51 58 64 52
58 66 63 64 65 58 64 67 57 70
69 57 65 64 86 58 66 84 70 59
76 64 71 75 79 59 67 66 65 51
Alkalmas osztályszélesség megválasztásával készítsük el az adatok gyakorisági eloszlását,
tapasztalati eloszlásfüggvényét!
- 41 -
► 1/3. feladat
Egy présgépen d=24 mm átmérőjű korongokat kell gyártani. A korongok a véletlenszerű fizikai
hatások következtében eltérőek lehetnek. Az elkészült korongok közül 35 mintát lemértünk és
23,80 és 24,20 mm közötti értékeket kaptunk. 0,08 mm-es osztályközöket képezve
csoportosítottuk az eredményeket.
Osztályköz Gyakoriság rel. gyakoriság Σ rel.gyakoriság
1 23,80-23,88 2 2/35 2/35
2 23,88-23,96 7 7/35 9/35
3 23,96-24,04 15 15/35 24/35
4 24,04-24,12 8 8/35 32/35
5 24,12-24,20 3 3/35 35/35
n=35
Ábrázoljuk az osztályközök függvényében a gyakoriságot, relatív gyakoriságot ill. a
Σ relatív gyakoriságot !
►1/4. feladat
Gyógyszergyárban drazsírozáskor a magra porlasztásos módszerrel cukorbevonatot hordanak fel.
Fontos paraméter a réteg vastagsága, mert az a biológiai hasznosítást jelentősen befolyásolja. Az
előírás 100±30 mikron. A folyamat ellenőrzésére 25 elemű mintát vizsgáltak.
Az adatok a táblázatban találhatók mikronban megadva.
74 93 116 108 97
91 78 116 96 127
99 95 92 148 121
112 99 74 100 119
84 120 108 131 99
Készítsen relatív gyakorisági hisztogramot az adatok felhasználásával!
Töltse ki a következő táblázatot!
Osztály Gyakoriság
Határ Közép Abszolút Relatív%
65 – 75
75 - 85
85 - 95
95 - 105
105 - 115
- 42 -
115 - 125
125 - 135
135 - 145
145 - 155
► 1/5. feladat
16 párhuzamos mérési adatunk van, melynek értékei az alábbi táblázatban láthatók.
Mérés-
szám
Mért érték
(mg/dm3)
Mérés-
szám
Mért érték
(mg/dm3)
1. 3.41 9. 3.46
2. 3.35 10. 3.43
3. 3.47 11. 3.42
4. 3.59 12. 3.48
5. 3.37 13. 3.56
6. 3.53 14. 3.50
7. 3.46 15. 3.63
8. 3.47 16. 3.53
Készítsünk a fenti adatokból hisztogrammot (javasolt 10-12 osztály)!
► 1/6. feladat
Gyógyszertablettázó gép 200±10 mg tömegű tablettákat készít. A folyamat ellenőrzésére 25
elemű mintát vesznek. A minta adatai mg-ban
193,6 201,5 197,3 201 199,2
203 202,6 191,8 205,5 199,6
193,5 208,1 189,3 200,3 200,7
191,2 203,8 197,3 200 198,6
195,3 202,8 203,1 196,5 196,1
Egészítse ki az alábbi mondatot!
A hisztogramon a vízszintes tengelyen az ………………………., a függőleges tengelyen a
…………………………. Ábrázoljuk. Az oszlop magassága arányos a …………………… az
osztályba tartozó adatok számával.
Készítsen gyakorisági hisztogramot az adatok felhasználásával! Töltse ki a következő
táblázatot!
Osztály Gyakoriság Kumulált gyakoriság
Határ Közép Abszolút Relatív% Abszolút Relatív%
189-191
- 43 -
► 1/7. feladat
Rajzoltassuk meg az EXCEL táblázatkezelő program segítségével a normális eloszlás
sűrűségfüggvényét -5 és +5 értéktartományban (0.1 osztásközzel).
► 1/8. feladat
Egy üvegtöltő automata minden nap 2400 üveget tölt meg (a beállított töltőtömeg: μ=524.0 g).
Korábbi mérések alapján a szórás σ=0.7 g. A minőség-ellenőrzési osztály által megadott tűrés az
524,0-tól lefelé és fölfelé egyaránt 1.4 g.
a.) Hány darab selejtes üveg várható egy napon?
b.) Mennyire kellene a tűrésmezőt bővíteni, hogy a selejtesnek minősített üvegek száma 7 alá
csökkenjen (naponta)?
► 1/9. feladat
Gyakorlásképpen ellenőrizzük az F(u) táblázati adatok segítségével a ± 1σ; ± 2σ; ± 3σ
szórás intervallumokhoz tartozó f(u) sűrűség függvény alatti területeket (Ne feledjük, az
eloszlásfüggvényt nagy F-el, a sűrűség függvényt kis f-el jelöljük).
►1/10. feladat
A normális eloszlás sűrűségfüggvénye alatti terület 90%-a milyen szimmetrikus intervallumot
jelöl ki (u= ±?)?
- 44 -
Átlag, medián, szórás, RSD, terjedelem
► 2/1. feladat
NaOH-oldat pontos koncentrációját határozzuk meg KH-ftalátra. Bemérünk 4.8327 g KH-
ftalátot 250 cm3-es mérőlombikba. Ebből 25 cm
3-eket titrálunk. A három párhuzamos mérés
(NaOH fogyás) adatai: 21,23; 21,29; 21,19 cm3. Mennyi az NaOH- oldat pontos koncentrációja
(átlag), szórása (korrigált tapasztalati szórás) és RSD-je?
► 2/2. feladat
Egy ismeretlen koncentrációjú (egyértékű) sav 25 cm3-eit az előbbi példában használt NaOH-val
titrálunk. Fogyások rendre: 18,36; 18,29; 18,41 cm3.
Mennyi a sav pontos koncentrációja (átlag), a koncentráció (átlagának!) szórása és RSD-je?
► 2/3. feladat
Ellenőrző laboratóriumban egy szennyvíz pH-ját mérik. A mérési eredmények a következők: 5,8;
6,1; 5,9; 6,3; 5,7; 6,2; 6,4; 6,4; 6,0; 5,5. A mérési eredmények alapján mekkora a szennyvíz pH-
jának (a) várható értéke, (b) korrigált tapasztalati szórása, (c) relatív standard deviációja (RSD)?
►2/4. feladat
Egy laboratóriumban fenol-tartalmat határoznak meg szennyvízből. A mért értékek: 0,2534;
0,2511; 0,2133; 0,2476; 0,2581; 0,2493 mg/l. Mennyi a fenol-tatalom várható értéke, szórása,
RSD-je?
►2/5. feladat
Számítsuk ki az átlagot, a mediánt, a szórást, az átlag szórását és a relatív szórást a következő
mintából. A minta elemei: 5, 7, 0, 3, -1, 2, -2, 4, 0
► 2/6. feladat
Egy gyárban két palacktöltő automata működését ellenőrizték. Az 1,0 dm3 és 5,0 dm
3 űrtartalmú
palackokból 10–10 elemű mintát vettek és mérték a mintaelemek tömegét. A kapott adatokat a
táblázat tartalmazza (kg/palack)
- 45 -
I. 0,95 0,95 0,96 0,95 0,94 0,96 0,95 0,96 0,94 0,94
II. 4,75 4,76 4,76 4,77 4,76 4,78 4,76 4,75 4,76 4,75
Adja meg a két adatsor statisztikai mutatóit a következő táblázatban!
Medián x SD RSD%
I.
II.
► 2/7. feladat
Készítendő 1 liter 0,2 mol/dm
3 névleges koncentrációjú mérőoldat cc. HCl-ből (37 m/m%;
sűrűsége: 1,18 g/cm3).
a.) Mennyi tömény HCl-t mérjek be?
b.) KHCO3-al határozom meg a HCl-oldat pontos koncentrációját. Az 5 párhuzamos
bemérés adatai a következők (MKHCO3= 100,12)
mKHCO3 (g) HCl fogyás (cm3)
0,4112 20,7
0,4050 20,3
0,4107 20,4
0,4092 20,3
0,4066 20,2
Mennyi a HCl-oldat pontos koncentrációja? Mennyi a korr. tapasztalati szórás és RSD?
► 2/8. feladat
Bemérek 5,5678 g vas(II) tartalmú anyagot 250 cm3-es mérőlombikba, 25 cm3-eket megtitrálok
c= 0,01911 mol/dm3-es KMnO4 mérőoldattal. A fogyások rendre: 18,00; 18,5; 18,4; 18,4; 18,1
cm3. Hány % a minta vas tartalma? Mennyi a korrigált tapasztalati szórás és RSD?
Megoldás
- 46 -
Mérési eredmények megadása
► 3/1. feladat
Feladatunk egy 0,5 mol/dm3 névleges koncentrációjú vas-oldat ellenőrzése. A vizsgálat során a
következő eredményeket kaptuk: 0,48; 0,47; 0,51; 0,49; 0,52; 0,50 mg/dm3. Adjuk meg mérési
eredményeink alapján a minta koncentrációját szabályos formában!
►3/2. feladat
Azonos mintán végeztünk méréseket. Eredményeink a következők:
106,0 108,5 109,0 112,0 109,5 110,5 108,5
Adjuk meg az eredményt 95%-os megbízhatósági szinten!
► 3/3. feladat
10 mérési eredményünk a következő:
24,46 23,93 25,79 25,17 23,82 25,39 26,54 23,85 24,19 25,50
Milyen intervallumban van a valódi érték 95%-os valószínűséggel?
► 3/4. feladat
Az iskola 4. osztályos tanulóinak magasságát kell megbecsülni 10 véletlenszerűen kiválasztott
tanuló magassága alapján. 95%-os megbízhatósági szinten milyen intervallumot adjunk meg.
► 3/5. feladat
Véralkohol mérés eredményei a következők: 0,084% 0,089% 0,079%.
95%-os megbízhatósági szinten adjuk meg a véralkohol szint átlagát!
- 47 -
Kiugró adatok kezelése, Dixon-próba
► 4/1. feladat
Egy mészkő minta CaO tartalmát vizsgálva a következő eredményeket kaptuk:
55,95 56,00 56,04 56,08 56,23 %. Az utolsó adat kiugró adatnak számít-e, vagyis
elhagyhatjuk vagy nem (90%-os megbízhatósági szinten)?
► 4/2. feladat
Egy urán izotóp tömegspektroszkópiás meghatározása során a következő nyolc intenzitás adat
született:
199,31 199,53 200,82 201,92 201,18 245,57. Az utolsó adat gyanúsnak tűnik. Elhagyható-e,
azaz kiugró értéknek számít-e 95%-os megbízhatósági szinten?
► 4/3. feladat
Fenol meghatározás HPLC-vel a következő adatokat szolgáltatta:
0,167 0,177 0,181 0,182 0,183 0,181 0,186 0,187 0,189 µg/dm3. Az első adat gyanúsnak
tűnhet. 90%-os megbízhatósági szinten elhagyhatjuk-e?
- 48 -
Normális eloszlás, u-próba
►5/1. feladat
Férfiak magasságát mérték. Nagy számú minta alapján (n>200) a μ= 174, σ= 9,6 cm. Hány %-a
lesz a férfi lakosság 180 cm fölött?
►5/2. feladat
Egy 70 mg/dm3 koncentrációjú oldat mérése során 2 mg/dm
3 szórást mértek ki. Normális
eloszlást feltételezve, a mérési eredmények hány %-a esik 71 és 73 mg/dm3 közé?
►5/3. feladat
Egy alkatrész névleges mérete: 40 mm, szórása 0,03 mm. Normális eloszlást feltételezve, a
minták mekkora hányada esik 40 ±0,05 intervallumba?
►5/4. feladat
Egy gép 0,75 cm átmérőjű korongokat készít 0,06 cm-es szórással. Hány %-os hibával dolgozik
a gép, ha 0,6 cm-nél kisebb és 0,84 cm-nél nagyobb korong hibásnak minősül?
► 5/5. feladat
Egy hajóra szerelt kotrógép egy adott időszakban 5000 kanál kavicsot emel ki. Egy kanál átlagos
töltési súlya 100 mérlegelés alapján 705 kg. Legyen a töltési súly normális eloszlású, 50 kg
szórással. Határozzuk meg a 90, 95 és 99%-os megbízhatósági szintnek megfelelő
intervallumokat a töltési súly várható értékére vonatkozólag!
►5/6. feladat
Egy vegyület hidrogén-tartalmának meghatározására végeztünk méréseket. 12 mérésből az
átlagot 3,25 %-nak kaptuk, a szórás 0,3 %. Számítsuk ki a várható értékre vonatkozó 95 %-os
megbízhatósági szintnek megfelelő intervallumot!
- 49 -
► 5/7. feladat
Egy szerves vegyület oxigéntartalmának vizsgálatához 16 mérést végeztünk, mely alapján 2,75
%-os átlagot kaptunk, a szórás: 0,28%. Számítsuk ki a várhatóértéknek 96 %-os szintnek
megfelelő konfidencia intervallumot (normális eloszlás). (Eredmény: 2,61 és 2,89)
►5/8. feladat
Egy normális eloszlás várható értéke 2,5; szórása 1,2. Hány %-a esik a mért értékeknek 1 és 3
közé?
►5/9. feladat
Egy normális eloszlású változó várható értéke 5; A 4-6 intervallumban a felvett valószínűségi
érték 0,55. Mennyi a szórás?
► 5/9a. feladat
Egy tanfolyamra 100 hallgató iratkozik be, de tapasztalat alapján 60%-os valószínűséggel
látogatják az órákat (szórás=5). Hány fős tanterem kell, ha azt szeretnék, hogy 90%-os
biztonsággal elférjenek a hallgatók?
►5/10. feladat
Egy záróvizsgán az elért pontok átlaga 72, szórása 9. A hallgatók legjobb 10 %-a kap ötöst.
Várhatóan hány pontot kell elérni a hallgatóknak, ha ötöst szeretetnének?
► 5/11. feladat
Egy normális eloszlású változó 0,1 valószínűséggel vesz föl 10,2-nél kisebb értékeket és 0,25
valószínűséggel 13,6-nél nagyobbat. Mennyi a μ és a σ?
►5/12. feladat
Egy egyetemi dolgozatban 10 kérdést tesznek föl. Elérhető pontszám: 10. Az egyetemisták
pontátalag: 6,7; szórás: 1,2.
a.) A diákok hány %-a ért el 5,5 és 6,5 közötti pontokat?
- 50 -
b.) Az alsó 10% maximális pontszáma.
► 5/13. feladat
Egy faüzemben készített deszkák hossza normális eloszlású, várható értéke 400 cm, 3 cm-es
szórással. Egy deszka selejtes, ha hossza 395 cm-nél rövidebb vagy 405 cm-nél hosszabb. a.)
Milyen selejt %-al dolgozik az üzem? b.) Hogy kellene módosítani a tűréshatárt, hogy a selejt-%
0,2 alatt legyen?
► 5/14. feladat
Egy csokoládégyár 14 dkg-os csokoládé szeleteket gyárt. Szórás: 2,0 dkg. A véletlenszerűen
kiválasztott 25 db-os minta átlaga: 14,8 dkg-nak adódott. Feltételezhető-e az eltérés
véletlenszerűsége? (u=2,0; u(kr) 95%-os szint=1,96; u>u(kr), szignifikáns az eltérés!)
► 5/15. feladat
Egy tengely rossz, ha a hossza a névlegestől 10 mm-el jobban eltér. Az ilyen tengelyeket a vevő
reklamációjára kicserélik. Milyen valószínűséggel várhatók reklamációk, ha egy nagy
mennyiségű tétel paraméterei: m= 350 mm; σ= 4 mm. A hossz normális eloszlásúnak tekinthető.
► 5/16. feladat
Adott egy gép, amely 80 mm hosszúságú huzalokat vág le. A gép „tévedése” szórása 2 mm.
Mintavételezés eredménye n = 30 adatból x 78 mm. A minta eltér a várható értéktől. A
nullhipotézis = 80 mm. Feltételezhetjük-e, hogy az eltérés nem jelentős, azaz a véletlen
okozza?
►5/17. feladat
Ásványvíz összes oldott ásványianyag-tartalmára előírt koncentrációtartomány 550±50 mg/l.
Vezetésméréssel ellenőrzik az összes ásványianyag-tartalmat. Az előírt koncentráció-
tartománynak megfelelő vezetés-intervallum 500–600 μS/cm.
Nagyszámú méréssel megállapított átlag-vezetés 543 μS/cm, a szórás 21 μS/cm.
Egészítse ki a következő mondatot és válaszoljon az alábbi kérdésekre!
a.) Az eloszlásfüggvény megadja, hogy a ξ folytonos valószínűségi változó mekkora
valószínűséggel vesz fel egy adott x-nél ………………………………….….
b.) Értelmezze a következő jelölést: N(μ, σ)
c.) Jellemezze a standard normális eloszlást!
d.) Írja fel x változó illetve x középérték standardizálásának képletét!
- 51 -
e.) Milyen eloszlással jellemezhető a standardizált valószínűségi változó, amennyiben nem
ismerjük a sokaság szórását?
f.) Határozza meg, hogy a palackok hány százalékának ásványianyag-tartalma felel meg az
előírásnak!
►5/18. feladat
500 ml-es üdítőitalos üvegeket töltünk. Korábbi mérések alapján a töltőgép szórása 1 ml.
Hány %-a lesz az üvegeknek 498 ml-nél kevesebbre töltve? µ=500 ml σ=1 ml
►5/19. feladat
Egy töltő automata 80 ml-nyi gyógyszert tölt kis üvegekbe, 2 ml-es szórással. Egy
mintavételezés eredménye 30 mintából x 78 ml. Feltételezhetjük-e (95%-os megbízhatósági
szinten), hogy az eltérés nem jelentős, azaz véletlenszerű?
- 52 -
t-próba
► 6/1. feladat
Véletlenszerűen kiválasztott 10 db 1 kg-os kenyeret dekagrammos pontossággal mértünk le.
Feltételezhetjük-e, hogy a véletlen okozza az eltérést, vagy az adagoló rendszer hibája?
A mérés eredménye: 98 101 97 99 101 100 98 99 99 96
► 6/2. feladat
Egy gyógyszer hatóanyag tartalma nem lehet kevesebb mint 99%.
a.) Ítéljük meg, hogy teljesül-e az előírás 5%-os kockázati-szinten, ha mérési adatok a
következők: 98,0 97,3 97,5 (tételezzük föl a mérési adatok normális eloszlását).
b) Tételezzük föl, hogy a hatóanyag tartalom előírt értéke pontosan 99% (se több, se kevesebb).
Teljesül-e ez 95%-os megbízhatósági szinten? (a mérési adatok ugyanazok)?
► 6/3. feladat
Egy szennyvíz fenol-tartalmát mértük. Három párhuzamos eredményünk van, melyből x 0,513
μg/dm3; s=0,05 μg/dm
3. El kell dönteni 95 %-os megbízhatósági szinten, hogy ez a mért érték
szignifikánsan eltér-e a 0,520 μg/dm3 határértéktől.
► 6/4. feladat
Egy cég 16 ml-es üvegekben árul gyógyszert. Az üvegeket automata tölti. Ha nem tölt pontosan,
akkor le kell állítani a töltő automatát. Egy ellenőrzés során a következő hat elemű mintát
kapták: 15,68 16,00 15,61 15,93 15,86 15,72.
Számoljunk 95 ill. 99%-os konfidencia intervallumot a minta alapján a populációra!
►6/5. feladat
Egy konzervtöltő automata 1000 g anyag töltésére van beállítva. Mintavétel során az alábbi
értékeket kaptuk: 985; 987, 1003, 993; 996; 991; 994; 1004; 1002; 985. Vizsgáljuk meg 95 %-os
biztonsági szinten teljesül-e a várható értékre az
m0= 1000 g előírás!
( x 994,0, s= 7,226, t=-2,626; t kr=2,267; az automata valószínű nem jól működik: t>tkr
- 53 -
► 6/6. feladat
Egy gép 0,5 mm vastagságú alátéteket gyárt. Egy féléves leállás után dönteni kell, hogy a gép
megfelelően működik-e. Ezért a beindítás után 10 alátétből álló, 0,53 mm átlagú és 0,03 mm
tapasztalati szórású mintát vettünk. Ellenőrizendő 95%-os megbízhatóságú szinten, hogy a gép
jól működik-e!
► 6/7. feladat
Egy gyár által előállított kötél szakító szilárdságát vizsgálva 6 minta átlaga 7750 N, szórása: 145
N, míg a gyártó állítása legalább 8000N. Alátámasztható-e a gyártó állítása 95%-os
megbízhatósági szinten?
Ho: μ=8000 >> a gép jól működik
H1: μ<8000 >> nem igaz a gyártó állítása
t=(7750-8000)/(145/ 6 )= 4,22; tkrit=2,015 >> nem igaz a gyártó állítása
►6/8. feladat
20 g/dm3 koncentrációjú oldatot készítettünk. Egy hónap múlva 6 ismételt mérést végeztünk
annak megállapítására, hogy megváltozott-e az oldat koncentrációja. Ha igen mennyivel?
Eredményeink: 19,6 18,9 19,5 20,1 19,3 19,4.
►6/9. feladat
Egy gyárban egy gépnek 500 gr töltőanyagot kell a konzervekbe juttatnia minden töltéskor. A
töltőanyag egyenetlenségéből adódóan a gép néha kicsit többet, néha kicsit kevesebbet tölt, mint
500 gr. Arra nagyunk kíváncsiak, hogy a gép átlagos "teljesítménye" 500 gr-nak mondható-e.
Kiveszünk 10 konzervet a futószalagról és megmérjük mindben a töltőanyag súlyát. Az
eredmények rendre: 483, 502, 498, 496, 502, 483, 494, 491, 505, 486.
- 54 -
►6/10. feladat
Egy referencia anyagkoncentrációjának mérésével ellenőrizzük analitikai mérőrendszerünk
pontosságát. A referencia anyag koncentrációja cref=0,2000 mg/dm3. A mért eredmények:
Mért koncentráció (mg/dm3)
1. 0,1967
2. 0,2012
3. 0,1950
4. 0,2018
5. 0,1938
6. 0,1944
a./ Koncentráció átlag b./ Korr. tapasztalati szórás c./ RSD d./ középérték szórása e./
Elfogadható-e 95%-os megbízhatósági szinten (szignifikancia szint=kockázati szint 5%), hogy
az eltérések véletlenszerűek, vagyis a készülékünk jól mér?
►6/11. feladat
Egy kén-meghatározási eljárás ellenőrzése során 0,123% kéntartalmú referencia mintára a
következő elemzési eredményeket kaptuk: 0,112%; 0,118%; 0,115%, 0,119%. Állapítsuk meg
van-e rendszeres hiba 95 illetve 99% megbízhatósági szinten!
►6/12. feladat
0,0200 mol/dm3 koncentrációjú KMnO4-oldat koncentrációját oxálsav titer-alapanyag
segítségével ellenőrzik. Az öt párhuzamos mérés eredménye:
0,0197 0,0197 0,0198 0,0197 0,00196
a./ Milyen statisztikai próbát alkalmaz? Miért?
b./ Állapítsa meg az eredmények segítségével, hogy megváltozott-e a KMnO4-oldat
koncentrációja! A következtetést 95%-os biztonsággal fogalmazza meg!
►6/13. feladat
Egy adagolóautomata 1200 g minta töltésére van beállítva. 16 elemű mintát vettek, melynek
eredménye a következő:
1193 1198 1203 1191 1195 1196 1199 1191
1201 1196 1193 1198 1204 1196 1198 1200
Van-e szignifikáns eltérés 95%-os megbízhatósági szinten az előírt tömegértéktől?
- 55 -
Kétmintás t-próba, páros t-próba
► 7/1. feladat
Két laboratóriumban mérték egy acél titán-tartalmát atomabszorpciós módszerrel. A mért adatok
a következők:
I. laboratórium II. laboratórium
0.470 % 0.529 %
0.448 % 0.490 %
0.463 % 0.489%
0.449 % 0.521%
0.482 % 0.486%
0.454 % 0.502%
0.477 %
0.409 %
a.) Határozzuk meg az egyes laboratóriumok által mért átlagos titán-tartalmat és szórásokat!
b.) Ellenőrizzük, hogy a két laboratórium által mért titántartalom-különbség a véletlen műve-e,
vagy ekkora eltérést statisztikailag elfogadhatunk 95%-os megbízhatósági szinten (a két labor
mérési sorozatának varianciáját azonosnak tekinthetjük)!
►7/2. feladat
Két tartályban ugyanazon anyag oldatai vannak. Az első tartályból 5 analízist végzünk. A mért
koncentráció átlaga 56.8 g/l; a tapasztalati szórás 2.3 g/l.
A második tartályból 7 elemzést végzünk. Az elemzések átlaga 58.0 g/l; a tapasztalati szórás 1.9
g/l (normális eloszlást feltételezünk).
a) Vizsgáljuk meg 1%-os szignifikancia szinten a következő feltételezést: az első tartályban 56.8
g/l, a másodikban 59.0 g/l koncentrációjú oldat van.
b) Vizsgáljuk meg 1%-os szignifikancia szinten hogy a két tartályban azonos koncentrációjú
oldat van
►7/3. feladat
Két laboratóriumban vizsgálták 8 minta Na-tartalmát és a következőket kapták (mg/dm3). A
mérési eredmények a következők:
Minta 1. 2. 3. 4. 5. 6. 7. 8.
1. labor 31.5 32.0 31.6 32.2 32.4 31.4 31.8 32.0
2. labor 31.5 32.2 31.4 32.5 32.9 31.6 32.0 32.4
Van-e 95%-os megbízhatósági szinten jelentős különbség a két laboratórium elemzési
eredményei között?
- 56 -
►7/4. feladat
Egy bűnügyi nyomozás során mintát vettek a gyanúsított ruháján található festékből és a
bűnjelnek számító autó festékanyagából is. A ruházaton talált festék Ti-tartalma 4,0 ill. 4,6 %
volt. Az autófesték Ti-tartalma: 4,5, 5,3; 5,5; 5,0; 4,9 %.
Feltételezhető-e 5 %-os kockázati szinten (azaz 95 %-os megbízhatósági szinten) a festéknyom
alapján a gyanúsított bűnössége (a két festékminta azonossága)?
►7/5. feladat
Ugyanazon módszerrel elemeztek 8 mintát két eltérő módszerrel. Az eredmények:
1. módszer 15 20 16 22 24 14 18 20
2. módszer 15 22 14 25 29 16 20 24
Megvizsgálandó 5%-os kockázati szinten, hogy különböznek-e a két módszerrel kapott
eredmények?
►7/6. feladat
Két borminta azonosságáról illetve különbözőségét próbáljuk meg eldönteni alkoholtartalmuk
alapján (95%-os megbízhatósági szinten).
1. minta n1=6 1x 12,61 % s1= 0,06
2. minta n2=4 2x 12,53 % s2= 0,08
►7/7. feladat
Petrikesek és Irinyisek IQ-ját hasonlítjuk össze. 16 petrikes diák IQ-átlaga 107, szórása 10;
14 irinyis diák IQ-átlaga 112, szórása 8. Van-e lényeges eltérés (95%)?
►7/8. feladat
Egy vegyipari szakközépiskolában vegyész és környezetvédő szakon folyik képzés. Az elmúlt 5
évben a következő továbbtanulási arányok alakultak ki (%-ban)
1. év 2. év 3. év 4. év 5. év
Vegyész 16,5 12,5 18,3 6,2 28,3
Környezetvédő 8,6 15,8 21,2 20,8 18,7
Van-e a két szak között különbség továbbtanulás szempontjából 95%-os megbízhatósági
szinten?
- 57 -
8. F-próba
► 8/1. feladat
Egy analitikai eljárás szórásának csökkentésére módosítást vezettek be, ezt kell elbírálni. A
következő mérési eredményeket kapták (mg/dm3)
Az eredeti eljárás mérési eredményei A módosított mérési eljárás eredményei
5.655 5.615
5.660 5.534
5.695 5.677
5.709 5.513
5.646 5.450
Sikeresnek tekinthető-e a módosítás (95 %-os megbízhatósági szinten)?
► 8/2. feladat
Egy analitikai módszer validálásakor a módszer reprodukálhatóságát kell bizonyítani. Töltse ki a
táblázatot és döntse el, hogy reprodukálató-e a módszer (95 %-os megbízhatósági szinten)! A
vizsgálat körülményei: azonos időpont, azonos eszköz, azonos minta, különböző személy.
Mintaszám Mért koncentráció (1) Mért koncentráció
(2)
22,8 22,9
23,8 24,1
24,0 23,2
24,6 22,8
24,2 22,1
Átlag
Korr. tapasztalati szórás
RSD
F-próba/ F krit
t-próba/ t krit
Végső következtetés
► 8/3. feladat
Egy konzervgyár két próbaüzemében egy-egy töltőgépet helyeztek üzembe. A gépekről
véletlenszerűen kiválasztott 6-6 doboz töltősúlyát (gramm) vizsgáltuk.
1. üzem 300 301 303 288 294 296
2. üzem 305 317 308 300 314 316
A két töltőgép közötti különbség véletlenszerű-e (95 %-os megbízhatósági szinten)?
- 58 -
► 8/4. feladat
Két mérési módszer hasonlítunk össze úgy, hogy standard oldatból mérjük a (vizsgált)
komponens koncentrációját. Az eredmények a következők:
1. 2. 3. 4. 5. 6. 7. 8. 9.
1. módszer 1,02 1,09 1,07 1,06 1,06 1,10 1,08
2. módszer 1,02 1,12 1,15 1,04 1,05 1,18 1,06 1,09 1,16
95%-os megbízhatósági szinten nagyobbnak tekinthető-e a második módszer véletlen hibája,
mint az elsőé? (Normális eloszlást tételezünk fel).
- 59 -
Egyenes illesztés, kalibrációs görbe
► 9/1. feladat
Kalibrációs egyenest kell meghatározni „kézi”-módszerrel.
Az egyenes egyenlete: y= mx+c
2xx
yyxxm
i
ii yc -m x
Mérési pontjaink a következők:
xi yi
0,0 0,3
1,0 2,2
2,0 3,0
2,0 4,0
►9/2. feladat
Kalibrációs egyenest kell meghatároznunk. Mérési adatsorunk a következő
xi yi
1,0 2,1
2,0 3,9
3,0 6,0
►9/3. feladat
Egy réz-konstantán hőelem mérési adatai a következők:
10-20-30-40-50 °C; a hozzá tartozó mV-értékek rendre: 0,195; 0,790; 1,196; 1,612, 2,036.
Illesszünk az adatsorra egy egyenest és adjuk meg az egyenes egyenletét y=mx+c alakban.
►9/4. feladat
Egy termálkút fúrása során a különböző mélységből vett vízminták hőmérsékletét mérték. Az
adatok a következők: 900 m / 57 °C; 1000 m / 61 °C; 1100 m / 67 °C;
Lineáris összefüggést feltételezve hány fokos víz várható 1200 m mélység elérésekor?
Határozzuk meg a reziduálisok szórását valamint az 1200 m mélységre kiszámolt
vízhőmérséklet 95%-os megbízhatósági szintjét (pl. 82 ± 8 °C)
- 60 -
►9/5. feladat
Egy vízminta szeléntartalmát határozzuk meg. A kalibrációs görbe adatai a következők.
Koncentráció (mg/dm3)
0 20 40 80 120 160
-0,0011 17,6 30,1 61,4 91,4 121,3
0,00044 16,6 30,0 61,9 92,5 119,2
-0,0015 17,1 29,9 62,2 92,5 119,4
- Határozzuk meg a kalibrációs egyenes paramétereit (y=a+bx) és készítsük a kalibrációs görbét
- Határozzuk meg a reziduálisokat és annak is készítsük el a görbéjét.
- Határozzuk meg a reziduálisok szórását (s(r))
- Határozzuk meg a meredekség és a tengelymetszet megbízhatósági intervallumát (95%-s)
- Mennyi egy ismeretlen minta (xo) szeléntartalma a kalibrációs görbe alapján, ha a mért
analitika jel (yo) értéke 120
- Határozzuk meg az ismeretlen minta megbízhatósági (jóslási) intervallumát!
►9/6. feladat
Fotometriás vas-meghatározáshoz készítünk kalibrációs görbét. Az ismert vastartalmú oldatok
vizsgálata során az alábbi eredményeket kaptuk:
xi (%) 0,1 0,2 0,3 0,4 0,5 0,6 0,7 0,8 0,9 1,0
yi (A) 0,09 0,14 0,19 0,24 0,31 0,37 0,40 0,47 0,55 0,63
- Lineáris függvénykapcsolatot feltételezve készítsük a kalibrációs (regressziós) egyenest!
- Határozzuk meg a reziduálisok szórását (sr)!
- Mekkora a vastartalom (95%-os megbízhatósági szinten, ha az ismeretlen minta abszorbanciája
0,44 ?
►9/7. feladat
Fotometriás vas-meghatározáshoz készítünk kalibrációs görbét. Az ismert vastartalmú oldatok
vizsgálata során az alábbi eredményeket kaptuk:
xi (%) 0,1 0,3 0,5 0,7 0,9
yi (A) 0,09 0,19 0,31 0,40 0,55
- Lineáris függvénykapcsolatot feltételezve a kalibrációs egyenes y=0,565x+0,0255 !
- Határozzuk meg a reziduálisok szórását (sr)!
- Mekkora a vastartalom (95%-os megbízhatósági szinten, ha az ismeretlen minta abszorbanciája
0,44 ?
- 61 -
►9/8. feladat
A táblázat egy fémszál átlagterhelésnél mért megnyúlásait tartalmazza.
x (kg) 12 14 16 18 20 22
y (m) 0,7516 0,7628 0,7728 0,7836 0,7956 0,8065
A két változó között lineáris regressziót feltételezve számítsuk ki a korrelációs együtthatót és a
regressziós egyenest.
►9/9. feladat
Egy bányából a gyárba érkező nyersanyag két hasznos alkotórészt tartalmaz (A és B ásványt). A
tapasztalt szerint, ha A ásvány koncentrációja nagyobb, a B ásvány mennyisége is nagyobb. Tíz
különböző időpontban és a bánya különféle helyeiről vett nyersanyagminták elemzési
eredményei a következők:
A ásv. m/m% 67 54 72 64 39 22 58 43 46 34
B ásv. m/m% 24 15 23 19 16 11 20 16 17 13
Határozzuk meg a regressziós egyenes egyenletét, a korrelációs együtthatót illetve adjunk
becslést egy 30 m/m %-os A ásványi tartalom esetén a B ásványi tartalomra.
►9/10. feladat
Készítendő EXCEL-ben az alábbi adatok alapján kalibrációs egyenes táblázatosan kiszámolva a
tengelymetszet (a) és a meredekség (b) (mint az órán), illetve a Diagram varázsló segítségével
(görbe és trendvonal felvétel). Ugyanezen a lapon ábrázoljuk a reziduálisokat is.
x(i) 2,0 4,0 6,0 8,0 10,0 12,0 14,0 (mg/L)
y(i) 12,6 18,4 22,1 26,9 31,0 36,1 41,1 (mV)
Az egész egy db A4-es méretben készüljön, cím-készítő neve stb. Ügyeljen a jó elrendezésre, a
kalibrációs görbe megformázására.
►9/11. feladat
Egy konduktometriás titrálási görbét kell hasonló módon elkészíteni és meghatározni a két
egyenes egyenletét, annak metszéspontját (egyenértékpont).
Fogyás 1,0 2,0 3,0 4,0 5,0 6,0 7,0 8,0 9,0 10,0 11,0
fajl. vezetés 3,21 2,90 2,61 2,29 1,92 1,60 1,82 2,02 2,22 2,45 2,66
Ez is egy A4-es méretű munkalapon készüljön el, minden fontos adat feltüntetésével, esztétikus
kivitelben és jól áttekinthető elrendezésben.
- 62 -
Validálás
► 10/1. feladat
Egy készítmény kalcium-tartalmának meghatározásához megfelelő analitikai módszert kívánnak
választani. A 10,0% kalcium-tartalmú standard vizsgálatát két módszerrel határozták meg.
A vizsgálat eredményei:
Gravimetriás módszer 10,1% 10,0% 9,9% 10,10% 9,9%
Komplexometriás módszer 9,8% 9,7% 9,7% 9,8% 9,5%
Jellemezze a módszereket! (torzítatlanság), az előírt megbízhatósági szint: 90%.
Válaszoljon a következő kérdésekre!
Mikor torzítatlan a mérés?
a) Milyen próbát alkalmaz a torzítatlanság meghatározásához? Miért?
b) Mit fejez ki a szignifikanciaszint?
c) Fogalmazza meg a torzítatlanság vizsgálatánál a hipotéziseket (nullhipotézis, ellenhipotézis)
d) Számolja ki a két módszernél a szükséges próbastatisztikát!
e) Adja meg a szignifikanciaszintet!
f) Határozza meg az elfogadási és elutasítási tartományt!
g) Döntsön a hipotézisekre vonatkozóan (melyik módszer torzítatlan)!
► 10/2. feladat
Határozza meg az ismétlőképességet a következő adatok alapján! Töltse ki a táblázat üres részeit
és döntsön, hogy megfelel-e, ha a követelmény RSD ≤ 2 %
Koncentráció
[mg/dm3]
Mérési eredmények [mg/dm3] átlag szórás RSD
1. 2. 3. 4. 5. [mg/dm3] [mg/dm
3] %
0,500 0,4894 0,5122 0,5094 0,5060 0,5040
0,800 0,7910 0,7976 0,8157 0,7878 0,7969
1,100 1,0986 1,103 1,1248 1,0993 1,1064
►10/3. feladat
Határozzuk meg a kimutatási és a meghatározási határt! A kalibrációs görbe függvénye:
A = -0,0104·c2 + 0,2207·c, a vakpróba szórása 0,0007.
- 63 -
► 10/4. feladat
Egy mérés érzékenysége S = 0,185/(mg/dm3), a vakpróba szórása 0,0009. Hány mg/dm
3 a
meghatározási határ? (Megoldás: 0,049 mg/dm3)
►10/5. feladat
Egy fluorid-ionszelektív elektród alsó kimutatási határát szeretnénk meghatározni. A mérési
adatok a táblázatban találhatók. Rajzoljuk be illetve számoljuk ki a cL értéket!
pF 7 6 5 4 3 2 1
mV 68,3 67,1 56,5 19 -35,7 -93,2 -161,6
►10/6. feladat
Becsüljük meg az alábbi kromatogram alapján a klorid-ion
kimutatási határát (detection limit). A jel/zaj viszonyt
tekintsük az általánosan elfogadott 3:1-nek. Adjuk meg a
kimutatási határt ppm és ng-ban is!
► 10/8. feladat
Határozzuk meg a mérési tartományt a következő mérési adatok alapján!
Rajzoljon szórásgörbét a koncentráció függvényében (célszerű a logaritmikus lépték)!
Válassza ki a megfelelő tartományt, ha az elvárás max. 3 % szórás!
konc. RSD % konc. RSD % konc. RSD %
0,003 nem ért. 0,300 1,80 2,000 2,0
0,010 29 0,500 1,77 3,000 3,5
0,030 9 0,800 1,35 5,000 6
0,050 5 1,100 0,98 7,000 9
0,100 3,0 1,500 1,20 10,000 14
- 64 -
► 10/9. feladat
Egy talajminta két, egyenként 1,5 g-os részletét vizsgáltuk (visszanyerés (recovery)
szempontjából). Az egyikből készített 100 cm3 talajkivonatban 0,8 mg/ℓ vastartalmat mértünk. A
másik részlethez hozzáadtunk 0,5 cm3 0,2 mg/cm
3 vastartalmú oldatot. A talajkivonatot abból is
100 cm3-re töltöttük fel. Ebben az oldatban 1,7 mg/ dm
3 vastartalmat mértünk. Számítsa ki a talaj
vastartalmát (ppm = mg/kg) és a visszanyerési tényezőt! R = 0,9 vas 59,3 mg/kg
►10/10. feladat
Egy talajminta két, egyenként 1 g-os részletét vizsgáltuk. Az egyikből készített 100 cm3
talajkivonatban 1 mg/dm3 vastartalmat mértünk. A másik részlethez hozzáadtunk 0,4 cm
3
0,2 mg/cm3 vastartalmú oldatot. A talajkivonatot abból is 100 cm
3-re töltöttük fel. Ebben az
oldatban 1,7 mg/ dm3 vastartalmat mértünk. Számítsa ki a visszanyerési tényezőt!
(Megoldás: R = 0,875, vas 114,3 mg/kg)
►10/11. feladat
Határozzuk meg a mérési tartományt a következő
kalibrációs görbe alapján!
A felső határ az az érték legyen, ahol az érzékenység a
kezdetinek a felére csökken! (5,3 mg/L)
A = -0,0104 c2 + 0,2207 c
Mérési tartomány vizsgálata az érzékenység alapján
A = -0,0104c2 + 0,2207c
R2 = 0,9994
0,0
0,2
0,4
0,6
0,8
1,0
1,2
0 2 4 6 8 10
c [mg/L]
A
- 65 -
Mérési bizonytalanság Térfogatmérő eszközök (gyártói tűrések)
Mérőlombik 100 cm3 A-jelű ±0,08 cm
3
Mérőlombik 100 cm3 B-jelű ±0,16 cm
3
Mérőlombik 250 cm3 A-jelű ±0,15 cm
3
Mérőlombik 250 cm3 B-jelű ±0,3 cm
3
Pipetta 25 cm3 A-jelű ±0,03 cm
3
Pipetta 25 cm3 B-jelű ±0,06 cm
3
Büretta 50 cm3 A-jelű ±0,05 cm
3
Büretta 50 cm3 B-jelű ±0,1 cm
3
► 11/1. feladat
Mennyi egy „B”-jelű 25 cm3-es pipetta kiterjesztett mérési bizonytalansága, mellyel 5
párhuzamos mérést végeztünk (gravimetriásan)? A mért (illetve az adott hőmérsékleten a
sűrűség segítségével számolt) térfogatok a következők:
25,02 24,99 25,03 25,02 24,96 cm3.
► 11/2. feladat
0,1 mol/dm3-es NaOH oldattal, titrálással határozzuk meg a sósav oldatunk koncentrációját. Az
NaOH mérőoldat cp-jét 99,5% tisztaságú KH-ftaláttal faktorozzuk (Bemérünk 5,105 g KH-
ftalátot 250 cm3-es mérőlombikba, ebből 25,0 cm
3-t kipipettázva, az NaOH fogyása: 25,15 cm
3).
Az ismeretlen sósavból is 25,0 cm3-eket titrálunk meg a már ismert cp-jú NaOH-val. A fogyások
átlaga: 25, 66 cm3.
Mennyi a mérési eljárásunk kiterjesztett mérési bizonytalansága (illetve a sósav-oldat
koncentrációja)?
► 11/3. feladat
Készítendő 100 cm3 alkoholos törzsoldat kb. 1 g-nyi hatóanyag analitikai pontosságú
bemérésével. A hatóanyag tisztasága min. 99 %. A 100 cm3-es mérőlombik „A”-jelű.
A labor hőmérséklete 20 °C ± 4 °C. Az oldószernek használt etanol köbös hőtágulási
együtthatója: 10,5x10-4
ml/°C.
A mérőlombik jelere-töltési szórása (korábban mért adatok alapján): 0,025 cm3.
A tömegmérésnél a bemért tömeg: 1,0180 g; A mérleg kalibrációs jegyzőkönyve alapján a
kiterjesztett mérési bizonytalanság: 0,52 mg (k=2); a mérleg ismételhetősége (1 g-os tömeg
mérésre): 1,2x10-4
g.
- 66 -
Táblázatok
Standard normális eloszlás F(u) u 0.00 0.01 0.02 0.03 0.04 0.05 0.06 0.07 0.08 0.09
0.0 0.5000 0.5040 0.5080 0.5120 0.5160 0.5199 0.5239 0.5279 0.5319 0.5359
0.1 0.5398 0.5438 0.5478 0.5517 0.5557 0.5596 0.5636 0.5675 0.5714 0.5753
0.2 0.5793 0.5832 0.5871 0.5910 0.5948 0.5987 0.6026 0.6064 0.6103 0.6141
0.3 0.6179 0.6217 0.6255 0.6293 0.6331 0.6368 0.6406 0.6443 0.6480 0.6517
0.4 0.6554 0.6591 0.6628 0.6664 0.6700 0.6736 0.6772 0.6808 0.6844 0.6879
0.5 0.6915 0.6950 0.6985 0.7019 0.7054 0.7088 0.7123 0.7157 0.7190 0.7224
0.6 0.7257 0.7291 0.7324 0.7357 0.7389 0.7422 0.7454 0.7486 0.7517 0.7549
0.7 0.7580 0.7611 0.7642 0.7673 0.7704 0.7734 0.7764 0.7794 0.7823 0.7852
0.8 0.7881 0.7910 0.7939 0.7967 0.7995 0.8023 0.8051 0.8078 0.8106 0.8133
0.9 0.8159 0.8186 0.8212 0.8238 0.8264 0.8289 0.8315 0.8340 0.8365 0.8389
1.0 0.8413 0.8438 0.8461 0.8485 0.8508 0.8531 0.8554 0.8577 0.8599 0.8621
1.1 0.8643 0.8665 0.8686 0.8708 0.8729 0.8749 0.8770 0.8790 0.8810 0.8830
1.2 0.8849 0.8869 0.8888 0.8907 0.8925 0.8944 0.8962 0.8980 0.8997 0.9015
1.3 0.9032 0.9049 0.9066 0.9082 0.9099 0.9115 0.9131 0.9147 0.9162 0.9177
1.4 0.9192 0.9207 0.9222 0.9236 0.9251 0.9265 0.9279 0.9292 0.9306 0.9319
1.5 0.9332 0.9345 0.9357 0.9370 0.9382 0.9394 0.9406 0.9418 0.9429 0.9441
1.6 0.9452 0.9463 0.9474 0.9484 0.9495 0.9505 0.9515 0.9525 0.9535 0.9545
1.7 0.9554 0.9564 0.9573 0.9582 0.9591 0.9599 0.9608 0.9616 0.9625 0.9633
1.8 0.9641 0.9649 0.9656 0.9664 0.9671 0.9678 0.9686 0.9693 0.9699 0.9706
1.9 0.9713 0.9719 0.9726 0.9732 0.9738 0.9744 0.9750 0.9756 0.9761 0.9767
2.0 0.9772 0.9778 0.9783 0.9788 0.9793 0.9798 0.9803 0.9808 0.9812 0.9817
2.1 0.9821 0.9826 0.9830 0.9834 0.9838 0.9842 0.9846 0.9850 0.9854 0.9857
2.2 0.9861 0.9864 0.9868 0.9871 0.9875 0.9878 0.9881 0.9884 0.9887 0.9890
2.3 0.9893 0.9896 0.9898 0.9901 0.9904 0.9906 0.9909 0.9911 0.9913 0.9916
2.4 0.9918 0.9920 0.9922 0.9925 0.9927 0.9929 0.9931 0.9932 0.9934 0.9936
2.5 0.9938 0.9940 0.9941 0.9943 0.9945 0.9946 0.9948 0.9949 0.9951 0.9952
2.6 0.9953 0.9955 0.9956 0.9957 0.9959 0.9960 0.9961 0.9962 0.9963 0.9964
2.7 0.9965 0.9966 0.9967 0.9968 0.9969 0.9970 0.9971 0.9972 0.9973 0.9974
2.8 0.9974 0.9975 0.9976 0.9977 0.9977 0.9978 0.9979 0.9979 0.9980 0.9981
2.9 0.9981 0.9982 0.9982 0.9983 0.9984 0.9984 0.9985 0.9985 0.9986 0.9986
3.0 0.9987 0.9987 0.9987 0.9988 0.9988 0.9989 0.9989 0.9989 0.9990 0.9990
3.1 0.9990 0.9991 0.9991 0.9991 0.9992 0.9992 0.9992 0.9992 0.9993 0.9993
3.2 0.9993 0.9993 0.9994 0.9994 0.9994 0.9994 0.9994 0.9995 0.9995 0.9995
3.3 0.9995 0.9995 0.9995 0.9996 0.9996 0.9996 0.9996 0.9996 0.9996 0.9997
3.4 0.9997 0.9997 0.9997 0.9997 0.9997 0.9997 0.9997 0.9997 0.9997 0.9998
- 67 -
A Student-féle t-eloszlás kritikus
értékei
0,200 0,100 0,050 0,025 0,010 0,005 0,001
1 3,078 6,314 12,706 25,452 63,656 127,321 636,578
2 1,886 2,920 4,303 6,205 9,925 14,089 31,600
3 1,638 2,353 3,182 4,177 5,841 7,453 12,924
4 1,533 2,132 2,776 3,495 4,604 5,598 8,610
5 1,476 2,015 2,571 3,163 4,032 4,773 6,869
6 1,440 1,943 2,447 2,969 3,707 4,317 5,959
7 1,415 1,895 2,365 2,841 3,499 4,029 5,408
8 1,397 1,860 2,306 2,752 3,355 3,833 5,041
9 1,383 1,833 2,262 2,685 3,250 3,690 4,781
10 1,372 1,812 2,228 2,634 3,169 3,581 4,587
11 1,363 1,796 2,201 2,593 3,106 3,497 4,437
12 1,356 1,782 2,179 2,560 3,055 3,428 4,318
13 1,350 1,771 2,160 2,533 3,012 3,372 4,221
14 1,345 1,761 2,145 2,510 2,977 3,326 4,140
15 1,341 1,753 2,131 2,490 2,947 3,286 4,073
16 1,337 1,746 2,120 2,473 2,921 3,252 4,015
17 1,333 1,740 2,110 2,458 2,898 3,222 3,965
18 1,330 1,734 2,101 2,445 2,878 3,197 3,922
19 1,328 1,729 2,093 2,433 2,861 3,174 3,883
20 1,325 1,725 2,086 2,423 2,845 3,153 3,850
21 1,323 1,721 2,080 2,414 2,831 3,135 3,819
22 1,321 1,717 2,074 2,405 2,819 3,119 3,792
23 1,319 1,714 2,069 2,398 2,807 3,104 3,768
24 1,318 1,711 2,064 2,391 2,797 3,091 3,745
25 1,316 1,708 2,060 2,385 2,787 3,078 3,725
26 1,315 1,706 2,056 2,379 2,779 3,067 3,707
27 1,314 1,703 2,052 2,373 2,771 3,057 3,689
28 1,313 1,701 2,048 2,368 2,763 3,047 3,674
- 68 -
F-eloszlás kritikus értékei (α = 0,05 egyoldali szinten)
nevező ν2
számláló
ν1 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15
1 161.45 18.51 10.13 7.71 6.61 5.99 5.59 5.32 5.12 4.96 4.84 4.75 4.67 4.60 4.54
2 199.50 19.00 9.55 6.94 5.79 5.14 4.74 4.46 4.26 4.10 3.98 3.89 3.81 3.74 3.68
3 215.71 19.16 9.28 6.59 5.41 4.76 4.35 4.07 3.86 3.71 3.59 3.49 3.41 3.34 3.29
4 224.58 19.25 9.12 6.39 5.19 4.53 4.12 3.84 3.63 3.48 3.36 3.26 3.18 3.11 3.06
5 230.16 19.30 9.01 6.26 5.05 4.39 3.97 3.69 3.48 3.33 3.20 3.11 3.03 2.96 2.90
6 233.99 19.33 8.94 6.16 4.95 4.28 3.87 3.58 3.37 3.22 3.09 3.00 2.92 2.85 2.79
7 236.77 19.35 8.89 6.09 4.88 4.21 3.79 3.50 3.29 3.14 3.01 2.91 2.83 2.76 2.71
8 238.88 19.37 8.85 6.04 4.82 4.15 3.73 3.44 3.23 3.07 2.95 2.85 2.77 2.70 2.64
9 240.54 19.38 8.81 6.00 4.77 4.10 3.68 3.39 3.18 3.02 2.90 2.80 2.71 2.65 2.59
10 241.88 19.40 8.79 5.96 4.74 4.06 3.64 3.35 3.14 2.98 2.85 2.75 2.67 2.60 2.54
11 242.98 19.40 8.76 5.94 4.70 4.03 3.60 3.31 3.10 2.94 2.82 2.72 2.63 2.57 2.51
12 243.90 19.41 8.74 5.91 4.68 4.00 3.57 3.28 3.07 2.91 2.79 2.69 2.60 2.53 2.48
13 244.69 19.42 8.73 5.89 4.66 3.98 3.55 3.26 3.05 2.89 2.76 2.66 2.58 2.51 2.45
Dixon próba kritikus értékei (Q krit) Grubb-teszt kritikus értékei (Zkrit)
Dixon próba Grubb-teszt
n 90 % 95 % 90 % 95 %
3 0,941 0,970 1,15 1,15
4 0,765 0,829 1,42 1,46
5 0,642 0,710 1,60 1,67
6 0,560 0,625 1,73 1,82
7 0,507 0,568 1,83 1,94
8 0,468 0,526 1,91 2,03
9 0,437 0,493 1,98 2,11
10 0,412 0,466 2,03 2,18