Vámos István

Statisztika az analitika laborban

Elméleti összefoglaló és példatár vegyipari technikusok számára

2

Bevezetés

A kémiai analízis célja a vizsgálandó anyag minőségi és mennyiségi összetételének meghatározása. A gyakorlati elemzési feladatok többségében a legfontosabb a mennyiségi összetétel pontos meghatározása, ám rögtön fölmerül egy kérdés: a kapott eredmények mennyire tükrözik a vizsgált minta tényleges összetételét, vagyis milyen pontosak a mért értékeink (milyen hibákat követtünk el a mérés során). Sőt az sem közömbös, hogy az adott mérési módszer milyen biztonsággal ismételhető.

A pontatlanságok alapvetően kétfélék. Egy részük a mérőmódszer (eszköz) tökéletlenségéből ered vagy a mérés alapját képező fizikai-kémia folyamatok korlátaiból adódik (pl. csapadék oldhatósága). A hiba adódhat (sajnos nem is ritkán) a helytelenül végzett műveletek eredményeként is. Ezek a hibák rendszeresen, ugyanolyan értelemben „tolják el” a valós értéket, ezért ezeket a hibákat rendszeres hibáknak nevezzük.A mérési pontatlanságok másik része a kísérleti körülmények kismértékű és ellenőrizhetetlen ingadozásaiból adódik. Ezeket joggal nevezhetjük véletlen hibáknak.

A rendszeres hibák kiszűrése nem egyszerű feladat. Segíthet egy másik mérési módszerrel való összehasonlítás, ám sokkal biztosabb, ha a meghatározandó alkotóból rendelkezünk a saját mintákhoz hasonló mátrixú standard-del (mátrix: a mérendő komponenst kísérő anyagok együttese). Ilyenkor ennek ismert mennyiségét tekintjük a valódi értéknek, és a mért értékeink középértékének (erről később) ettől való eltérést tekinthetjük a módszer rendszeres hibájának. Ha már felismertük a rendszeres hibát (külön „öröm” ha ez pl. additív hiba), akkor ez általában kiküszöbölhető (korrekció, újrakalibrálás stb.).

A véletlenszerű hibák leírására a matematikai statisztika eszközeit használhatjuk. Általában a véletlen (random) hiba mindig fellép sok, egyenként kis hatások következményeként (hőfokingadozás, pontatlan leolvasás, hálózati feszültség ingadozás stb.). Véletlen hibaként értelmezhető a kiugró érték is, ami időnként fellépő, jelentős mérési eltérést okozhat. Kezeléséről részletesebben fogunk beszélni egy későbbi fejezetben.

A bevezetőben ritkán „támadják” le a gyanútlan olvasót egy számpéldával, most mégis lássunk egy egyszerű analitikai problémát a fentiek és az elkövetkezendők illusztrálására.

Határozzuk meg egy ismert koncentrációjú (20 mg/dm3) standard Fe3+-tartalmát valamely analitikai eljárással. Párhuzamos méréseink eredménye a következő: 19,4; 19,5; 20,1; 20,3; 19,8; 19,6. Lássunk néhány megállapítást illetve felmerülő kérdést! Mérési eredményeink kisebb-nagyobb mértékben eltérnek egymástól és ezen - hétköznapi

tapasztalataink - alapján nem is csodálkozunk. A hat mérés számtani átlaga (19,78 mg/dm3) A várt értéktől (20 mg/dm3) ez a számtani átlag különbözik. Valahol hibát követtünk el? Van-e a közismert számtani átlagtól eltérő más paraméter, ami mérési eredményeinket jól

(vagy jobban) jellemezhetné? Mi okozza az eltéréseket? Mennyire szóródnak a mért értékek? Megengedhető-e ekkora szóródás?

Ezekre és ehhez hasonló kérdésekre keressük a választ a mérési adatok statisztikai kiértékelése során…

3

1. Statisztikai alapfogalmak

1.1 Átlag, szórás, RSDAz analitikai mérési eredményt leegyszerűsítve a valódi érték és egy hiba összegének tekinthetjük, mely hiba a bevezetőben említettek szerint rendszeres és véletlenszerű lehet.

Szigorúan véve a valódi értéket (jelölésére a továbbiakban a görög μ-t használjuk) tökéletesen megmérni nem lehet. A középérték az első fontos statisztikai fogalom, amit szinte magától érthetőnek vettünk. Ha mérési eredményeink rendre x1, x2, x3, … xn, akkor a mérések középértéke vagy számtani átlaga (ahol n a mérések száma)

A középérték jellemzésére más statisztikai fogalmak is használhatók pl. medián. Medián: ha az adatokat növekvő sorrendbe rendezzük, akkor a középső adat az adathalmaz mediánja (páros számú minta-elemszám esetén a két középső átlaga).

Egy másik fontos fogalmat még nem jelöltünk be az 1. ábrán, de világosan látható, hogy mérési adataink ingadoznak a középérték körül. Ezt az ingadozást a statisztika szórásnak nevezi. Minél kisebb a szórás, annál megbízhatóbb a mérés eredménye. Az analitikai gyakorlatban, ahol a mérésszám a legtöbb esetben 10-nél is kisebb, a matematikai statisztikában használt szórás (σ) helyett az ún. korrigált tapasztalati szórást (s) használjuk

Egy másik, az analitikában gyakran használt fogalom az RSD (Relative Standard Deviation vagy relatív szórás), melyet többnyire százalékban adunk meg.

Valódi érték

Rendszeres hiba

Mérési eredmények

A mérések sorszáma

Középérték

2 3 4 5 6 7

xx

xx

x

xx

l l l l l l l

Véletlen hiba

4

1

Mintafeladat 1.Ellenőrző laboratóriumban egy szennyvíz pH-ját mérik. A mérési eredmények a következők: 5,8; 6,1; 5,9; 6,3; 5,7; 6,2; 6,4; 6,4, 6,0, 5,5. A mérési eredmények alapján mekkora a szennyvíz pH-jának a.) várható értéke, b.) korrigált tapasztalati szórása, c.) relatív standard deviációja (RSD)?

Megoldása.) Várható érték:

= (x1+x2+ xn)/n= 6,03b.) Korrigált tapasztalati szórás:

c.) Relatív standard deviáció (RSD):

Megjegyzés: Az RSD a fenti példában elég nagy. Egy analitikai laboratóriumban igyekszünk az RSD-t 0,5 % alá szorítani!

Mintafeladat 2.NaOH-oldat pontos koncentrációját határozzuk meg KH-ftalátra. Bemérünk 4.8327 g KH-ftalátot 250 cm3-es mérőlombikba. Ebből 25 cm3-eket titrálunk. A három párhuzamos mérés (NaOH fogyás) adatai: 21,23; 21,29; 21,19 cm3. Mennyi az NaOH- oldat pontos koncentrációja (átlag), szórása (korrigált tapasztalati szórás) és RSD-je?

MegoldásN=4,8327/204,2=0,023666 mol/ 250 cm3; Ennek négyszeres van egy literben: 0,094666 mol/dm3.c1 (NaOH)= 25 . 0,09467/21,23= 0,1115c2………………………………= 0,1112c3………………………………= 0,1117Átlag 0,1115 mol/ dm3

korr. tapasztali szórás 0,00025 mol/ dm3

RSD 0,2257 %

5

1.2 A mérési eredmény megadásaMár 3-5 párhuzamos mérés esetén is érdemes a számtani átlag (várható érték) megadása mellett a mért adatok szóródására jellemző értéket is megadni. Ha a középértéket 3 párhuzamos mérés helyett jóval több (pl. 15) párhuzamos mérésből számoljuk, nemcsak a valódi értéket közelítjük meg jobban, hanem a szóródás mérőszáma is

csökken. Ezért a középérték szórására a képletet használhatjuk.

A mérési eredményünket pedig a következőképp adhatjuk meg .

A képlet némiképp módosul, ha adott (pl. 95%) valószínűségi intervallumot adunk meg a várható érték körül. A 2. mintafeladatban a t(ν;α) szorzót táblázatból kereshetjük ki. Erről részletesebben a Student-eloszlásnál olvashatunk majd. Ezzel a t-vel szorozzuk az s/√n értéket.

Mintafeladat 1.Feladatunk egy 0,5 mol/dm3 névleges koncentrációjú vas-oldat ellenőrzése. A vizsgálat során a következő eredményeket kaptuk: 0,48; 0,47; 0,51; 0,49; 0,52; 0,50 mg/dm3. Adjuk meg mérési eredményeink alapján a minta koncentrációját szabályos formában!

Megoldás=0,495 mg/dm3 ; s=0,0175 mg/dm3 A középérték szórásával megadva az eredményt:

mg/dm3

Mintafeladat 2.10 mérési eredményünk a következő:24,46 23,93 25,79 25,17 23,82 25,39 26,54 23,85 24,19 25,50Milyen intervallumban van a valódi érték 95%-os valószínűséggel?

Megoldás24,864 s=0,946 t(ν;α)=t(9;0,05)=2,262

24,18< μ < 25,54

6

1.3 Hisztogram, normális eloszlás

Nagyobb számú mérési adatot jól áttekinteni nem könnyű. Ezt a könnyebb áttekinthetőséget segíti, ha adatainkat valahogy osztályokba soroljuk, majd ezeket az osztályokat megpróbáljuk grafikusan ábrázolni. Ezt az ábrázolási módot nevezzük hisztogramnak. Az adatok csoportosításával kapott minden osztály fölé egy téglalapot emelünk, melynek területe arányos az adott osztályba sorolt adatok számával illetve relatív gyakoriságával. Lássunk egy egyszerű mintapéldát!

Mintafeladat és megoldás Egy vízminta magnézium-tartalmára 25 párhuzamos mérési eredményünk van. Ezek rendre a következők: 11,22; 11,50; 11,80; 11,35; 11,60; 11,30; 11,64; 11,55; 11,15; 11,42; 11,71; 11,26,; 11,55; 11,85; 11,59; 11,42; 11,52; 11,30; 11,65; 11,46; 11,48; 11,77, 11,50 mg/dm3.

Soroljuk az eredményeket 9 osztályba, számoljuk meg, hogy egy-egy osztályba hány adat kerül (gyakoriság). Számoljuk ki a relatív gyakoriságot illetve az összegzett (kumulatív) gyakoriságot is!

Osztályok Gyakoriság Rel. gyakoriság(%-ban)

Kumulált gyakoriság(%-ban)

11,10 – 11,19 1 4 411,20 – 11,29 2 8 1211,30 – 11,39 3 12 2411,40 – 11,49 4 16 4011,50 – 11,59 6 24 6411,60 – 11,69 3 12 7611,70 – 11,79 3 12 8811,80 – 11,89 2 8 9611,90 – 11,99 1 4 100

25 100 -

0

5

10

15

20

25

30

Osztályok

Rel

atív

gya

koris

ág

0

20

40

60

80

100

120

Osztályok

Kum

ulál

t rel

atív

gya

koris

ág

Ha méréseink számát megnövelnénk, valamint sűrítenénk az osztályközöket, akkor a relatív gyakoriság hisztogramjának burkológörbéje egy harang alakhoz közelítene. Ekkor a relatív gyakoriság tart a normális eloszlás (Gauss-eloszlás) sűrűségfüggvényéhez.

7

A kumulál relatív gyakoriság – hasonló finomítás esetén – egy s-alakú görbéhez közelít, melyet eloszlásfüggvénynek nevezünk.

Egy (folytonos) valószínűségi változót akkor nevezünk normális eloszlásúnak, ha sűrűségfüggvénye

A függvény elég bonyolultnak tűnik, de valójában az f(x)=e-x2 függvény állandókkal megtűzdelt változata. Sajnos az y=e-x függvény sem középiskolás anyag, így némi magyarázatra szorul. A normális vagy Gauss-eloszláson nem egyetlen eloszlást értünk, hanem épp a konstansok miatt egy egész „eloszláscsaládot”. Az egyes eloszlások az x-tengely menti elhelyezkedése és szélessége más és más, csak az alakjuk hasonló. A görbe szimmetrikus, haranghoz hasonlít, csúcsa lekerekített, lelapuló ágai minkét oldalon a vízszintes tengelyhez közelítenek. A függvény maximumánál van a várható érték (μ); a görbe inflexiós pontjai pedig a várható érték körül a szórást (σ) jelölik ki. Kitüntetett szerepe van az ún. standard normális eloszlásnak (u-eloszlás), melynél μ=0 és σ=1.

ahol

0

0,2

0,4

0,6

0,8

1

1,2

-6 -4 -2 0 2 4 6

A görbén a pontok által kirajzolt függvény a normális eloszlás kumulált (összegzett) valószínűségeit mutatja: eloszlásfüggvény. A háromszögek pontsora pedig a normális eloszlás sűrűségfüggvényét jelöli. A legnagyobb a „sűrűség” a várható érték körül, itt van a függvénynek maximuma.A standard normális eloszlás u - F(u) függvényértékeit táblázat segítségével tudjuk használni.Ennek használata nélkülözhetetlen (bár nem egyszerű)!

A teljes haranggörbe alatti területet egységnyinek véve, határok közé esik a mért értékek kb. 2/3-a (68,2%-a)

határok közé esik a mért értékek 95,5%-a határok közé esik a mért értékek 99,7%-a.

8

Mintafeladat 2.Gyakorlásképpen ellenőrizzük az F(u) táblázati adatok segítségével a ± 1σ; ± 2σ; ± 3σszórás intervallumokhoz tartozó f(u) sűrűség függvény alatti területeket.

MegoldásLássuk pl. a ± 2σ-t (pontosabban ± 1.96σ) ! A 95 %-os valószínűség jelölése α= 0,05; α/2=0,025; 1- α/2= 0,975; Ezt az értéket keressük a táblázatban. Az u-ra 1.96 adódik. Tehát korábbi állításaink igaznak bizonyulnak, ± 1.96σ alatti sűrűségfüggvény a teljes görbe alatti terület 95%-a. Hasonlóképp kereshetjük ki ± 1σ és ± 3σ értékekhez tartozó görbe alatti területeket is.

9

2. Normális eloszlás, u-próba

A standard normális eloszlás (u-eloszlás), melynél μ=0 és σ=1.

ahol

Az egymintás u-próba azt ellenőrzi, hogy a mintabeli átlag szignifikánsan eltér-e a populáció átlagától (a populációt normális eloszlásúnak feltételezve). A kérdés, hogy különbség a véletlen műve-e?

A próba lépései: 1.) kiszámítása 2.) α-szignifikanciaszint megválasztása (egyoldali,

kétoldali?) 3.) kikeresése táblázatból 4.) ?

(Ha ismerjük a mérésszámot, akkor -el dolgozunk!)

Konfidencia intervallum (1-α): megbízhatóság, elfogadás (pl. 0,95 vagy százalékban: 95%); Szignifikancia szint: kockázat, α-valószínűség, elutasítás (pl. 0,05 vagy százalékban: 5%)

A fentiek kicsit részletesebbenTételezzük fel, hogy a meghatározandó értéket nagy pontossággal (sok méréssel) meghatároztuk. Más szavakkal, ismerjük a várható értéket gyakorlatilag elhanyagolható szórással. A mérésnek nincs szisztematikus hibája. Ez esetben a várható értéket azonosnak tekinthetjük a valódi értékkel, jelöljük ezt μ-vel. Szeretnénk eldönteni, hogy erre az értékre mért középérték (Várható érték) jelentősen tér-e el a μ-től.A kérdésre a választ akkor kaphatjuk meg, ha különbség abszolút értékét szórásával

hasonlítjuk össze. Ha vagy átrendezve .

Ez akkor fordul elő, ha jelentősen („szignifikánsan”) eltér μ-től, hiszen véletlen okok miatt ekkora eltérés 1000 eset közül csak háromszor fordulna elő, így inkább valami rendszeres hibára következtethetünk.

Ha , az eltérés „gyanús”. Ha véletlennek tulajdonítanánk, az esetek 5%-ban lenne

igazunk. Ha , akkor az eltérés inkább jelentéktelennek tekinthető, a mérési módszer

szórásával magyarázható. Ha általánosságban a számok (3, 2) helyett u-t írunk, akkor a fenti egyenlőtlenséget átrendezve egyenlőtlenséget kapjuk, aminek kapcsán jól értelmezhető mit jelent az ”megbízhatóság”. u=1 esetén 68,3; u=2 esetén 95,5 illetve u=3 esetén 99,7% valószínűséggel esik a mérési eredmény az egyenlőtlenséggel megadott határok közé.Kis számú mérési eredmény esetén nem ezeket a határértékeket kell figyelembe venni! (Lásd t-próba).

Mintapélda 1.

10

Egy 70 mg/dm3 koncentrációjú oldat mérése során 2 mg/dm3 szórást mértek ki. Normális eloszlást feltételezve, a mérési eredmények hány %-a esik 71 és 73 mg/dm3 közé?

MegoldásElőször megkeressük az F(u) függvény értékeit az egyes u értékeknél.

illetve

u=0,5-nél F(u)= 0,69146 illetve u=1,5-nél F(u)= 0,93319. F(u2)-F(u1)=0,2417, azaz 24,17% a mérési eredmények esik a megadott intervallumba.

Mintafeladat 2.Egy alkatrész névleges mérete: 40 mm, szórása 0,03 mm. Normális eloszlást feltételezve, a minták mekkora hányada esik 40 ±0,05 intervallumba?

Megoldás

F(u1)= 0,00475 illetve F(u2)= 0,9525; F(u2)-F(u1)=0,9058 így 90,58%-a esik az adott intervallumba.

11

3. Student eloszlás, t-próbaHa egy normális eloszlású sokaságból vett minta sok elemű (n > 120), akkor a mintából számított standard deviáció jól becsüli az elméleti szórást, -t. Ha azonban nem ez a helyzet, a kevesebb elemű mintából becsült s (korrigált tapasztalati szórás) esetén szélesebb konfidencia tartományt kell megadnunk ahhoz, hogy biztonságunk megmaradjon. A helyes összefüggéseket ezekben az esetekben a normális eloszlás helyett a Student eloszlás adja meg, amelynél a megbízhatósági tartományok szélességét megadó t-szorzók a minta elemszámától, pontosabban a minta szabadsági fokától (ν=n-1) függenek (Student: W. S. Gosset matematikus álneve).

A t-próbát akkor alkalmazzuk, ha viszonylag kevés mérési adatunk van, illetve a módszer szórását nem ismerjük (azt a mérési adatsorból határozzuk meg). A kérdés többnyire úgy merül fül, hogy a mérési eredmények középértéke a helyes értéktől jelentősen eltér-e vagy csak a véletlennek tulajdonítható a tapasztalt eltérés.

Az u-próbához hasonlóan járunk el, vagyis az átlag és a várható érték különbségét hasonlítjuk a középérték szórásához.

. A kiszámolt t-értéket a Student-táblázatban található tkritikus értékhez hasonlítjuk. Ha

az általunk kiszámolt t a tkrit-nél kisebb, akkor csak a véletlen okozhatta a tapasztalt eltérést, ellenkező esetben szignifikáns az eltérés.

A Student-táblázatban az első oszlop a szabadsági fokot adja meg (ν=n-1). A megfelelő szabadsági fok sorában kell megkeresnünk azt a tkrit-értéket, melyet a választott megbízhatósági szinthez rendelünk (pl. 95%-os megbízhatóság; egyes táblázatok ezt 0.05 szignifikancia szintként jelölik).

Az előbbieket kicsit tudományosabban úgy fogalmazhatjuk meg, hogy a következő nullhipotézisre keressük a választ.H0 : =μ; Ezzel szemben áll az ellenhipotézis, H1 : ≠μ

A t-próba lépései hasonlóak a korábban megismert u-próbáéval. A tkrit értékeket táblázatból kereshetjük ki.

Figyeljük meg az alábbi ábrát! A feladat során egyoldali vagy kétoldali szignifikancia szinttel kell dolgoznunk! Hogy melyikkel ez a probléma megfogalmazásától függ.

12

Mintapélda 1.Egy gyógyszer hatóanyag tartalma nem lehet kevesebb, mint 99 mg. a.) Ítéljük meg, hogy teljesül-e az előírás 5%-os szignifikancia-szinten, ha mérési adatok a következők: 98.0 97.3 97.5 (tételezzük föl a mérési adatok normális eloszlását).b) Tételezzük föl, hogy a hatóanyag tartalom előírt értéke pontosan 99% (se több, se kevesebb). Teljesül-e ez 95%-os megbízhatósági szinten (a mérési adatok ugyanazok)?

Megoldása.) Student-próbát végzünkÁtlag: 97.6Korr. tapasztalati szórás: 0.3606

Szabadsági fok.(ν)=n-1=2 α/2 = 5%, tehát α = 10% Konfidencia szint 90% Student táblázatból → 2.920

6.72 > 2.92 Nem teljesül az előírás

b.)

Szabadsági fok.(ν)=n-1=2 α = 5% Konfidencia szint 95% Student táblázatból → 4.303

6.72 > 4.303 Nem teljesül az előírás

Mintapélda 2.Véletlenszerűen kiválasztott 10 db 1 kg-os kenyeret dekagrammos pontossággal mértünk le. Feltételezhetjük-e, hogy a véletlen okozza az eltérést, vagy az adagoló rendszer hibája?A mérés eredménye: 98 101 97 99 101 100 98 99 99 96A minta elméleti várható értéke: 100 (dkg).

MegoldásA nullhipotézis: = 100.

= 98,8 dkg s=1,63

13

A Student-táblázat értéke ν= 9 szabadsági foknál 95 % biztonsági szinten t95 = 2,262. 95%-os biztonsággal állíthatjuk, hogy szignifikáns az eltérés, nem a véletlen okozza ezt, az adagoló rosszul van beállítva.

14

4. Kétmintás t-próba, páros t-próba

Két normális eloszlás összehasonlítása az átlagaik és a szórásaik összehasonlítását jelenti. Feltételezi, hogy mindkét adathalmaz szórásnégyzete egyenlőnek tekinthető (statisztikailag). Akkor használjuk, ha meg szeretnénk állapítani, hogy a két minta várható értéke egyenlő-e.

= súlyozott átlagszórás

Kétmintás t-próba: adott két normális eloszlású minta (a minta nagyságok nem feltétlenül egyenlők). Ezeket kívánjuk statisztikailag összehasonlítani.Kétmintás próbával ellenőrizhetjük pl. hogy két töltőgép azonos mennyiségeket tölt-e palackokba.Páros t-próba: Adott két összetartozó normális eloszlású minta. A páros t-próba esetén a fenti képelt egyszerűsödik, hiszen n1=n2. Ha például két iskola tanulóinak testsúlyát szeretnénk összehasonlítani, akkor csak nehezen képzelhető el a tanulók párokba rendezése (nem is beszélve a létszám különbségről). Ugyanakkor egy fogyókúra hatékonyságát célszerű ugyanazon személyek testsúly mérésével megoldani fogyókúra előtt és után. Ez tehát páros t-próba.

A t-próbák nem túl érzékenyek a normalitásra, vagyis az eredmények nem torzulnak sokat, ha az eloszlások kissé eltérnek a normalitástól.

Mintafeladat 1.Két laboratóriumban mérték egy acél titán-tartalmát atomabszorpciós módszerrel. A mért adatok a következők:

I. laboratórium II. laboratórium0.470 % 0.529 %0.448 % 0.490 %0.463 % 0.489%0.449 % 0.521%0.482 % 0.486%0.454 % 0.502%0.477 %0.409 %

a.) Határozzuk meg az egyes laboratóriumok által mért átlagos titán-tartalmat és szórásokat!b.) Ellenőrizzük, hogy a két laboratórium által mért titántartalom-különbség a véletlen műve-e, vagy ekkora eltérést statisztikailag elfogadhatunk 95%-os megbízhatósági szinten (a két labor mérési sorozatának szórásnégyzeteit azonosnak tekinthetjük)!

Megoldása.) I. laboratórium 0.4565; s1=0.0229 II. laboratórium 0.503; s2=0.0182

b.)

15

Táblázat alapján tkrit =(1-0.05/2; 12)=2.18.Mivel a tkrit<tszámított, a két labor közötti eltérés nem magyarázható csupán a véletlennel!

Mintafeladat 2.Két tartályban ugyanazon anyag oldatai vannak. Az első tartályból 5 analízist végzünk. A mért koncentráció átlaga 56.8 g/l; a tapasztalati szórás 2.3 g/l. A második tartályból 7 elemzést végzünk. Az elemzések átlaga 58.0 g/l; a tapasztalati szórás 1.9 g/l (normális eloszlást feltételezünk).a) Vizsgáljuk meg 1%-os szignifikancia szinten a következő feltételezést: az első tartályban 56.8 g/l, a másodikban 59.0 g/l koncentrációjú oldat van.b) Vizsgáljuk meg 1%-os szignifikancia szinten hogy a két tartályban azonos koncentrációjú oldat van.

Megoldásn s

a.) Feltételezés 56,8 g/l 5 56,8 2,3 Feltételezés 59,0 g/l 7 58,0 1,9A második feltételezést kell vizsgálni csak (hisz az első tartályban az átlag megegyezik a feltételezéssel); t-próba (Student-féle t-eloszlás)

Szabadsági fok.(ν)=n-1=6 1-α = 99% Szignifikancia szint (α) = 0,01 Táblázatból → 3,707

1,39 < 3,707 Elfogadható a feltételezés

b) Kétmintás t-próbát végzünkSzabadsági fok

s = 2,069

Szignifikancia szint Táblázatból Elfogadható a feltételezés.

16

5. F-próba

Két adathalmaz szórásának (szórás négyzetének) összehasonlítására szolgál. . A

számlálóba mindig a nagyobb értéket írjuk. F<Fkrit ? Ha igen, feltételezhető a szórások azonossága. A szórásnégyzeteket a statisztikába gyakran varianciának nevezik.Az Fkrit értékeket táblázatból kereshetjük ki.

MintafeladatEgy analitikai eljárás szórásának csökkentésére módosítást vezettek be, ezt kell elbírálni. A következő mérési eredményeket kapták (mg/dm3)

Az eredeti eljárás mérési eredményei A módosított mérési eljárás eredményei5.655 5.6155.660 5.5345.695 5.6775.709 5.5135.646 5.450

Sikeresnek tekinthető-e a módosítás (95 %-os megbízhatósági szinten)?

MegoldásMivel az újítással a szórást szerették volna csökkenteni, a szórásokat kell összehasonlítani F-próbával.Az s1= 0.0274 s1

2=0.00075s2= 0.08898 s2

2=0.00792

Táblázatból: Fkrit=6.39F>Fkrit →A módosított eljárás szórása szignifikánsan nagyobb (nem csak a véletlen műve, hogy nagyobb a módosított eljárás szóródása), nem sikeres a módosítás!

17

6. Egyenes illesztés, kalibrációs görbe, regresszió

Az analitikai kémiában igen gyakori az egyenes illesztés illetve kalibrációs görbe szerkesztése. A spektrofotometriás, gázkromatográfiás stb. mérések során ugyanis a koncentráció – analitikai jel összefüggése lineáris. Mérési pontjainkra akár vonalzóval, akár számítással úgy illesztünk (többnyire) egyenest, hogy a pontoktól minél kisebb távolságra helyezkedjen el. Matematikailag ezt a legkisebb négyzetek módszerével oldhatjuk meg. Lényege, hogy a négyzetösszeg (területösszeg) minimális legyen.

minimum, ahol az egyenesünk egyenlete: y= a+ bx. Az egyenes egyenletében az a a tengelymetszet, a b a meredekség.

Az egyes mérési pontok illeszkedésének szorosságára vezették be a lineáris korrelációs

együtthatót.

A képlet működőképességét könnyű belátni. Ha a változók együtt mozogva térnek el az átlagoktól, akkor a számláló (azaz az átlagoktól való eltérések szorzatának összege) nagy szám lesz. Ha viszont egymástól függetlenül mozognak, akkor kicsi és nagy szorzótényezők egyaránt adódnak, tehát a számláló kicsi lesz. A nevező (a négyzetes eltérések szorzata) normalizáló szerepet játszik: kiküszöböli a változók nagyságrendjéből adódó eltéréseket, a korrelációs együtthatókat összehasonlíthatóvá teszi. A tökéletes egyenesre illeszkedésnél az R értéke 1. Egy kalibrációs görbe esetén már 0,99-nek is nagyon örülünk.

MintapéldaKalibrációs egyenest kell meghatározni „kézi”-módszerrel. Az egyenes egyenlete: y= a+bx

2xx

yyxxb

i

ii -b

Mérési pontjaink a következők:

xi yi

y

Tengelymetszet

x

y = a + bx

Területek összege

Meredekség

18

0,0 0,31,0 2,22,0 3,03,0 4,0

MegoldásCélszerű egy táblázatot készíteni a megadott minta alapján

i xi yi

1 0,0 0,3 -1,5 2,25 -2,075 4,305625 3,11252 1,0 2,2 -0,5 0,25 -0,175 0,030625 0,08753 2,0 3,0 0,5 0,25 0,625 0,390625 0,31254 3,0 4,0 1,5 2,25 1,625 2,640625 2,4375Σ 1,5 2,375 5 7,3675 5,95

-b =0,59 y=0,59+1,19x

Természetesen az EXCEL-program segítségével ugyanezt sokkal gyorsabban is kiszámolhatjuk.Az adatpárok beírása után a diagramvarázslóval kirajzoltatjuk a kalibrációs görbét. Trendvonal felvétele és regresszió (R2). Minél jobban megközelíti a regresszió az 1 értéket, annál jobban illeszkednek mért pontjaink az egyenesre.

Független változó(xi)

Függő változó(yi)

0,0 0,3

1,0 2,2

2,0 3,0

3,0 4,0

Egyenes illesztés y = 1.19x + 0.59R2 = 0.961

0.0

1.0

2.0

3.0

4.0

5.0

0.0 1.0 2.0 3.0 4.0

független változó

függ

ő vá

ltozó

19

Reziduálisok

Az ún. reziduálisok (maradékok) arról adnak felvilágosítást, hogy a becsült egyenes és a ténylegesen mért pontok között milyen eltérés (összefüggés) van. Nézzük ezt táblázatosan és grafikusan is. (A „kalapos”-y az illesztett egyenes pontja).

xi yi

0 0,3 0,59 -0,29 0,08411,0 2,2 1,78 0,42 0,00042,0 3,0 2,97 0,03 0,00093,0 4,0 4,16 -0,16 0,0256Σ 0,8679

Reziduálisok

-0.4-0.3-0.2-0.1

00.10.20.30.40.5

0 1 2 3 4 5

Megfigyelés

Mar

adék

Adatsor1

A reziduálisok diagramja azt mutatja, hogy a maradékok véletlenszerűen helyezkednek el az x-tengely két oldalán. Ha ez nem így lenne, gyanakodhatnánk, hogy az egyenes illesztés nem jó. Ha a maradékok ábrázolása során a pontoknak valamilyen „menete” van, az illesztési hibára utalhat.A reziduálisokat is elővarázsolhatjuk az EXCEL segítségével (Eszközök/Adatelemzés/Regresszió – Ezen belül Reziduálisok /Maradékok –ki kell pipálni).MARADÉK TÁBLA

MegfigyelésBecsült

Y Maradékok1 0.59 -0.292 1.78 0.42

3 2.97 0.034 4.16 -0.16

A reziduálisok szórását (ez a statisztikai mérőszáma annak, hogy a mérési pontjaink mennyire térnek el az illesztett egyenestől) az alábbi képlettel számolhatjuk ki.

20

Leolvasás a kalibrációs görbéről, hibahatárok

A kalibrációs görbét többnyire arra használjuk, hogy egy ismeretlen minta „válaszjele” alapján megmondjuk a vizsgált komponens koncentrációját. Ám a kalibrációs görbe köré – ha korrektek akarunk lenni) egy ún. jóslási sávot kell rajzolnunk, melyen belül a kalibrációs görbe adott valószínűséggel (pl. 95%) elhelyezkedik. Ez persze a leolvasott koncentrációra is hatással lesz. Az x0 az alábbi képlettel számítható intervallumban lesz

N az ismeretlen minta méréseinek ismétlési száman a kalibráló adatsor mintaszámab az illesztett görbe meredeksége

Mintapélda

Egy fotometriás mérés kalibrációs görbéjének adatai a következők. A koncentrációk mg/dm3-ben értendők.

Koncentráció 2,56 5,12 8,19 10,24 12.80Abszorbancia 0,320 0,591 0,920 1,135 1,396

Az ismeretlen mintára 0,871-es abszorbanciát mértünk. Határozzuk meg a kalibrációs egyenest valamint az ismeretlen minta koncentrációját 95 %-os konfidencia intervallumával.

Megoldás

xi yi

2,56 0,320 28,509 0,232 -0,00306 9,344.10-6

5,12 0,591 7,725 0,593 -0,00182 3,327.10-6

21

Koncentráció mg/dm3

az 95%-os megbízhatósági intervalluma

Válaszjel

8,19 0,920 0,086 0,917 0,00346 1,194.10-5

10,24 1,135 5,478 1,132 0,00264 6,977.10-6

12,80 1,396 24,016 1,402 -0,00613 3,753.10-5

Σ Σ7,782 0,8722 65,814 6,912.10-5

Az egyenes egyenlete alapján (y=0,0526+0,1053x) az ismeretlen abszorbanciához tartozó

koncentráció:

A Student táblázatból t(α,ν)=t(0.05,4)=2,776

Az ismeretlen minta tehát 7,77 ± 2,776.0,0499 mg/dm3 koncentrációjú

22

7. Validálás

A validálás annak a dokumentált bizonyítása, hogy az adott eljárás (analitikai módszer) megfelel az előre rögzített minőségi jellemzőknek és követelményeknek.Egy analitikai módszer validálásakor tanulmányozzuk a módszer teljesítményjellemzőit és igazoljuk, hogy a módszer alkalmas az adott analitikai feladatra.

Minden analitikai mérés célja, hogy helyes mérési eredményt kapjunk. Egy mérési eredmény akkor helyes, ha torzítatlanul (pontosan) a valódi értéket mérjük, megfelelő precizitással. A validálás során a fent említett két legfontosabb teljesítményjellemző vizsgálatát még néhány továbbival is ki kell egészíteni.

Torzítatlanság (Accuracy)Precizitás (Precision)

- Ismételhetőség (Repeability) - Intermediate Precision - Reprodukálhatóság

Szelektivitás/Specifikusság Linearitás (Linearity)Kimutatási határ (Detection limit)Meghatározási határ (Determination limit)Állóképesség/Zavartűrés (Robustness/Ruggedness)

(A gyakorlatban sokszor nehézséget okoz a precizitás és pontosság fogalmak közti különbségtétel. A pontosság (torzítatlanság) arra vonatkozik, hogy az eredményeink a megfelelő (valódi) érték körül szóródnak. Precíznek akkor nevezünk egy módszert, ha a mérési eredmények szórása megfelel a támasztott követelményeknek.)

Az analitikai teljesítményjellemzők vizsgálata

Meghatározásuk megfelelő referencia anyagok segítségével történhet. A referencia anyag lehet: CRM – Certified Reference Material, Házi referencia anyag (CRM-mel összemért).

A továbbiakban titrálások validálásával kapcsolatos példákat találunk.Például a titrálás validálásához olyan referencia anyagot válasszunk, mely:

jól definiált összetételű és nagy tisztaságú nagy a moláris tömege (csökken a bemérés relatív hibája) pontosan és jól bemérhető (pl. nem higroszkópos) jól oldható és oldata stabil reakciója a mérőoldattal gyors és sztöchiometrikusan megy végbe.

Szelektivitás/specifikusság:Szelektív az a módszer, amely a vizsgálandó anyagot az egyéb jelenlevő komponensektől elválasztva kvantitatívan képes mérni. Specifikus az a módszer, amely kizárólag az analizálandó anyag mérési jelét értékeli, a többi jelenlevő komponens figyelembe vétele nélkül. A

23

szelektivitás kérdését általában a jól kidolgozott klasszikus analitikai irodalmak alapján értékelhetjük.

A kimutatási határ a mért alkotónak az a legkisebb mennyisége, mely az adott módszerrel megbízhatóan megkülönböztethető a vak mintától. Ez normális eloszlást feltételezve a vak minta szórásának háromszorosa. Gyakorlatban 12-20 vakmintát mérünk, és ebből számoljuk a szórást, illetve annak háromszorosát.

A meghatározási határ az a legkisebb koncentráció, amit még megbízhatóan meg tudunk határozni. Praktikusabban fogalmazva az a határkoncentráció, mely a vakminta válaszjelétől a szórás tízszeresével nagyobb.Legtöbb titrálás esetén a meghatározási határ inkább akadémikus kérdés. Természetesen kimérhető, ha a vizsgálati minta mennyiségét fokozatosan csökkentjük. Gyakorlatban a fent említett definíciótól eltérően keressük azt a legkisebb mérhető anyagmennyiséget, amit RSD<3.0% pontosan tudunk mérni (lásd a korábbi, pontosságnál meghatározott kritériumot). A kimutatási határértéket többek között befolyásolja az alkalmazott büretta mérete és a mérőoldat koncentrációja is.

LinearitásA módszer linearitása azt jelzi, hogy a vizsgált tartományban lineáris összefüggés van a mért analitikai jel (vagy annak matematikai traszformáltja) és a minta koncentrációja (vagy a közvetlenül bemért tömeg) között.

Titrálások esetén pl. gyógyszerkönyvek általában azt adják meg követelményként, hogy a meghatározandó alkotóra fogyott mérőoldat mennyisége az alkalmazott büretta térfogatának 70%-a körül legyen. Itt kell figyelembe venni a rendelkezésünkre álló minta mennyiségét, az alkalmazni kívánt büretta térfogatát, és a szükséges mérőoldat koncentrációját (ne feledkezzünk meg a molekula egyenérték tömegéről sem!). Ezeket kell a fenti kritériumnak megfelelően összehangolni, és így kiszámolni a titrálandó anyag mennyiségét.Ha ez megtörtént, a kiszámított bemérést tekintsük 100%-nak, és e körül, 50-130%-os bemérés tartományban (ami megfelel a büretta térfogat 20-100% tartományának) kell elvégezni a linearitás vizsgálatát 7-8 pontban, pontonként minimum 2 független bemérésből. (Ez azt jelenti, hogy ha hígításra van szükség, a párhuzamosokhoz külön bemérésre, és ezekből külön-külön hígításra van szükség.)Az eredmények elemzését regresszió analízissel végezzük el, követelmény, hogy a maradékok tendencia nélkül, azaz véletlenszerűen szóródjanak a nulla vonal körül, és a korrelációs koefficiens (R) >0.99. (Lásd lent.)

Linearitás vizsgálat esetén bármely komolyabb statisztikai analízis előtt rajzoljuk fel a koncentráció/bemért tömeg (x-tengely) – analitikai jel (mV, fogyás) (y-tengely) diagramot. Ebből “szemre” is jól következtethetünk a linearitásra. Matematikai módszerekkel persze pontosabb eredményre jutunk.Egy egyenes egyenlete az y=a+bx egyenlettel írható le, ahol az a a tengelymetszetet jelöli, a b egyenes meredeksége.

Egy egyszerű mintapéldán és az EXCEL program használatával nézzük az egyik legegyszerűbb megoldást. Az Excel program behívása után gépeljük be az adatsort, majd indítsuk el a diagramvarázslót (Diagramtípus: Pont(XY)). A görbe felvétele után az egyenesre vigyük a kurzort és az egér bal gombjának segítségével, vegyük föl a “trendvonalat”. (Trendvonal felvétel: lineáris; Egyebek: Egyenlet látszik a diagramon; R-négyzet érték látszik a diagramon)

Koncentráció Analitikai

24

jel(mg/L) (mV)2.56 32.05.12 59.18.19 92.010.24 113.512.80 139.6

A fentiek alapján az egyenes egyenlete: y= 10.535x+5.2578 illetve R2= 0.9999.

Az R2 minél jobban megközelíti az 1-et, annál jobban illeszkedik az egyenes a mérési adatorra. Ha R2 > 0.995 a titrálási módszerünk az adott tartományban lineárisnak tekinthető. A korrelációs illetve determinációs együtthatóról részletesebben matematikai statisztika könyvekből tájékozódhatunk (pl. Kemény-Deák: Kísérletek tervezése és értékelése; Műszaki Könyvkiadó, 2000)

A korrelációs együttható négyzete szigorúan véve nem a linearitást méri, hanem az adatsorra illesztett függvény illeszkedésének jóságát. Természetesen mivel az illesztett függvény (lineáris) egyenes, jelen esetben az R2 a linearitásra utal. (Egyes irodalmak az R2-et regressziós együtthatónak nevezik).

A linearitás vizsgálatot még alaposabban elvégezhetjük, ha az Excel program Eszközök/Adatelemzés/Regresszió funkcióját választjuk és azon belül vizsgáljuk az ún. Reziduálisokat (Maradékok). Például a reziduumokat a mérések sorrendjében ábrázolva azt is ellenőrizhetjük, hogy a mérési hibáknak nincs-e egyirányú menete. Vagy ha a reziduumok azonos szélességű sávban ingadoznak, a szórás állandóságára következtethetünk. Mindezekről bővebben a fent említett könyvben találhatunk részleteket.

Megfigyelés Becsült Y Maradékok1 32.22705 -0.227052 59.19625 -0.096253 91.53822 0.4617844 113.1346 0.3653545 140.1038 -0.50385

Nézzük a linearitás vizsgálatát „x” alapanyag potenciometriás titrálással történő hatóanyag tartalom meghatározási módszerének validálási példáján (büretta térfogata: 10 ml).

A linearitás bizonyításához a méréseket az X alapanyagból, a módszerben megadott bemérés (melyet 100%-nak tekintünk) 30-130%-os tartományában, 8 pontban (30, 45, 60, 75, 90, 105, 120, 130%), pontonként 2 független bemérés randomizált mérésével végezzük.

Sorszám Bemért minta mennyisége (g)

Mérőoldat fogyása (ml)

Regresszióból számolt fogyás

Két fogyás különbsége

25

(Maradék/Reziduális)

1 0,17500 5,055 5,039264 0,0157362 0,14039 4,045 4,047773 -0,002773 0,10500 3,030 3,033937 -0,003944 0,31241 8,958 8,975721 -0,017725 0,14016 4,032 4,041184 -0,009186 0,24534 7,067 7,054331 0,0126697 0,17515 5,041 5,043561 -0,002568 0,28457 8,180 8,178174 0,0018269 0,07021 2,032 2,037289 -0,0052910 0,21045 6,059 6,054819 0,00418111 0,31524 9,051 9,056794 -0,0057912 0,10635 3,069 3,072611 -0,0036113 0,21009 6,047 6,044506 0,00249414 0,07069 2,053 2,05104 0,0019615 0,29125 8,365 8,36954 -0,0045416 0,24510 7,064 7,047456 0,016544

A regressziós egyenes ábrázolása: A reziduálisok ábrázolása:

Az egyenes paraméterei Becsült érték: Konfidencia intervallum:

(P=95%)Meredekség: 28,6475 28,5853 – 28,7098Tengelymetszet: 0,0259 0,0129 – 0,0390Korrelációs koefficiens: 0,9999Regressziós egyenes egyenlete: Y= 28,6475*X+0,0259

A reziduálisok véletlenszerűen, tendencia nélkül szóródnak a regressziós „0” vonal körül. A módszer lineáris a mérési koncentráció 30-130 %-os tartományában.

TorzítatlanságA torzítatlanság azt fejezi ki, hogy a mérési eredmény mennyire közelíti meg a valódi értéket. A torzítatlanság vizsgálata deríthet fényt a mérés rendszeres hibájára (mely lehet additív, lineáris, nem lineáris). A torzítatlanságot egyes irodalmak helyességnek is nevezik.

Gyakorlatban érdemes a linearitás vizsgálata során nyert adatok felhasználásával ellenőrizni ezt a paramétert. Vizsgáljuk a bemért és a mérőoldat fogyásból számított anyagmennyiség megegyezőségét.Követelmény:

Korrelációs koefficiens (R) > 0,99. Tengelymetszet konfidencia intervalluma tartalmazza a 0-t (additív hiba);

26

Meredekség konfidencia intervalluma tartalmazza az 1-t (lineárisan arányos hiba); Reziduálisok véletlenszerűen, egyenletesen szóródjanak a „0” körül (nem lineárisan

arányos hiba);

Lineárisan arányos hiba

*100

bobs: az egyenes meredeksége (ml/g)btheor: meredekség elméleti értéke (ml/g)

rrtheor CM

Zb *1000

Z: sztöchiometriai faktor: 1

Műszeres:<0,3%

Vizuális: <0,5%

Additív hiba*100

aobs: az egyenes tengelymetszete (ml)VT: a módszer várt titrálási térfogata (ml)

Műszeres:<0,4%

Vizuális: <0,6%

Véletlen hiba

*100

ahol2

)(

nSdd

VSdv

2)( iobsobsi mbaVSddn: mérések száma

Vi= a mintára fogyott mérőoldat korrigált térfogata (ml)

mi= a bemért minta (g)

Műszeres:<0,3%

Vizuális: <0,5%

Additív hibát okozhat potenciometriás titrálás esetében a túl gyors titrálási sebesség, és a nem megfelelő elektród, vizuális titrálás esetében, pedig a nem megfelelő indikátor.Abban az esetben, ha nincs lineárisan arányos hiba és additív hiba, akkor az alábbi képlettel számoljuk ki a „Practical Relative Error”-t (Relative Accuracy):

Ennek a hibának a követelményeit az alábbi táblázat tartalmazza:Titrálás típusa Ismételhetőség

(RSD)Sav/bázis ±0,67Nem vizes ±0,67Redox ±1,0Argentometriás ±1,0Komplexometriás ±1,33

A linearitásnál ismertetett adatok alapján a torzítatlanság ellenőrzése a példánkon:

Sorszám mi Vkorrig. (Vi-aobs-bobs*mi)2

1 0,17500 5,042 0,0002476392 0,14039 4,032 7,68647E-063 0,10500 3,017 1,54949E-054 0,31241 8,945 0,000314018

27

5 0,14016 4,019 8,4337E-056 0,24534 7,054 0,0001605117 0,17515 5,028 6,55663E-068 0,28457 8,167 3,33674E-069 0,07021 2,019 2,79713E-0510 0,21045 6,046 1,74858E-0511 0,31524 9,038 3,35597E-0512 0,10635 3,056 1,30359E-0513 0,21009 6,034 6,22358E-0614 0,07069 2,040 3,84314E-0615 0,29125 8,352 2,06009E-0516 0,24510 7,051 0,000273727

A regressziós egyenes ábrázolása: aobs: 0,012946 Sdd: 0,001236bobs: 28,64753 Sdv(V): 0,009396

Lineárisan arányos hiba *100 0,09% <0,3%

Additív hiba *100 0,18% <0,4%

Véletlen hiba *100 0,13% <0,3%

A mérés torzítatlan a névleges bemérés 30-130 %-os tartományában.

PontosságA vizsgált módszer pontossága a mérési eredmények középérték körüli szóródására jellemző és az eljárás véletlen hibáját jelzi. Gyakorlatban három szinten szoktuk értékelni:

Ha olyan mérési sorozatból számítjuk a szórást, melyet ugyanazon a napon, ugyanabban a laborban, ugyanazzal a módszerrel, ugyanazon műszeren, ugyanaz az analitikus végzett, akkor ismételhetőségről beszélünk.A ismételhetőség megítélésére tapasztalati szórást illetve RSD-t számítunk, általában 7 független, párhuzamos mérést alkalmazunk.

A különböző titrálás típusok esetén más és más az elvárás:

Titrálás típusa Ismételhetőség (RSD)

Sav/bázis <0,33Nem vizes <0,33Redox <0,5Argentometriás <0,5

28

Komplexometriás <0,67

Intermediate precision-ról akkor beszélünk, ha csak egy paramétert változtatunk. analitikusok közti ismételhetőség (ugyan azon napon, ugyan abból a sorozatból,

független bemérésekből, azonos műszeren, azonos módszerrel), abban az esetben, ha az adott vizsgálatot több analitikus végezheti;

napok közti ismételhetőség (majdnem azonos az előbb ismertetettel, de egy analitikus végzi, különböző napokon).

Ezekben az esetekben 3-3 független párhuzamos bemérésből dolgozunk, és az eredmények jellemzésére a csoportok közti és a csoporton belüli szórást, valamint az összes (adott típuson belüli) mérési eredmény RSD használjuk. Ezek után variancia- analízissel ellenőrizzük a csoportok eredményeinek azonosságát. (Általában 95%-os konfidenciaszinten.)

Ha a minta és az analitikai módszer azonos, de az eredményeket különböző laborokban különböző személyek kapták, akkor a szórás a reprodukálhatóságot írja le. (Ennek olyan módszerek esetében van értelme, amit több labor is használ! Pl.: gyógyszerkönyvbe kerülés előtt.)

Állékonyság/zavartűrés Azt fejezi ki, hogy a módszer milyen mértékben tartja meg (az előírás szerinti, de kis mértékben változó felhasználási körülmények között is) a megbízhatóságát. Ha például különböző laboratóriumok ugyanazt a módszert alkalmazzák, a kísérleti paraméterek kis mértékben különbözni fognak a felhasznált eszközök és laboratóriumi eltérések miatt. Emiatt szinte elkerülhetetlenek apró eltérések, amiknek hatása lehet a módszer teljesítményére. A kísérleti paraméterek azonban egy laboron belül is változhatnak (hőmérséklet, oldószer stb.)A módszer zavartűrését úgy vizsgáljuk, hogy szándékosan változtatunk a módszer paramétereiben és vizsgáljuk azok következményeit.Sav-bázis titrálások esetén például feltétlenül érdemes vizsgálni a levegő (CO2) befolyásának hatását nemcsak a módszerre, hanem ha pl. NaOH mérőoldatot használunk, annak karbonátosodására.Validálások során a fentinél még általánosabb az elkészített oldatok stabilitásának vizsgálata (Állékonyság), vagy a titrálási sebesség megváltoztatásának (Zavartűrés) hatása.

Az oldatstabilitást legegyszerűbben úgy ellenőrizhetjük le, hogy a randomizált sorrendben bemért anyagmennyiséget ismert időközökkel oldjuk be, miközben ezzel párhuzamosan elkezdjük a titrálást is. Így az első mérés lesz a nulla időpont, az utolsó pedig megadja, hogy ez idő alatt stabil-e, vagy sem az oldat. A mi példánkon bemutatva ezt:

Sorszám Eltelt idő (perc)

Mért tartalom (%)

1 0 100,492 12,5 100,173 22,25 100,224 29 99,865 37,75 100,016 45,5 100,287 52,25 100,128 61 100,099 67,75 100,3010 75,5 100,2011 83,25 99,99

29

12 90 100,2213 97,75 100,1714 105,5 100,6615 112,25 100,0116 119 100,33

A titrálási sebesség (vagy bármely befolyásoló paraméter pl. hőmérséklet) hatására 3 különböző sebességnél végzünk 3-3 független, párhuzamos mérést, és ezek eredményeit hasonlítjuk össze a csoportok közti, csoporton belüli szórásokkal, valamint variancia analízissel ellenőrizzük a csoportok eredményeinek azonosságát. (Általában 95%-os konfidenciaszinten.)

30

Mintapélda Két laborban ugyanazon a mintán végeznek méréseket az ismételhetőség bizonyítására. A mért eredmények a következők.

I. laboratórium II. laboratórium31,5 31,532,0 32,231,6 31,432,2 32,532,4 32,931,4 31,634.8 32,032,0 32,4

I. laboratórium 31,86; s1=0,35II. laboratórium 32,06; s2=0,53

Fkrit= 3,79 ; a szórások eltérése véletlenszerű, a mérés ismételhetősége

megfelelő.Ha az átlagok közötti eltérést is keresnénk, páros t-próbát végzünk. sd=0,449, t=0,89; tkrit= 2,365. A mérési pontosságban sincs szignifikáns eltérés!

31

8. Mérési bizonytalanság

A mérési bizonytalanság: "a mérési eredményhez társított azon paraméter, amely a mérendő mennyiségnek ésszerűen tulajdonítható értékek szóródását jellemzi." Figyelembe veszi az összes – mérés során felmerülő – mérési hibaforrásokat.

Térfogatmérő eszközök (gyártói tűrések)Mérőlombik 100 cm3 A-jelű ±0,08 cm3

Mérőlombik 100 cm3 B-jelű ±0,16 cm3

Mérőlombik 250 cm3 A-jelű ±0,15 cm3

Mérőlombik 250 cm3 B-jelű ±0,3 cm3

Pipetta 25 cm3 A-jelű ±0,03 cm3

Pipetta 25 cm3 B-jelű ±0,06 cm3

Büretta 50 cm3 A-jelű ±0,05 cm3

Büretta 50 cm3 B-jelű ±0,1 cm3

Mintapélda 1.Mennyi egy „B”-jelű 25 cm3-es pipetta kiterjesztett mérési bizonytalansága, mellyel 5 párhuzamos mérést végeztünk (gravimetriásan)? A mért (illetve az adott hőmérsékleten a sűrűség segítségével számolt) térfogatok a következők: 25,02 24,99 25,03 25,02 24,96 cm3.

Megoldás 25,00 cm3; s= 0,029 cm3

A B-jelű pipetta tűrése (táblázatból): ± 0,06 cm3 A tűrést szórás-jellegű adattá kell konvertálni. A tűrés egyenletes eloszlású, ebből (külön magyarázat nélkül) -mal való osztással kapunk

szórást (standard bizonytalanságot), vagyis cm3. A két szórás együttes ún.

kombinált mérési bizonytalansága a hibaterjedés törvénye alapján összegezhető = cm3.

95%-os megbízhatósági szinthez k=2-es szorzó tartozik. Így 95%-osmegbízhatósági szinten a kiterjesztett mérési bizonytalanság: 2x0,045= 0,091 cm3.A pipettánk (100 mérésből 95 esetben) 24,91 ill. 25,09 cm3 közötti folyadék mennyiséget adagol.

Mintapélda 2.

0,1 mol/dm3-es NaOH oldattal, titrálással határozzuk meg a sósav oldatunk koncentrációját. Az NaOH mérőoldat cp-jét 99,5% tisztaságú KH-ftaláttal faktorozzuk (Bemérünk 5,105 g KH-ftalátot 250 cm3-es mérőlombikba, ebből 25,0 cm3-t kipipettázva, az NaOH fogyása: 25,15 cm3).Az ismeretlen sósavból is 25,0 cm3-eket titrálunk meg a már ismert cp-jú NaOH-val. A fogyások átlaga: 25, 66 cm3. Mennyi a mérési eljárásunk kiterjesztett mérési bizonytalansága (illetve a sósav-oldat koncentrációja)?

Megoldás Csak azonos mértékegységű mérési bizonytalanságok összegezhetők. Itt célszerű relatív standard bizonytalanságokra áttérni. A %-ok már összegezhetők a hibaterjedés törvénye szerint.Táblázatosan az egyes (figyelembe veendő) mérési bizonytalanságok az alábbiak:

32

A mérési bizonytalanság

forrásaÉrték Mérési

bizonytalanságRelatív m.

bizonytalanság (%)KH-ftalát tisztasága 99,5% 0,14%* 0,14 %KH-ftalát tömege 5,105 g 0,0016 g** 0,031 %KH-ftalát oldat

térfogata250 cm3 0,18 cm3*** 0,072 %

A cp-hez használt KH-ftalát térfogata

25,0 cm3 0,042 cm3 0,17 %

Az NaOH cp-kor leolvasott térfogat

25,15 cm3 0,13 cm3**** 0,52 %

Titrált HCl-oldat 25,0 cm3 0,042 cm3 0,17 %A HCl-oldatra fogyott

NaOH térfogata25,66 cm3 0,13 cm3 0,51 %

95%-os megbízhatósági szinten k=2 >> 2x 0,87%= 1,56 %. Ez azt jelenti, hogy a 0,1 mol/dm3-es oldat kiterjesztett mérési bizonytalansága 0,00156 mol/dm3.A fenti adatokkal a HCl-oldat koncentrációja kiterjesztett mérési bizonytalansággal:

0,102 ±0,0016 mol/dm3

* A titer-alapanyag tisztaságának mérési bizonytalanságát a következő képlettel számoljuk:

** A mérleg kalibráció bizonyítványa alapján szórás 0,0015 gprecizitás (0,5x utolsó digit) 0,0005 gleolvasási pontosság(0,5x utolsó digit/ ) 0,0003 g >>0,0016 g

*** B-jelű 250 cm3-es mérőlombik st. bizonytalanság 0,3/ = 0,173 cm3

jelre töltés pontosság (korábbi mérés) 0,05 cm3

33

9. Kiegészítések

Bár eddig csak a normális (Gauss) eloszlással foglalkoztunk, de fontos megjegyezni, hogy nemcsak ez az eloszlásfajta létezik, bár tény, hogy ez a leggyakoribb.

9.1.1 Egyenletes eloszlásKépzeljük el a következőt: egy szabályos kockával dobunk. Egyformán 1/6 a gyakorisága annak, hogy a dobás eredménye 1-2-3...illetve 6, vagyis bármely szám (1 és 6 között) egyenletesen kell eloszlani. Folytonos változóra áttérve pl. valós számok egészre kerekítésénél ugyanez a helyzet. Az analitikai gyakorlatban minden digitálisan kijelzett érték utolsó helyi-értéke ilyen kerekített értéknek tekinthető, tehát az utolsó digit egyenletes eloszlásúnak tekinthető. Az egyenletes

eloszlás várható értéke (x±a tartományban): (a+a)/2; szórása:

9.1.2 Háromszög (Simpson) eloszlásHa két teljesen egyforma kockát feldobunk, akkor milyen lesz a dobott számok összegének eloszlása? A tizenegy lehetőség már nem egyforma gyakran fordul elő, a 7-es várható leggyakrabban, míg a 2-es és a 12-es legkevésbé. Ez egy tipikus háromszög eloszlás.

Ennek az eloszlásnak a szórása (x±a tartományban): .

Mérőlombikok, büretták tűrését pl. 100 cm3±0,08 cm3 szokás egyenletes eloszlással, de még célszerűbb háromszög eloszlással becsülni. Vagyis szórássá alakítása -al való osztással számolható: u= 0,08/ = 0,033 cm3, de nem hiba az u= 0,08/ = 0,046 cm3 számítási módszer sem!

a) Egyenletes eloszlás b) Háromszög eloszlás Az ábrán a sötétebb sávok a ±σ tartományt jeltik

9.1.3 Exponenciális eloszlásIlyen típusú eloszlás véletlen hosszúságú időtartamok eloszlásaként lép fel. Pl. radioaktív bomlás.

9.1.4 Binomiális eloszlás akkor használható, ha a vett minta eleme kétféle lehet (pénzérme feldobása)

9.1.5 Poisson eloszlás – ritka események modellezésre használható (pl. üzemi balesetek).A két utolsó eloszlás ún. diszkrét eloszlás.9.2 Varianciaanalízis

34

A variancia analízis a matematikai statisztikai eljárások között kiemelkedő jelentőséggel bír. Nemcsak egy egyszerű hipotézisvizsgálat, hanem bonyolult gyakorlati problémák (pl. kísérlettervezés) elemzésére, értékelésére használható módszer.A variancia analízis eredményeinek összefoglalására gyakran alkalmazzák az ún. szórásfelbontó táblázatot, amit az angol szakkifejezés rövidítéséből ANOVA táblának szokás nevezni.Ilyen típusú probléma lehet pl. ha egy betongyárba 4 cementgyárból vásárolnak cementet. A cement minőségét próbakockák nyomószilárdsági adatainak összevetésével ellenőrzik. Eldöntendő, hogy van-e különbség a beszállítók között.A varianciaanalízisről részletesebben szakkönyvekből tájékozódhatunk.

9.3 Kiugró értékek kezelése (Dixon-teszt)

A Dixon-féle Q-teszt során a Q=köz/terjedelem mennyiséget számoljuk ki és egy táblázatból vett Qkrit értékkel hasonlítjuk össze. Ha Q>Q krit, akkor a gyanús, kiugró adat elhagyható (terjedelem: a legnagyobb és legkisebb elem közötti különbség, a köz a gyanús és a legközelebbi szomszédja közötti különbség).

35

Példatár

36

► 1/1. feladat

Egy oldat ismételt spektrofotometriás mérései során az alábbi abszorbancia értékeket mértük.

Mérésszám Mért érték (A) Mérésszám Mért érték (A)1 0.3410 9 0.34302 0.3350 10 0.34203 0.3470 11 0.35604 0.3590 12 0.35005 0.3530 13 0.36306 0.3460 14 0.35307 0.3470 15 0.34808 0.3460

Az egyes méréseket a könnyebb áttekinthetőség érdekében besoroljuk 12 osztályba, kiszámolva az egyes osztályokban való előfordulásuk gyakoriságát illetve relatív gyakoriságát, majd ezt ábrázoljuk egy ún. hisztogramm segítségével.

Osztályköz Gyakoriság Rel. gyakoriság (%)0.3300 – 0.33330.3333 – 0.33670.3367 – 0.34000.3400 – 0.34330.3433 – 0.34670.3467 – 0.35000.3500 – 0.35330.3533 – 0.35670.3567 – 0.36000.3600 – 0.36330.3633 – 0.36670.3667 – 0.3700

► 1/2. feladat

50 hallgató vizsgatesztjének eredménye (pontokban megadva)

63 57 63 69 53 63 79 68 51 6172 57 71 65 67 64 51 58 64 5258 66 63 64 65 58 64 67 57 7069 57 65 64 86 58 66 84 70 5976 64 71 75 79 59 67 66 65 51

Alkalmas osztályszélesség megválasztásával készítsük el az adatok gyakorisági eloszlását, tapasztalati eloszlásfüggvényét!

37

► 1/3. feladat

Egy présgépen d=24 mm átmérőjű korongokat kell gyártani. A korongok a véletlenszerű fizikai hatások következtében eltérőek lehetnek. Az elkészült korongok közül 35 mintát lemértünk és 23,80 és 24,20 mm közötti értékeket kaptunk. 0,08 mm-es osztályközöket képezve csoportosítottuk az eredményeket.

Osztályköz Gyakoriság rel. gyakoriság Σ rel.gyakoriság1 23,80-23,88 2 2/35 2/352 23,88-23,96 7 7/35 9/353 23,96-24,04 15 15/35 24/354 24,04-24,12 8 8/35 32/355 24,12-24,20 3 3/35 35/35

n=35 Ábrázoljuk az osztályközök függvényében a gyakoriságot, relatív gyakoriságot ill. a Σ relatív gyakoriságot !

►1/4. feladat

Gyógyszergyárban drazsírozáskor a magra porlasztásos módszerrel cukorbevonatot hordanak fel. Fontos paraméter a réteg vastagsága, mert az a biológiai hasznosítást jelentősen befolyásolja. Az előírás 100±30 mikron. A folyamat ellenőrzésére 25 elemű mintát vizsgáltak.

Az adatok a táblázatban találhatók mikronban megadva.

74 93 116 108 97

91 78 116 96 127

99 95 92 148 121

112 99 74 100 119

84 120 108 131 99

Készítsen relatív gyakorisági hisztogramot az adatok felhasználásával!Töltse ki a következő táblázatot!

Osztály GyakoriságHatár Közép Abszolút Relatív%

65 – 7575 - 8585 - 9595 - 105105 - 115115 - 125125 - 135135 - 145145 - 155

38

► 1/5. feladat

16 párhuzamos mérési adatunk van, melynek értékei az alábbi táblázatban láthatók.

Mérés-szám

Mért érték (mg/dm3)

Mérés-szám

Mért érték (mg/dm3)

1. 3.41 9. 3.462. 3.35 10. 3.433. 3.47 11. 3.424. 3.59 12. 3.485. 3.37 13. 3.566. 3.53 14. 3.507. 3.46 15. 3.638. 3.47 16. 3.53

Készítsünk a fenti adatokból hisztogrammot (javasolt 10-12 osztály)!

► 1/6. feladat

Gyógyszertablettázó gép 200±10 mg tömegű tablettákat készít. A folyamat ellenőrzésére 25 elemű mintát vesznek. A minta adatai mg-ban193,6 201,5 197,3 201 199,2203 202,6 191,8 205,5 199,6193,5 208,1 189,3 200,3 200,7191,2 203,8 197,3 200 198,6195,3 202,8 203,1 196,5 196,1

Egészítse ki az alábbi mondatot! A hisztogramon a vízszintes tengelyen az ………………………., a függőleges tengelyen a …………………………. Ábrázoljuk. Az oszlop magassága arányos a …………………… az osztályba tartozó adatok számával.Készítsen gyakorisági hisztogramot az adatok felhasználásával! Töltse ki a következő táblázatot!

Osztály Gyakoriság Kumulált gyakoriságHatár Közép Abszolút Relatív% Abszolút Relatív%189-191

39

► 1/7. feladat

Rajzoltassuk meg az EXCEL táblázatkezelő program segítségével a normális eloszlás sűrűségfüggvényét -5 és +5 értéktartományban (0.1 osztásközzel).

► 1/8. feladat

Egy üvegtöltő automata minden nap 2400 üveget tölt meg (a beállított töltőtömeg: μ=524.0 g). Korábbi mérések alapján a szórás σ=0.7 g. A minőség-ellenőrzési osztály által megadott tűrés az 524,0-tól lefelé és fölfelé egyaránt 1.4 g. a.) Hány darab selejtes üveg várható egy napon?b.) Mennyire kellene a tűrésmezőt bővíteni, hogy a selejtesnek minősített üvegek száma 7 alá csökkenjen (naponta)?

► 1/9. feladat

Gyakorlásképpen ellenőrizzük az F(u) táblázati adatok segítségével a ± 1σ; ± 2σ; ± 3σszórás intervallumokhoz tartozó f(u) sűrűség függvény alatti területeket (Ne feledjük, az eloszlásfüggvényt nagy F-el, a sűrűség függvényt kis f-el jelöljük).

►1/10. feladat

A normális eloszlás sűrűségfüggvénye alatti terület 90%-a milyen szimmetrikus intervallumot jelöl ki (u= ±?)?

40

Átlag, medián, szórás, RSD, terjedelem

► 2/1. feladat

NaOH-oldat pontos koncentrációját határozzuk meg KH-ftalátra. Bemérünk 4.8327 g KH-ftalátot 250 cm3-es mérőlombikba. Ebből 25 cm3-eket titrálunk. A három párhuzamos mérés (NaOH fogyás) adatai: 21,23; 21,29; 21,19 cm3. Mennyi az NaOH- oldat pontos koncentrációja (átlag), szórása (korrigált tapasztalati szórás) és RSD-je?

► 2/2. feladat

Egy ismeretlen koncentrációjú (egyértékű) sav 25 cm3-eit az előbbi példában használt NaOH-val titrálunk. Fogyások rendre: 18,36; 18,29; 18,41 cm3. Mennyi a sav pontos koncentrációja (átlag), a koncentráció (átlagának!) szórása és RSD-je?

► 2/3. feladat

Ellenőrző laboratóriumban egy szennyvíz pH-ját mérik. A mérési eredmények a következők: 5,8; 6,1; 5,9; 6,3; 5,7; 6,2; 6,4; 6,4; 6,0; 5,5. A mérési eredmények alapján mekkora a szennyvíz pH-jának (a) várható értéke, (b) korrigált tapasztalati szórása, (c) relatív standard deviációja (RSD)?

►2/4. feladat

Egy laboratóriumban fenol-tartalmat határoznak meg szennyvízből. A mért értékek: 0,2534; 0,2511; 0,2133; 0,2476; 0,2581; 0,2493 mg/l. Mennyi a fenol-tatalom várható értéke, szórása, RSD-je?

►2/5. feladat

Számítsuk ki az átlagot, a mediánt, a szórást, az átlag szórását és a relatív szórást a következő mintából. A minta elemei: 5, 7, 0, 3, -1, 2, -2, 4, 0

► 2/6. feladat

Egy gyárban két palacktöltő automata működését ellenőrizték. Az 1,0 dm3 és 5,0 dm3 űrtartalmú palackokból 10–10 elemű mintát vettek és mérték a mintaelemek tömegét. A kapott adatokat a táblázat tartalmazza (kg/palack)

41

I. 0,95 0,95 0,96 0,95 0,94 0,96 0,95 0,96 0,94 0,94

II. 4,75 4,76 4,76 4,77 4,76 4,78 4,76 4,75 4,76 4,75

Adja meg a két adatsor statisztikai mutatóit a következő táblázatban!

Medián SD RSD%I.

II.

42

Mérési eredmények megadása

► 3/1. feladat

Feladatunk egy 0,5 mol/dm3 névleges koncentrációjú vas-oldat ellenőrzése. A vizsgálat során a következő eredményeket kaptuk: 0,48; 0,47; 0,51; 0,49; 0,52; 0,50 mg/dm3. Adjuk meg mérési eredményeink alapján a minta koncentrációját szabályos formában!

►3/2. feladat

Azonos mintán végeztünk méréseket. Eredményeink a következők: 106,0 108,5 109,0 112,0 109,5 110,5 108,5Adjuk meg az eredményt 95%-os megbízhatósági szinten!

► 3/3. feladat

10 mérési eredményünk a következő:24,46 23,93 25,79 25,17 23,82 25,39 26,54 23,85 24,19 25,50Milyen intervallumban van a valódi érték 95%-os valószínűséggel?

► 3/4. feladat

Az iskola 4. osztályos tanulóinak magasságát kell megbecsülni 10 véletlenszerűen kiválasztott tanuló magassága alapján. 95%-os megbízhatósági szinten milyen intervallumot adjunk meg.

► 3/5. feladat

Véralkohol mérés eredményei a következők: 0,084% 0,089% 0,079%.95%-os megbízhatósági szinten adjuk meg a véralkohol szint átlagát!

43

Kiugró adatok kezelése, Dixon-próba

► 4/1. feladat

Egy mészkő minta CaO tartalmát vizsgálva a következő eredményeket kaptuk:55,95 56,00 56,04 56,08 56,23 %. Az utolsó adat kiugró adatnak számít-e, vagyis elhagyhatjuk vagy nem (90%-os megbízhatósági szinten)?

► 4/2. feladat

Egy urán izotóp tömegspektroszkópiás meghatározása során a következő nyolc intenzitás adat született:199,31 199,53 200,82 201,92 201,18 245,57. Az utolsó adat gyanúsnak tűnik. Elhagyható-e, azaz kiugró értéknek számít-e 95%-os megbízhatósági szinten?

► 4/3. feladat

Fenol meghatározás HPLC-vel a következő adatokat szolgáltatta:0,167 0,177 0,181 0,182 0,183 0,181 0,186 0,187 0,189. Az első adat gyanúsnak tűnhet. 90%-os megbízhatósági szinten elhagyhatjuk-e?

44

Normális eloszlás, u-próba

►5/1. feladat

Férfiak magasságát mérték. Nagy számú minta alapján (n>200) a μ= 174, σ= 9,6 cm. Hány %-a lesz a férfi lakosság 180 cm fölött?

►5/2. feladat

Egy 70 mg/dm3 koncentrációjú oldat mérése során 2 mg/dm3 szórást mértek ki. Normális eloszlást feltételezve, a mérési eredmények hány %-a esik 71 és 73 mg/dm3 közé?

►5/3. feladat

Egy alkatrész névleges mérete: 40 mm, szórása 0,03 mm. Normális eloszlást feltételezve, a minták mekkora hányada esik 40 ±0,05 intervallumba?

►5/4. feladat

Egy gép 0,75 cm átmérőjű korongokat készít 0,06 cm-es szórással. Hány %-os hibával dolgozik a gép, ha 0,6 cm-nél kisebb és 0,84 cm-nél nagyobb korong hibásnak minősül?

► 5/5. feladat

Egy hajóra szerelt kotrógép egy adott időszakban 5000 kanál kavicsot emel ki. Egy kanál átlagos töltési súlya 100 mérlegelés alapján 705 kg. Legyen a töltési súly normális eloszlású, 50 kg szórással. Határozzuk meg a 90, 95 és 99%-os megbízhatósági szintnek megfelelő intervallumokat a töltési súly várható értékére vonatkozólag!

►5/6. feladat

Egy vegyület hidrogén-tartalmának meghatározására végeztünk méréseket. 12 mérésből az átlagot 3,25 %-nak kaptuk, a szórás 0,3 %. Számítsuk ki a várható értékre vonatkozó 95 %-os megbízhatósági szintnek megfelelő intervallumot!

45

► 5/7. feladat

Egy szerves vegyület oxigéntartalmának vizsgálatához 16 mérést végeztünk, mely alapján 2,75 %-os átlagot kaptunk, a szórás: 0,28%. Számítsuk ki a várhatóértéknek 96 %-os szintnek megfelelő konfidencia intervallumot (normális eloszlás). (Eredmény: 2,61 és 2,89)

►5/8. feladat

Egy normális eloszlás várható értéke 2,5; szórása 1,2. Hány %-a esik a mért értékeknek 1 és 3 közé?

►5/9. feladat

Egy normális eloszlású változó várható értéke 5; A 4-6 intervallumban a felvett valószínűségi érték 0,55. Mennyi a szórás?

► 5/9a. feladat

Egy tanfolyamra 100 hallgató iratkozik be, de tapasztalat alapján 60%-os valószínűséggel látogatják az órákat (szórás=5). Hány fős tanterem kell, ha azt szeretnék, hogy 90%-os biztonsággal elférjenek a hallgatók?

►5/10. feladat

Egy záróvizsgán az elért pontok átlaga 72, szórása 9. A hallgatók legjobb 10 %-a kap ötöst. Várhatóan hány pontot kell elérni a hallgatóknak, ha ötöst szeretetnének?

► 5/11. feladat

Egy normális eloszlású változó 0,1 valószínűséggel vesz föl 10,2-nél kisebb értékeket és 0,25 valószínűséggel 13,6-nél nagyobbat. Mennyi a μ és a σ?

►5/12. feladat

Egy egyetemi dolgozatban 10 kérdést tesznek föl. Elérhető pontszám: 10. Az egyetemisták pontátalag: 6,7; szórás: 1,2. a.) A diákok hány %-a ért el 5,5 és 6,5 közötti pontokat?

46

b.) Az alsó 10% maximális pontszáma.

► 5/13. feladat

Egy faüzemben készített deszkák hossza normális eloszlású, várható értéke 400 cm, 3 cm-es szórással. Egy deszka selejtes, ha hossza 395 cm-nél rövidebb vagy 405 cm-nél hosszabb. a.) Milyen selejt %-al dolgozik az üzem? b.) Hogy kellene módosítani a tűréshatárt, hogy a selejt-% 0,2 alatt legyen?

► 5/14. feladat

Egy csokoládégyár 14 dkg-os csokoládé szeleteket gyárt. Szórás: 2,0 dkg. A véletlenszerűen kiválasztott 25 db-os minta átlaga: 14,8 dkg-nak adódott. Feltételezhető-e az eltérés véletlenszerűsége? (u=2,0; u(kr) 95%-os szint=1,96; u>u(kr), szignifikáns az eltérés!)

► 5/15. feladat

Egy tengely rossz, ha a hossza a névlegestől 10 mm-el jobban eltér. Az ilyen tengelyeket a vevő reklamációjára kicserélik. Milyen valószínűséggel várhatók reklamációk, ha egy nagy mennyiségű tétel paraméterei: m= 350 mm; σ= 4 mm. A hossz normális eloszlásúnak tekinthető.

► 5/16. feladat

Adott egy gép, amely 80 mm hosszúságú huzalokat vág le. A gép „tévedése” szórása 2 mm. Mintavételezés eredménye n = 30 adatból 78 mm. A minta eltér a várható értéktől. A nullhipotézis = 80 mm. Feltételezhetjük-e, hogy az eltérés nem jelentős, azaz a véletlen okozza?

►5/17. feladat

Ásványvíz összes oldott ásványianyag-tartalmára előírt koncentrációtartomány 550±50 mg/l. Vezetésméréssel ellenőrzik az összes ásványianyag-tartalmat. Az előírt koncentráció-tartománynak megfelelő vezetés-intervallum 500–600 μS/cm.Nagyszámú méréssel megállapított átlag-vezetés 543 μS/cm, a szórás 21 μS/cm.Egészítse ki a következő mondatot és válaszoljon az alábbi kérdésekre!a.) Az eloszlásfüggvény megadja, hogy a ξ folytonos valószínűségi változó mekkora valószínűséggel vesz fel egy adott x-nél ………………………………….….b.) Értelmezze a következő jelölést: N(μ, σ)c.) Jellemezze a standard normális eloszlást!d.) Írja fel x változó illetve középérték standardizálásának képletét!

47

e.) Milyen eloszlással jellemezhető a standardizált valószínűségi változó, amennyiben nem ismerjük a sokaság szórását?f.) Határozza meg, hogy a palackok hány százalékának ásványianyag-tartalma felel meg az előírásnak!

►5/18. feladat

500 ml-es üdítőitalos üvegeket töltünk. Korábbi mérések alapján a töltőgép szórása 1 ml.Hány %-a lesz az üvegeknek 498 ml-nél kevesebbre töltve? µ=500 ml σ=1 ml

►5/19. feladat

Egy töltő automata 80 ml-nyi gyógyszert tölt kis üvegekbe, 2 ml-es szórással. Egy mintavételezés eredménye 30 mintából 78 ml. Feltételezhetjük-e (95%-os megbízhatósági szinten), hogy az eltérés nem jelentős, azaz véletlenszerű?

48

t-próba

► 6/1. feladat

Véletlenszerűen kiválasztott 10 db 1 kg-os kenyeret dekagrammos pontossággal mértünk le. Feltételezhetjük-e, hogy a véletlen okozza az eltérést, vagy az adagoló rendszer hibája?A mérés eredménye: 98 101 97 99 101 100 98 99 99 96

► 6/2. feladat

Egy gyógyszer hatóanyag tartalma nem lehet kevesebb mint 99%. a.) Ítéljük meg, hogy teljesül-e az előírás 5%-os kockázati-szinten, ha mérési adatok a következők: 98,0 97,3 97,5 (tételezzük föl a mérési adatok normális eloszlását).b) Tételezzük föl, hogy a hatóanyag tartalom előírt értéke pontosan 99% (se több, se kevesebb). Teljesül-e ez 95%-os megbízhatósági szinten? (a mérési adatok ugyanazok)?

► 6/3. feladat

Egy szennyvíz fenol-tartalmát mértük. Három párhuzamos eredményünk van, melyből 0,513 μg/dm3; s=0,05 μg/dm3. El kell dönteni 95 %-os megbízhatósági szinten, hogy ez a mért érték szignifikánsan eltér-e a 0,520 μg/dm3 határértéktől.

► 6/4. feladat

Egy cég 16 ml-es üvegekben árul gyógyszert. Az üvegeket automata tölti. Ha nem tölt pontosan, akkor le kell állítani a töltő automatát. Egy ellenőrzés során a következő hat elemű mintát kapták: 15,68 16,00 15,61 15,93 15,86 15,72.Számoljunk 95 ill. 99%-os konfidencia intervallumot a minta alapján a populációra!

►6/5. feladat

Egy konzervtöltő automata 1000 g anyag töltésére van beállítva. Mintavétel során az alábbi értékeket kaptuk: 985; 987, 1003, 993; 996; 991; 994; 1004; 1002; 985. Vizsgáljuk meg 95 %-os biztonsági szinten teljesül-e a várható értékre az m0= 1000 g előírás!( 994,0, s= 7,226, t=-2,626; t kr=2,267; az automata valószínű nem jól működik: t>tkr

49

► 6/6. feladat

Egy gép 0,5 mm vastagságú alátéteket gyárt. Egy féléves leállás után dönteni kell, hogy a gép megfelelően működik-e. Ezért a beindítás után 10 alátétből álló, 0,53 mm átlagú és 0,03 mm tapasztalati szórású mintát vettünk. Ellenőrizendő 95%-os megbízhatóságú szinten, hogy a gép jól működik-e!

► 6/7. feladat

Egy gyár által előállított kötél szakító szilárdságát vizsgálva 6 minta átlaga 7750 N, szórása: 145 N, míg a gyártó állítása legalább 8000N. Alátámasztható-e a gyártó állítása 95%-os megbízhatósági szinten?Ho: μ=8000 >> a gép jól működikH1: μ<8000 >> nem igaz a gyártó állításat=(7750-8000)/(145/ )= 4,22; tkrit=2,015 >> nem igaz a gyártó állítása

►6/8. feladat

20 g/dm3 koncentrációjú oldatot készítettünk. Egy hónap múlva 6 ismételt mérést végeztünk annak megállapítására, hogy megváltozott-e az oldat koncentrációja. Ha igen mennyivel? Eredményeink: 19,6 18,9 19,5 20,1 19,3 19,4.

►6/9. feladat

Egy gyárban egy gépnek 500 gr töltőanyagot kell a konzervekbe juttatnia minden töltéskor. A töltőanyag egyenetlenségéből adódóan a gép néha kicsit többet, néha kicsit kevesebbet tölt, mint 500 gr. Arra nagyunk kíváncsiak, hogy a gép átlagos "teljesítménye" 500 gr-nak mondható-e. Kiveszünk 10 konzervet a futószalagról és megmérjük mindben a töltőanyag súlyát. Az eredmények rendre: 483, 502, 498, 496, 502, 483, 494, 491, 505, 486.

50

►6/10. feladat

Egy referencia anyagkoncentrációjának mérésével ellenőrizzük analitikai mérőrendszerünk pontosságát. A referencia anyag koncentrációja cref=0,2000 mg/dm3. A mért eredmények:

Mért koncentráció (mg/dm3)1. 0,19672. 0,20123. 0,19504. 0,20185. 0,19386. 0,1944a./ Koncentráció átlag b./ Korr. tapasztalati szórás c./ RSD d./ középérték szórása e./ Elfogadható-e 95%-os megbízhatósági szinten (szignifikancia szint=kockázati szint 5%), hogy az eltérések véletlenszerűek, vagyis a készülékünk jól mér?

►6/11. feladat

Egy kén-meghatározási eljárás ellenőrzése során 0,123% kéntartalmú referencia mintára a következő elemzési eredményeket kaptuk: 0,112%; 0,118%; 0,115%, 0,119%. Állapítsuk meg van-e rendszeres hiba 95 illetve 99% megbízhatósági szinten!

►6/12. feladat

0,0200 mol/dm3 koncentrációjú KMnO4-oldat koncentrációját oxálsav titer-alapanyag segítségével ellenőrzik. Az öt párhuzamos mérés eredménye:0,0197 0,0197 0,0198 0,0197 0,00196a./ Milyen statisztikai próbát alkalmaz? Miért?b./ Állapítsa meg az eredmények segítségével, hogy megváltozott-e a KMnO4-oldat koncentrációja! A következtetést 95%-os biztonsággal fogalmazza meg!

►6/13. feladat

Egy adagolóautomata 1200 g minta töltésére van beállítva. 16 elemű mintát vettek, melynek eredménye a következő:1193 1198 1203 1191 1195 1196 1199 11911201 1196 1193 1198 1204 1196 1198 1200Van-e szignifikáns eltérés 95%-os megbízhatósági szinten az előírt tömegértéktől?

51

Kétmintás t-próba, páros t-próba

► 7/1. feladat

Két laboratóriumban mérték egy acél titán-tartalmát atomabszorpciós módszerrel. A mért adatok a következők:

I. laboratórium II. laboratórium0.470 % 0.529 %0.448 % 0.490 %0.463 % 0.489%0.449 % 0.521%0.482 % 0.486%0.454 % 0.502%0.477 %0.409 %

a.) Határozzuk meg az egyes laboratóriumok által mért átlagos titán-tartalmat és szórásokat!b.) Ellenőrizzük, hogy a két laboratórium által mért titántartalom-különbség a véletlen műve-e, vagy ekkora eltérést statisztikailag elfogadhatunk 95%-os megbízhatósági szinten (a két labor mérési sorozatának varianciáját azonosnak tekinthetjük)!

►7/2. feladat

Két tartályban ugyanazon anyag oldatai vannak. Az első tartályból 5 analízist végzünk. A mért koncentráció átlaga 56.8 g/l; a tapasztalati szórás 2.3 g/l. A második tartályból 7 elemzést végzünk. Az elemzések átlaga 58.0 g/l; a tapasztalati szórás 1.9 g/l (normális eloszlást feltételezünk).a) Vizsgáljuk meg 1%-os szignifikancia szinten a következő feltételezést: az első tartályban 56.8 g/l, a másodikban 59.0 g/l koncentrációjú oldat van.b) Vizsgáljuk meg 1%-os szignifikancia szinten hogy a két tartályban azonos koncentrációjú oldat van

►7/3. feladat

Két laboratóriumban vizsgálták 8 minta Na-tartalmát és a következőket kapták (mg/dm3). A mérési eredmények a következők:Minta 1. 2. 3. 4. 5. 6. 7. 8.1. labor 31.5 32.0 31.6 32.2 32.4 31.4 31.8 32.02. labor 31.5 32.2 31.4 32.5 32.9 31.6 32.0 32.4

Van-e 95%-os megbízhatósági szinten jelentős különbség a két laboratórium elemzési eredményei között?

52

►7/4. feladat

Egy bűnügyi nyomozás során mintát vettek a gyanúsított ruháján található festékből és a bűnjelnek számító autó festékanyagából is. A ruházaton talált festék Ti-tartalma 4,0 ill. 4,6 % volt. Az autófesték Ti-tartalma: 4,5, 5,3; 5,5; 5,0; 4,9 %.Feltételezhető-e 5 %-os kockázati szinten (azaz 95 %-os megbízhatósági szinten) a festéknyom alapján a gyanúsított bűnössége (a két festékminta azonossága)?

►7/5. feladat

Ugyanazon módszerrel elemeztek 8 mintát két eltérő módszerrel. Az eredmények:1. módszer 15 20 16 22 24 14 18 202. módszer 15 22 14 25 29 16 20 24

Megvizsgálandó 5%-os kockázati szinten, hogy különböznek-e a két módszerrel kapott eredmények?

►7/6. feladat

Két borminta azonosságáról illetve különbözőségét próbáljuk meg eldönteni alkoholtartalmuk alapján (95%-os megbízhatósági szinten).1. minta n1=6 12,61 % s1= 0,062. minta n2=4 12,53 % s2= 0,08

►7/7. feladat

Petrikesek és Irinyisek IQ-ját hasonlítjuk össze. 16 petrikes diák IQ-átlaga 107, szórása 10; 14 irinyis diák IQ-átlaga 112, szórása 8. Van-e lényeges eltérés (95%)?

►7/8. feladat

Egy vegyipari szakközépiskolában vegyész és környezetvédő szakon folyik képzés. Az elmúlt 5 évben a következő továbbtanulási arányok alakultak ki (%-ban)

1. év 2. év 3. év 4. év 5. évVegyész 16,5 12,5 18,3 6,2 28,3Környezetvédő 8,6 15,8 21,2 20,8 18,7

Van-e a két szak között különbség továbbtanulás szempontjából 95%-os megbízhatósági szinten?

53

8. F-próba

► 8/1. feladat

Egy analitikai eljárás szórásának csökkentésére módosítást vezettek be, ezt kell elbírálni. A következő mérési eredményeket kapták (mg/dm3)

Az eredeti eljárás mérési eredményei A módosított mérési eljárás eredményei5.655 5.6155.660 5.5345.695 5.6775.709 5.5135.646 5.450

Sikeresnek tekinthető-e a módosítás (95 %-os megbízhatósági szinten)?

► 8/2. feladat

Egy analitikai módszer validálásakor a módszer reprodukálhatóságát kell bizonyítani. Töltse ki a táblázatot és döntse el, hogy reprodukálató-e a módszer (95 %-os megbízhatósági szinten)! A vizsgálat körülményei: azonos időpont, azonos eszköz, azonos minta, különböző személy.

Mintaszám Mért koncentráció (1) Mért koncentráció (2)

22,8 22,923,8 24,124,0 23,224,6 22,824,2 22,1

ÁtlagKorr. tapasztalati szórásRSDF-próba/ F krit

t-próba/ t krit

Végső következtetés

► 8/3. feladat

Egy konzervgyár két próbaüzemében egy-egy töltőgépet helyeztek üzembe. A gépekről véletlenszerűen kiválasztott 6-6 doboz töltősúlyát (gramm) vizsgáltuk.1. üzem 300 301 303 288 294 2962. üzem 305 317 308 300 314 316A két töltőgép közötti különbség véletlenszerű-e (95 %-os megbízhatósági szinten)?

54

► 8/4. feladat

Két mérési módszer hasonlítunk össze úgy, hogy standard oldatból mérjük a (vizsgált) komponens koncentrációját. Az eredmények a következők:

1. 2. 3. 4. 5. 6. 7. 8. 9.1. módszer 1,02 1,09 1,07 1,06 1,06 1,10 1,082. módszer 1,02 1,12 1,15 1,04 1,05 1,18 1,06 1,09 1,1695%-os megbízhatósági szinten nagyobbnak tekinthető-e a második módszer véletlen hibája, mint az elsőé? (Normális eloszlást tételezünk fel).

55

Egyenes illesztés, kalibrációs görbe

► 9/1. feladat

Kalibrációs egyenest kell meghatározni „kézi”-módszerrel. Az egyenes egyenlete: y= a+b(x- )

Mérési pontjaink a következők:

xi yi

0,0 0,31,0 2,22,0 3,02,0 4,0

►9/2. feladat

Kalibrációs egyenest kell meghatároznunk. Mérési adatsorunk a következő

xi yi

1,0 2,12,0 3,93,0 6,0

►9/3. feladat

Egy réz-konstantán hőelem mérési adatai a következők:10-20-30-40-50 °C; a hozzá tartozó mV-értékek rendre: 0,195; 0,790; 1,196; 1,612, 2,036.Illesszünk az adatsorra egy egyenest és adjuk meg az egyenes egyenletét y=mx+c alakban.

56

Validálás

► 10/1. feladat

Egy készítmény kalcium-tartalmának meghatározásához megfelelő analitikai módszert kívánnak választani. A 10,0% kalcium-tartalmú standard vizsgálatát két módszerrel határozták meg.A vizsgálat eredményei:

Gravimetriás módszer 10,1% 10,0% 9,9% 10,10% 9,9%Komplexometriás módszer 9,8% 9,7% 9,7% 9,8% 9,5%

Jellemezze a módszereket! (torzítatlanság), az előírt megbízhatósági szint: 90%.Válaszoljon a következő kérdésekre!Mikor torzítatlan a mérés?a.) Milyen próbát alkalmaz a torzítatlanság meghatározásához? Miért?b.) Mit fejez ki a szignifikanciaszint?c.) Fogalmazza meg a torzítatlanság vizsgálatánál a hipotéziseket (nullhipotézis, ellenhipotézis)d.) Számolja ki a két módszernél a szükséges próbastatisztikát!e.) Adja meg a szignifikanciaszintet!f.) Határozza meg az elfogadási és elutasítási tartományt!g.) Döntsön a hipotézisekre vonatkozóan (melyik módszer torzítatlan)!

► 10/2. feladat

Határozza meg az ismétlőképességet a következő adatok alapján! Töltse ki a táblázat üres részeit és döntsön, hogy megfelel-e, ha a követelmény RSD ≤ 2 %

Koncentráció[mg/dm3]

Mérési eredmények [mg/dm3] átlag szórás RSD

1. 2. 3. 4. 5. [mg/dm3] [mg/dm3] %

0,500 0,4894 0,5122 0,5094 0,5060 0,5040

0,800 0,7910 0,7976 0,8157 0,7878 0,7969

1,100 1,0986 1,103 1,1248 1,0993 1,1064

►10/3. feladat

Határozzuk meg a kimutatási és a meghatározási határt! A kalibrációs görbe függvénye:A = -0,0104·c2 + 0,2207·c, a vakpróba szórása 0,0007.

57

► 10/4. feladat

Egy mérés érzékenysége S = 0,185/(mg/dm3), a vakpróba szórása 0,0009. Hány mg/dm3 a meghatározási határ? (Megoldás: 0,049 mg/dm3)

►10/5. feladat

Egy fluorid-ionszelektív elektród alsó kimutatási határát szeretnénk meghatározni. A mérési adatok a táblázatban találhatók. Rajzoljuk be illetve számoljuk ki a cL értéket!pF 7 6 5 4 3 2 1mV 68,3 67,1 56,5 19 -35,7 -93,2 -161,6

►10/6. feladat

Becsüljük meg az alábbi kromatogramm alapján a klorid-ion kimutatási határát(detection limit). A jel/zaj viszonyt tekintsük az általánosan elfogadott 3:1-nek. Adjuk meg a kimutatási határt ppm és ng-ban is!

► 10/8. feladat

Határozzuk meg a mérési tartományt a következő mérési adatok alapján!Rajzoljon szórásgörbét a koncentráció függvényében (célszerű a logaritmikus lépték)!Válassza ki a megfelelő tartományt, ha az elvárás max. 3 % szórás!

konc. RSD % konc. RSD % konc. RSD %

0,003 nem ért. 0,300 1,80 2,000 2,0

0,010 29 0,500 1,77 3,000 3,5

0,030 9 0,800 1,35 5,000 6

0,050 5 1,100 0,98 7,000 9

0,100 3,0 1,500 1,20 10,000 14

► 10/9. feladat

Egy talajminta két, egyenként 1,5 g-os részletét vizsgáltuk (visszanyerés (recovery) szempontjából). Az egyikből készített 100 cm3 talajkivonatban 0,8 mg/ℓ vastartalmat mértünk. A

58

másik részlethez hozzáadtunk 0,5 cm3 0,2 mg/cm3 vastartalmú oldatot. A talajkivonatot abból is 100 cm3-re töltöttük fel. Ebben az oldatban 1,7 mg/ dm3 vastartalmat mértünk.Számítsa ki a talaj vastartalmát (ppm = mg/kg) és a visszanyerési tényezőt!

►10/10. feladat

Egy talajminta két, egyenként 1 g-os részletét vizsgáltuk. Az egyikből készített 100 cm3

talajkivonatban 1 mg/dm3 vastartalmat mértünk. A másik részlethez hozzáadtunk 0,4 cm3

0,2 mg/cm3 vastartalmú oldatot. A talajkivonatot abból is 100 cm3-re töltöttük fel. Ebben az oldatban 1,7 mg/ dm3 vastartalmat mértünk. Számítsa ki a visszanyerési tényezőt! (Megoldás: 0,88)

►10/11. feladatHatározzuk meg a mérési tartományt a következő kalibrációs görbe alapján!A felső határ az az érték legyen, ahol az érzékenység a kezdetinek a felére csökken!

59

Mérési tartomány vizsgálata az érzékenység alapján

A = -0,0104c2 + 0,2207c

R2 = 0,9994

0,0

0,2

0,4

0,6

0,8

1,0

1,2

0 2 4 6 8 10

c [mg/L]

A

Mérési bizonytalanság

Térfogatmérő eszközök (gyártói tűrések)Mérőlombik 100 cm3 A-jelű ±0,08 cm3

Mérőlombik 100 cm3 B-jelű ±0,16 cm3

Mérőlombik 250 cm3 A-jelű ±0,15 cm3

Mérőlombik 250 cm3 B-jelű ±0,3 cm3

Pipetta 25 cm3 A-jelű ±0,03 cm3

Pipetta 25 cm3 B-jelű ±0,06 cm3

Büretta 50 cm3 A-jelű ±0,05 cm3

Büretta 50 cm3 B-jelű ±0,1 cm3

► 11/1. feladat

Mennyi egy „B”-jelű 25 cm3-es pipetta kiterjesztett mérési bizonytalansága, mellyel 5 párhuzamos mérést végeztünk (gravimetriásan)? A mért (illetve az adott hőmérsékleten a sűrűség segítségével számolt) térfogatok a következők: 25,02 24,99 25,03 25,02 24,96 cm3.

► 11/2. feladat

0,1 mol/dm3-es NaOH oldattal, titrálással határozzuk meg a sósav oldatunk koncentrációját. Az NaOH mérőoldat cp-jét 99,5% tisztaságú KH-ftaláttal faktorozzuk (Bemérünk 5,105 g KH-ftalátot 250 cm3-es mérőlombikba, ebből 25,0 cm3-t kipipettázva, az NaOH fogyása: 25,15 cm3).Az ismeretlen sósavból is 25,0 cm3-eket titrálunk meg a már ismert cp-jú NaOH-val. A fogyások átlaga: 25, 66 cm3. Mennyi a mérési eljárásunk kiterjesztett mérési bizonytalansága (illetve a sósav-oldat koncentrációja)?

► 11/3. feladat

Készítendő 100 cm3 alkoholos törzsoldat kb. 1 g-nyi hatóanyag analitikai pontosságú bemérésével. A hatóanyag tisztasága min. 99 %. A 100 cm3-es mérőlombik „A”-jelű.A labor hőmérséklete 20 °C ± 4 °C. Az oldószernek használt etanol köbös hőtágulási együtthatója: 10,5x10-4 ml/°C.A mérőlombik jelere-töltési szórása (korábban mért adatok alapján): 0,025 cm3. A tömegmérésnél a bemért tömeg: 1,0180 g; A mérleg kalibrációs jegyzőkönyve alapján a kiterjesztett mérési bizonytalanság: 0,52 mg (k=2); a mérleg ismételhetősége (1 g-os tömeg mérésre): 1,2x10-4 g.

60

Táblázatok

Standard normális eloszlás F(u) u  0.00 0.01 0.02 0.03 0.04 0.05 0.06 0.07 0.08 0.090.0 0.5000 0.5040 0.5080 0.5120 0.5160 0.5199 0.5239 0.5279 0.5319 0.53590.1 0.5398 0.5438 0.5478 0.5517 0.5557 0.5596 0.5636 0.5675 0.5714 0.57530.2 0.5793 0.5832 0.5871 0.5910 0.5948 0.5987 0.6026 0.6064 0.6103 0.61410.3 0.6179 0.6217 0.6255 0.6293 0.6331 0.6368 0.6406 0.6443 0.6480 0.65170.4 0.6554 0.6591 0.6628 0.6664 0.6700 0.6736 0.6772 0.6808 0.6844 0.6879   

0.5 0.6915 0.6950 0.6985 0.7019 0.7054 0.7088 0.7123 0.7157 0.7190 0.72240.6 0.7257 0.7291 0.7324 0.7357 0.7389 0.7422 0.7454 0.7486 0.7517 0.75490.7 0.7580 0.7611 0.7642 0.7673 0.7704 0.7734 0.7764 0.7794 0.7823 0.78520.8 0.7881 0.7910 0.7939 0.7967 0.7995 0.8023 0.8051 0.8078 0.8106 0.81330.9 0.8159 0.8186 0.8212 0.8238 0.8264 0.8289 0.8315 0.8340 0.8365 0.8389   

1.0 0.8413 0.8438 0.8461 0.8485 0.8508 0.8531 0.8554 0.8577 0.8599 0.86211.1 0.8643 0.8665 0.8686 0.8708 0.8729 0.8749 0.8770 0.8790 0.8810 0.88301.2 0.8849 0.8869 0.8888 0.8907 0.8925 0.8944 0.8962 0.8980 0.8997 0.90151.3 0.9032 0.9049 0.9066 0.9082 0.9099 0.9115 0.9131 0.9147 0.9162 0.91771.4 0.9192 0.9207 0.9222 0.9236 0.9251 0.9265 0.9279 0.9292 0.9306 0.9319   

1.5 0.9332 0.9345 0.9357 0.9370 0.9382 0.9394 0.9406 0.9418 0.9429 0.94411.6 0.9452 0.9463 0.9474 0.9484 0.9495 0.9505 0.9515 0.9525 0.9535 0.95451.7 0.9554 0.9564 0.9573 0.9582 0.9591 0.9599 0.9608 0.9616 0.9625 0.96331.8 0.9641 0.9649 0.9656 0.9664 0.9671 0.9678 0.9686 0.9693 0.9699 0.97061.9 0.9713 0.9719 0.9726 0.9732 0.9738 0.9744 0.9750 0.9756 0.9761 0.9767   

2.0 0.9772 0.9778 0.9783 0.9788 0.9793 0.9798 0.9803 0.9808 0.9812 0.98172.1 0.9821 0.9826 0.9830 0.9834 0.9838 0.9842 0.9846 0.9850 0.9854 0.98572.2 0.9861 0.9864 0.9868 0.9871 0.9875 0.9878 0.9881 0.9884 0.9887 0.98902.3 0.9893 0.9896 0.9898 0.9901 0.9904 0.9906 0.9909 0.9911 0.9913 0.99162.4 0.9918 0.9920 0.9922 0.9925 0.9927 0.9929 0.9931 0.9932 0.9934 0.9936   

2.5 0.9938 0.9940 0.9941 0.9943 0.9945 0.9946 0.9948 0.9949 0.9951 0.99522.6 0.9953 0.9955 0.9956 0.9957 0.9959 0.9960 0.9961 0.9962 0.9963 0.99642.7 0.9965 0.9966 0.9967 0.9968 0.9969 0.9970 0.9971 0.9972 0.9973 0.99742.8 0.9974 0.9975 0.9976 0.9977 0.9977 0.9978 0.9979 0.9979 0.9980 0.99812.9 0.9981 0.9982 0.9982 0.9983 0.9984 0.9984 0.9985 0.9985 0.9986 0.9986   

3.0 0.9987 0.9987 0.9987 0.9988 0.9988 0.9989 0.9989 0.9989 0.9990 0.99903.1 0.9990 0.9991 0.9991 0.9991 0.9992 0.9992 0.9992 0.9992 0.9993 0.99933.2 0.9993 0.9993 0.9994 0.9994 0.9994 0.9994 0.9994 0.9995 0.9995 0.99953.3 0.9995 0.9995 0.9995 0.9996 0.9996 0.9996 0.9996 0.9996 0.9996 0.99973.4 0.9997 0.9997 0.9997 0.9997 0.9997 0.9997 0.9997 0.9997 0.9997 0.9998

61

A Student-féle t-eloszlás kritikus értékei

0,200 0,100 0,050 0,025 0,010 0,005 0,001 1 3,078 6,314 12,706 25,452 63,656 127,321 636,578 2 1,886 2,920 4,303 6,205 9,925 14,089 31,600 3 1,638 2,353 3,182 4,177 5,841 7,453 12,924 4 1,533 2,132 2,776 3,495 4,604 5,598 8,610 5 1,476 2,015 2,571 3,163 4,032 4,773 6,869 6 1,440 1,943 2,447 2,969 3,707 4,317 5,959 7 1,415 1,895 2,365 2,841 3,499 4,029 5,408 8 1,397 1,860 2,306 2,752 3,355 3,833 5,041 9 1,383 1,833 2,262 2,685 3,250 3,690 4,781

10 1,372 1,812 2,228 2,634 3,169 3,581 4,587 11 1,363 1,796 2,201 2,593 3,106 3,497 4,437 12 1,356 1,782 2,179 2,560 3,055 3,428 4,318 13 1,350 1,771 2,160 2,533 3,012 3,372 4,221 14 1,345 1,761 2,145 2,510 2,977 3,326 4,140 15 1,341 1,753 2,131 2,490 2,947 3,286 4,073 16 1,337 1,746 2,120 2,473 2,921 3,252 4,015 17 1,333 1,740 2,110 2,458 2,898 3,222 3,965 18 1,330 1,734 2,101 2,445 2,878 3,197 3,922 19 1,328 1,729 2,093 2,433 2,861 3,174 3,883 20 1,325 1,725 2,086 2,423 2,845 3,153 3,850 21 1,323 1,721 2,080 2,414 2,831 3,135 3,819 22 1,321 1,717 2,074 2,405 2,819 3,119 3,792 23 1,319 1,714 2,069 2,398 2,807 3,104 3,768 24 1,318 1,711 2,064 2,391 2,797 3,091 3,745 25 1,316 1,708 2,060 2,385 2,787 3,078 3,725 26 1,315 1,706 2,056 2,379 2,779 3,067 3,707 27 1,314 1,703 2,052 2,373 2,771 3,057 3,689 28 1,313 1,701 2,048 2,368 2,763 3,047 3,674

62

F-eloszlás kritikus értékei (α = 0,05 egyoldali szinten)

nevező ν2számláló

ν1

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15

1 161.45 18.51 10.13 7.71 6.61 5.99 5.59 5.32 5.12 4.96 4.84 4.75 4.67 4.60 4.54

2 199.50 19.00 9.55 6.94 5.79 5.14 4.74 4.46 4.26 4.10 3.98 3.89 3.81 3.74 3.68

3 215.71 19.16 9.28 6.59 5.41 4.76 4.35 4.07 3.86 3.71 3.59 3.49 3.41 3.34 3.29

4 224.58 19.25 9.12 6.39 5.19 4.53 4.12 3.84 3.63 3.48 3.36 3.26 3.18 3.11 3.06

5 230.16 19.30 9.01 6.26 5.05 4.39 3.97 3.69 3.48 3.33 3.20 3.11 3.03 2.96 2.90

6 233.99 19.33 8.94 6.16 4.95 4.28 3.87 3.58 3.37 3.22 3.09 3.00 2.92 2.85 2.79

7 236.77 19.35 8.89 6.09 4.88 4.21 3.79 3.50 3.29 3.14 3.01 2.91 2.83 2.76 2.71

8 238.88 19.37 8.85 6.04 4.82 4.15 3.73 3.44 3.23 3.07 2.95 2.85 2.77 2.70 2.64

9 240.54 19.38 8.81 6.00 4.77 4.10 3.68 3.39 3.18 3.02 2.90 2.80 2.71 2.65 2.59

10 241.88 19.40 8.79 5.96 4.74 4.06 3.64 3.35 3.14 2.98 2.85 2.75 2.67 2.60 2.54

11 242.98 19.40 8.76 5.94 4.70 4.03 3.60 3.31 3.10 2.94 2.82 2.72 2.63 2.57 2.51

12 243.90 19.41 8.74 5.91 4.68 4.00 3.57 3.28 3.07 2.91 2.79 2.69 2.60 2.53 2.48

13 244.69 19.42 8.73 5.89 4.66 3.98 3.55 3.26 3.05 2.89 2.76 2.66 2.58 2.51 2.45

Dixon próba kritikus értékei (Q krit) Grubb-teszt kritikus értékei (Zkrit)

Dixon próba Grubb-tesztn 90 % 95 % 90 % 95 %3 0,941 0,970 1,15 1,154 0,765 0,829 1,42 1,465 0,642 0,710 1,60 1,676 0,560 0,625 1,73 1,827 0,507 0,568 1,83 1,948 0,468 0,526 1,91 2,039 0,437 0,493 1,98 2,1110 0,412 0,466 2,03 2,18

63