kalibrace a limity jejÍ pŘesnostiabsolutní člen je nevýznamný, znamená to, že kalibrační...
Post on 12-Dec-2020
9 Views
Preview:
TRANSCRIPT
UNIVERZITA PARDUBICE Fakulta chemicko-technologická
Katedra analytické chemie Nám. Čs. Legií 565, 532 10 Pardubice
15. licenční studium
INTERAKTIVNÍ STATISTICKÁ ANALÝZA DAT
Semestrální práce
KALIBRACE A LIMITY JEJÍ PŘESNOSTI 2015
Vedoucí studia a odborný garant: Prof. RNDr. Milan Meloun, DrSc. Vyučující: Prof. RNDr. Milan Meloun, DrSc. Prosinec 2015 Autor práce: Mgr. Veronika Pilařová
OBSAH ÚLOHA 1: LINEÁRNÍ KALIBRACE ............................................................................................................. 3
Zadání .................................................................................................................................................. 3
Data ..................................................................................................................................................... 3
Program ............................................................................................................................................... 3
Řešení .................................................................................................................................................. 3
Závěr .................................................................................................................................................... 9
ÚLOHA 2: NELINEÁRNÍ KALIBRACE ....................................................................................................... 10
Zadání ................................................................................................................................................ 10
Data ................................................................................................................................................... 10
Program ............................................................................................................................................. 10
Řešení ................................................................................................................................................ 10
Závěr .................................................................................................................................................. 16
ÚLOHA 3: ROZLIŠENÍ MEZI LINEÁRNÍ A NELINEÁRNÍ KALLIBRACÍ ....................................................... 17
Zadání ................................................................................................................................................ 17
Data ................................................................................................................................................... 17
Program ............................................................................................................................................. 17
Řešení ................................................................................................................................................ 17
Závěr .................................................................................................................................................. 21
ÚLOHA 1: LINEÁRNÍ KALIBRACE
Zadání U pacientů s podezřením na nízkou hladinu vitaminu E, velmi důležitého antioxidantu, jehož nedostatek může zvýšit riziko nádorových onemocnění či aterosklerózy, byla změřena hladina nejvíce biologicky aktivního isomeru tohoto vitamínu v séru (α-tokoferolu) metodou SFC-MS. Pro kvantitativní stanovení bylo nutné změřit řadu kalibračních roztoků o různé koncentraci. Koncentrace α-tokoferolu je vyjádřena v µg/ml lidského séra. U pěti vzorků pacientů určete koncentraci α-tokoferolu v séru (odezva – plocha píku):
Data
Vzorek č. Koncentrace α-tokoferolu [µg/ml] Plocha píku
K1 0.001 1645
K2 0.005 15194 K3 0.01 26819 K4 0.05 116251
K5 0.1 267778 K6 0.5 1375631 K7 1 2689384 K8 5 13353438 K9 10 25757948
Pacient č. 1 ? 1008702 Pacient č. 2 ? 87904 Pacient č. 3 ? 345290 Pacient č. 4 ? 29563
Pacient č. 5 ? 46534
Program QC.Expert 3.3 – Linerární regrese QC.Expert 3.3 - Kalibrace
Řešení
Regresní diagnostika dat: Návrh modelu: Použijeme lineární regresní model y = β0 + β1x, kde x odpovídá koncentraci α-tokoferolu a y ploše píku zmíněného isomeru. Odhad parametrů a testy významnosti: Metodou nejmenších čtverců byly určeny odhady parametrů β0 a β1 na hladině významnosti 0.05.
Odhady parametrů
Proměnná Odhad Směr.Odch. Závěr Pravděpodobnost Spodní mez Horní mez
β 0 50281,06918 61165,99743 Nevýznamný 0,4381522965 -94353,53171 194915,6701 β 1 2589197,071 16330,29041 Významný 1,048050535E-013 2550582,07 2627812,071
Absolutní člen lineárního regresního modelu je na základě testu intervalem spolehlivosti vyhodnocen jako nevýznamný, neboť interval vymezený horní a spodní mezí obsahuje 0, hodnota p-testu je vyšší než zadaná hladina významnosti 0,05. Hodnota směrnice je vyhodnocena jako významná, 0 neleží v intervalu spolehlivosti a p-hodnota je nižší než zadaná hladina významnosti 0,05.
Testování vlivných bodů pomocí diagnostických grafů: Z uvedených grafů je patrné, že v datech nalezneme 2 vlivné body – bod 8 a 9. Z Pregibonova grafu vyplývá, že bod 8 je považován ze vlivný bod (pod červenou linkou) a bod 9 za velmi vlivný bod (na červené lince). Williamsův graf ukazuje, že bod 8 je bodem vybočujícím (nad vodorovnou linkou), bod 9 silně vlivným vybočujícím extrémem (nad vodorovnou a za svislou linkou). McCulloh-Meterův graf označuje bod 8 za vlivný (nad červenou linkou) a bod 9 za silně vlivný (nad červenou a za svislou linkou). L-R graf označuje bod 8 za vlivný (v oblasti křivek zobrazujících sílu vlivu) a bod 9 za silně vlivný (na linii nad hyperbolickými křivkami).
Regresní křivka - Sheet1y - plocha píku
x - koncentrace
0 1 2 3 4 5 6 7 8 9 10-1.0E07
0.0E07
1.0E07
2.0E07
3.0E07
8 8
9
9
Grafická analýza ukazuje, že body 8 a 9 jsou odlehlé a je třeba je vyloučit a model opravit. Kritika modelu a metody: Statistické testy:
Fisher-Snedecorův test významnosti
Hodnota kritéria F: 25138,67584
Kvantil F (1-alfa, m-1, n-m): 5,591447851
Pravděpodobnost: 1,047612396E-013
Závěr: Model je významný
Scottovo kritérium multikolinearity
Hodnota kritéria SC: 0,3333213863
Závěr: Model vykazuje multikolinearitu!
Cook-Weisbergův test heteroskedasticity
Hodnota kritéria CW: 3,432982418
Kvantil Chi^2(1-alfa,1): 3,841458829
Pravděpodobnost: 0,06390659693
Závěr: Rezidua vykazují homoskedasticitu.
Jarque-Berrův test normality
Hodnota kritéria JB: 5,029772765
Kvantil Chi^2(1-alfa,2): 5,991464547
Pravděpodobnost: 0,08087210018
Závěr: Rezidua mají normální rozdělení.
Waldův test autokorelace
Hodnota kritéria WA: 0,3101413713
Kvantil Chi^2(1-alfa,1): 3,841458829
Pravděpodobnost: 0,5775934472
Závěr: Autokorelace je nevýznamná
Durbin-Watsonův test autokorelace
Hodnota kritéria DW: -1
Kritické hodnoty DW 0 2
Závěr: Negativní autokorelace reziduí není
prokázána.
Znaménkový test reziduí
Hodnota kritéria Sg: 1,224744871
Kvantil N(1-alfa/2): 1,959963999
Pravděpodobnost: 0,2206713619
Závěr: V reziduích není trend.
Základní statistické charakteristiky: Vícenásobný korelační koeficient R (optimálně co nejblíže 1): 0,9998608014
Koeficient determinace R2 (optimálně co nejblíže 1): 0,9997216221
Predikovaný korelační koeficient Rp(optimálně co nejblíže 1): 0,9964333811
Střední kvadratická chyba predikce MEP (optimálně co nejnižší číslo): 1,268748521E+011
Akaikeho informační kritérium (optimálně co nejnižší číslo): 217,3749475
8
8
9
9
Vysoká hodnota vícenásobného korelačního koeficientu ukazuje, že navržený lineární regresní model je statisticky významný. Koeficient determinace ukazuje, že model vystihuje data v 99, 97 %. Střední kvadratická chyba predikce MEP a Akaikeho informační kritérium AIC slouží pro optimalizaci modelu (optimálním modelem se jeví ten model, který dosahuje co nejnižších hodnot pro MEP i AIC). Opravený model: Z výsledků předchozí regresní analýzy byl pro další tvorbu modelu odebrán bod č. 8 a 9 (vlivné odlehlé body).
Odhady parametrů
Proměnná Odhad Směr.Odch. Závěr Pravděpodobnost Spodní mez Horní mez
β 0 -1432,276925 6828,247592 Nevýznamný 0,8421359199 -18984,84615 16120,2923 β 1 2702717,85 16077,58877 Významný 1,413318351E-010 2661389,093 2744046,608
Absolutní člen lineárního regresního modelu je na základě testu intervalem spolehlivosti
vyhodnocen jako nevýznamný, neboť interval vymezený horní a spodní mezí obsahuje 0,
hodnota p-testu je vyšší než zadaná hladina významnosti 0,05. Hodnota směrnice je
vyhodnocena jako významná, 0 neleží v intervalu spolehlivosti a p-hodnota je nižší než
zadaná hladina významnosti 0,05.
Statistické testy:
Fisher-Snedecorův test významnosti
Hodnota kritéria F: 28259,18207
Kvantil F (1-alfa, m-1, n-m): 6,607890974
Pravděpodobnost: 1,413319162E-010
Závěr: Model je významný
Scottovo kritérium multikolinearity
Hodnota kritéria SC: 0,3333326414
Závěr: Model vykazuje multikolinearitu!
Cook-Weisbergův test heteroskedasticity
Hodnota kritéria CW: 0,5624755472
Kvantil Chi^2(1-alfa,1): 3,841458829
Pravděpodobnost: 0,4532645231
Závěr: Rezidua vykazují homoskedasticitu.
Jarque-Berrův test normality
Hodnota kritéria JB: 0,5850492127
Kvantil Chi^2(1-alfa,2): 5,991464547
Pravděpodobnost: 0,7463768792
Závěr: Rezidua mají normální rozdělení.
Waldův test autokorelace
Hodnota kritéria WA: 0,4527001917
Kvantil Chi^2(1-alfa,1): 3,841458829
Pravděpodobnost: 0,5010554578
Závěr: Autokorelace je nevýznamná
Durbin-Watsonův test autokorelace
Hodnota kritéria DW: -1
Kritické hodnoty DW 0 2
Závěr: Negativní autokorelace reziduí není
prokázána.
Znaménkový test reziduí
Hodnota kritéria Sg: 0,06063390626
Kvantil N(1-alfa/2): 1,959963999
Pravděpodobnost: 0,9516507699
Závěr: V reziduích není trend.
Základní statistické charakteristiky: Vícenásobný korelační koeficient R (optimálně co nejblíže 1): 0,9999115449
Koeficient determinace R2 (optimálně co nejblíže 1): 0,9998230977
Predikovaný korelační koeficient Rp(optimálně co nejblíže 1): 0,9982212724
Střední kvadratická chyba predikce MEP (optimálně co nejnižší číslo): 804322056,1
Akaikeho informační kritérium (optimálně co nejnižší číslo): 136,2310976
Závěr testů předpokladů MNČ:
Předpoklady MNČ jsou splněny, ač model dle Scottova kritéria vykazuje multikolinearitu,
vzhledem k nevýznamnosti absolutního členu je tento závěr přijatelný a MNČ lze použít.
Kalibrace: Pro kalibraci byla použita zpřesněná data s vyloučenými body 8 a 9. Pro kalibraci bylo použito
7 bodů, byla provedena lineární kalibrace na hladině významnosti 0,05.
Parametry kalibračního modelu
Parametr Odhad Směr.Odch. Spodní mez Horní mez
β 0 -1432,276925 6828,247592 -18984,84615 16120,2923 β 1 2702717,85 16077,58877 2661389,093 2744046,608
Významnost absolutního členu β 0
Hodnota Spodní mez Horní mez Závěr
-1432,276925 -18984,84615 16120,2923 Nevýznamný
Absolutní člen je nevýznamný, znamená to, že kalibrační křivka prochází počátkem souřadnic. Absolutní člen nemůže být vyloučen z modelu, došlo by k deformaci intervalu spolehlivosti predikce pro x=0 a nebyly by spočítány kalibrační meze.
Korelační koeficient: 0,9999115449
Kalibrační meze:
Metoda Yc Yd Yq Xc Xd Xq
Metoda podle ISO 11843-2 18053,58183 23425,69 37539,44 0,00721 0,009197 0,014419 Přímá metoda analytu 21227,99251 43404,36 65352,96 0,008384 0,016589 0,02471
Přímá metoda signálu, IUPAC 21227,99251 43640,64 65814,53 0,008384 0,016677 0,024881 Kombinovaná metoda Ebel,Kamm 20982,9984 43398,29 65346,96 0,008294 0,016587 0,024708
Metoda K*Sigma z regrese 21227,99251 43888,26 66548,53 0,008384 0,016769 0,025153 Metoda K*Sigma, ACS 27894,04128 57220,36 86546,68 0,010851 0,021701 0,032552
yc – kritická hodnota y, nejnižší hodnota rozeznatelná od šumu (hodnoty nižší jsou šum) yd – mez detekce y, hodnota, nad kterou můžeme bezpečně měřit hodnotu yq – mez kvantifikace, hodnota, nad níž můžeme stanovit skutečnou hodnotu y s relativní chybou menší než α xc – kritická úroveň x, hodnota odpovídající yc podle kalibračního modelu xd – mez detekce x, minimální hodnota x, detekovatelná danou kalibrační metodou
Kalibrační závislost - Sheet1y - plocha píku
x - koncentrace
0.00 0.10 0.20 0.30 0.40 0.50 0.60 0.70 0.80 0.90 1.00-1.0E06
0.0E06
1.0E06
2.0E06
3.0E06
Validace směrnice
Hodnota Spodní mez Horní mez Směrnice = 1
2702717,85 2661389,093 2744046,608 Ne
xq – mez kvantifikace x, minimální hodnota x, kterou lze stanovit s relativní chybou menší než α
Určení vzorků:
Číslo vzorku Naměřené hodnoty Bodový odhad Intervalový odhad
Spodní mez Horní mez
1 1008702 0,187138949 -3,234997517 3,607238 2 87904 0,016792458 -0,287910493 0,316118 3 345290 0,064408786 -1,110949113 1,233082 4 29563 0,005999804 -0,101919804 0,111641 5 46534 0,009139606 -0,155963013 0,170885
Závěr
Závislost je lineární. Stanovení má dostatečnou citlivost. Byly vypočteny bodové a intervalové odhady koncentrace isomeru vitaminu E v lidském séru. Výsledky jsou uvedeny v tabulce.
ÚLOHA 2: NELINEÁRNÍ KALIBRACE
Zadání
Pro stanovení hydralazinu (vazodilatans)bylo připraveno 9 kalibračních vzorků. Lidská plasma byla obohacena standardem hydralazinu a upravena mikroextrakční metodou společně s reálnými vzorky. Vzorky byly následně změřeny pomocí LC-MS metody. Vyčíslete bodový a intervalový odhad pro neznámé koncentrace.
Data
Koncentrace hydralazinu [ng/ml] Plocha píku
50,00 294,33
75,00 732,67
100,00 1077,00
250,00 3595,33
500,00 8203,33
750,00 9936,00
1000,00 10550,67
2500,00 27697,33
5000,00 72715,67
? 5098,39
? 51385,09
? 962,10
Program QC.Expert 3.3 – Linerární regrese QC.Expert 3.3 - Kalibrace
Řešení
Regresní diagnostika dat: Návrh modelu: Použijeme lineární regresní model y = β0 + β1x, kde x odpovídá koncentraci hydralazinu a y ploše píku. Odhad parametrů a testy významnosti: Metodou nejmenších čtverců byly určeny odhady parametrů β0 a β1 na hladině významnosti 0.05.
Odhady parametrů
Proměnná Odhad Směr.Odch. Závěr Pravděpodobnost Spodní mez Horní mez
β 0 -1005,753228 1278,67393 Nevýznamný 0,4573368256 -4029,336614 2017,830157 β 1 14,06886152 0,6663222847 Významný 1,344928287E-007 12,49325969 15,64446336
Absolutní člen lineárního regresního modelu je na základě testu intervalem spolehlivosti vyhodnocen jako nevýznamný, neboť interval vymezený horní a spodní mezí obsahuje 0,
hodnota p-testu je vyšší než zadaná hladina významnosti 0,05. Hodnota směrnice je vyhodnocena jako významná, 0 neleží v intervalu spolehlivosti a p-hodnota je nižší než zadaná hladina významnosti 0,05.
Testování vlivných bodů pomocí diagnostických grafů a grafů reziduí: Z Q-Q grafu je patrné, že data mají normální rozdělení. Graf heteroskedasticity ukazuje, že v datech heteroskedasticita není přítomná, a je přítomný jeden podezřelý bod (vzdálený od ostatních) – bod 9.
Z uvedených grafů je patrné, že v datech nalezneme 2 vlivné body – bod 8 a 9. Z Pregibonova grafu vyplývá, že oba body jsou považovány za vlivné (pod červenou linkou). Williamsův graf ukazuje, že bod 8 je bodem vybočujícím (nad vodorovnou linkou), bod 9 silně vlivným vybočujícím extrémem (nad vodorovnou a za svislou linkou). McCulloh-Meterův graf označuje
Regresní křivka - Sheet1plocha - y
koncentrace - x
0 1000 2000 3000 4000 5000-1.0E04
0.0E04
1.0E04
2.0E04
3.0E04
4.0E04
5.0E04
6.0E04
7.0E04
8.0E04
bod 8 za vlivný (nad červenou linkou) a bod 9 za silně vlivný (nad červenou a za svislou linkou). L-R graf označuje body 8 a 9 za vlivné body (v oblasti křivek zobrazujících sílu vlivu).
Grafická analýza ukazuje, že body 8 a 9 jsou velmi vlivné a je třeba je vyloučit a model opravit. Kritika modelu a metody: Statistické testy:
Fisher-Snedecorův test významnosti
Hodnota kritéria F: 445,8094124
Kvantil F (1-alfa, m-1, n-m): 5,591447851
Pravděpodobnost: 1,344928287E-007
Závěr: Model je významný
Scottovo kritérium multikolinearity
Hodnota kritéria SC: 0,3327168368
Závěr: Model vykazuje multikolinearitu!
Cook-Weisbergův test heteroskedasticity
Hodnota kritéria CW: 2,286324758
Kvantil Chi^2(1-alfa,1): 3,841458829
Pravděpodobnost: 0,1305186571
Závěr: Rezidua vykazují homoskedasticitu.
Jarque-Berrův test normality
Hodnota kritéria JB: 2,814684574
Kvantil Chi^2(1-alfa,2): 5,991464547
Pravděpodobnost: 0,2447930089
Závěr: Rezidua mají normální rozdělení.
Waldův test autokorelace
Hodnota kritéria WA: 0,004806063336
Kvantil Chi^2(1-alfa,1): 3,841458829
Pravděpodobnost: 0,9447303081
Závěr: Autokorelace je nevýznamná
Durbin-Watsonův test autokorelace
Hodnota kritéria DW: -1
Kritické hodnoty DW 0 2
Závěr: Pozitivní autokorelace reziduí není
prokázána.
Znaménkový test reziduí
Hodnota kritéria Sg: 0,6744532734
Kvantil N(1-alfa/2): 1,959963999
Pravděpodobnost: 0,5000231832
10
9
8
8 8
8
9
9
9
Závěr: V reziduích není trend.
Základní statistické charakteristiky: Vícenásobný korelační koeficient R (optimálně co nejblíže 1): 0,9922403728
Koeficient determinace R2 (optimálně co nejblíže 1): 0,9845409574
Predikovaný korelační koeficient Rp(optimálně co nejblíže 1): 0,831349916
Střední kvadratická chyba predikce MEP (optimálně co nejnižší číslo): 42419012,29
Akaikeho informační kritérium (optimálně co nejnižší číslo): 146,3936087
Opravený model: Z výsledků předchozí regresní analýzy byl pro další tvorbu modelu odebrán bod č. 8 a 9 (vlivné odlehlé body).
Odhady parametrů
Proměnná Odhad Směr.Odch. Závěr Pravděpodobnost Spodní mez Horní mez
β 0 332,3483416 715,1100141 Nevýznamný 0,6616455822 -1505,900471 332,3483416 β 1 11,76619876 1,375093517 Významný 0,0003591219358 8,231408339 11,76619876
Absolutní člen lineárního regresního modelu je na základě testu intervalem spolehlivosti
vyhodnocen jako nevýznamný, neboť interval vymezený horní a spodní mezí obsahuje 0,
hodnota p-testu je vyšší než zadaná hladina významnosti 0,05. Hodnota směrnice je
vyhodnocena jako významná, 0 neleží v intervalu spolehlivosti a p-hodnota je nižší než
zadaná hladina významnosti 0,05.
Regresní křivka - Sheet1plocha - y
koncentrace - x
0 100 200 300 400 500 600 700 800 900 1000
-0.20E04
0.00E04
0.20E04
0.40E04
0.60E04
0.80E04
1.00E04
1.20E04
1.40E04
1.60E04
Statistické testy:
Fisher-Snedecorův test významnosti
Hodnota kritéria F: 73,21631916
Kvantil F (1-alfa, m-1, n-m): 6,607890974
Pravděpodobnost: 0,0003591219358
Závěr: Model je významný
Scottovo kritérium multikolinearity
Hodnota kritéria SC: 0,3320234759
Závěr: Model vykazuje multikolinearitu!
Cook-Weisbergův test heteroskedasticity
Hodnota kritéria CW: 0,8256739155
Kvantil Chi^2(1-alfa,1): 3,841458829
Pravděpodobnost: 0,3635264518
Závěr: Rezidua vykazují homoskedasticitu.
Jarque-Berrův test normality
Hodnota kritéria JB: 0,3751960798
Kvantil Chi^2(1-alfa,2): 0,8289478442
Pravděpodobnost: 0,508869263
Závěr: Rezidua mají normální rozdělení.
Waldův test autokorelace
Hodnota kritéria WA: 0,1467499732
Kvantil Chi^2(1-alfa,1): 3,841458829
Pravděpodobnost: 0,7016607514
Závěr: Autokorelace je nevýznamná
Durbin-Watsonův test autokorelace
Hodnota kritéria DW: -1
Kritické hodnoty DW 0 2
Závěr: Pozitivní autokorelace reziduí není
prokázána.
Znaménkový test reziduí
Hodnota kritéria Sg: 0,7882407814
Kvantil N(1-alfa/2): 1,959963999
Pravděpodobnost: 0,430555879
Závěr: V reziduích není trend.
Základní statistické charakteristiky: Vícenásobný korelační koeficient R (optimálně co nejblíže 1): 0,9675095459
Koeficient determinace R2 (optimálně co nejblíže 1): 0,9360747213
Predikovaný korelační koeficient Rp(optimálně co nejblíže 1): 0,6640764584
Střední kvadratická chyba predikce MEP (optimálně co nejnižší číslo): 3254921,339
Akaikeho informační kritérium (optimálně co nejnižší číslo): 101,5278166
Závěr testů předpokladů MNČ:
Předpoklady MNČ jsou splněny, ač model dle Scottova kritéria vykazuje multikolinearitu,
vzhledem k nevýznamnosti absolutního členu je tento závěr přijatelný a MNČ lze použít.
Z regresní přímky je patrné, že se nejedná o lineární závislost. Odebráním vlivných bodů došlo
ke zhoršení hodnot základních statistických parametrů.
Kalibrace: Pro kalibraci byla použita zpřesněná data s vyloučenými body 8 a 9. Pro kalibraci bylo použito
7 bodů, byla provedena nelineární kalibrace (kvadratická) na hladině významnosti 0,05.
Parametry kalibračního modelu
Parametr Odhad Směr.Odch. Spodní mez Horní mez
Abs. -1093,126639 275,5733972 -1858,241049 -328,012229 X 23,93668974 1,641361656 19,3795392 28,49384027 X2 -0,01224761337 0,001604539245 -0,0167025285 -0,007792698236
Korelační koeficient: 0,9979445338
Křivka grafu reziduí (zakřivenost) svědčí o nelinearitě kalibrační závislosti:
Kalibrační závislost - Sheet1plocha - y
koncentrace - x
0 100 200 300 400 500 600 700 800 900 1000
-0.20E04
0.00E04
0.20E04
0.40E04
0.60E04
0.80E04
1.00E04
1.20E04
Významnost absolutního členu β 0
Hodnota Spodní mez Horní mez Závěr
-1093,126639 -1858,241049 -328,012229 Významný
Validace směrnice
Hodnota Spodní mez Horní mez Směrnice = 1
23,93668974 19,3795392 28,49384027 Ne
Kalibrační meze:
Metoda Yc Yd Yq Xc Xd Xq
Metoda podle ISO 11843-2 -804,4011364 -719,6898172 -515,675634 12,07440422 15,72758632 24,14880845 Přímá metoda analytu -66,13798184 664,4877803 1324,574784 43,89001379 76,41541589 106,8451302
Přímá metoda signálu, IUPAC -66,13798184 771,637396 1488,962476 43,89001379 81,28469325 114,5902666 Kombinovaná metoda, Ebel,Kamm -228,1547318 636,8178847 1299,09785 36,8298648 75,16226309 105,6509429
Metoda K*Sigma z regrese -66,13798184 960,8506751 1987,839332 43,89001379 89,94850656 138,532673 Metoda K*Sigma, ACS -396,3534248 300,4197893 997,1930033 29,55597425 60,06393838 91,62227469
yc – kritická hodnota y, nejnižší hodnota rozeznatelná od šumu (hodnoty nižší jsou šum) yd – mez detekce y, hodnota, nad kterou můžeme bezpečně měřit hodnotu yq – mez kvantifikace, hodnota, nad níž můžeme stanovit skutečnou hodnotu y s relativní chybou menší než α xc – kritická úroveň x, hodnota odpovídající yc podle kalibračního modelu xd – mez detekce x, minimální hodnota x, detekovatelná danou kalibrační metodou xq – mez kvantifikace x, minimální hodnota x, kterou lze stanovit s relativní chybou menší než α
Určení vzorků:
Číslo vzorku Naměřené hodnoty Bodový odhad Intervalový odhad
Spodní mez Horní mez
1 5098,39 166,3436164 -1551,841328 -649899,3303 2 51385,09 977,1945 -7025,015699 -649899,3303 3 962,1 68,20723021 -388,1169671 742,9004506
Závěr
Kalibrační závislost vystihuje kalibrační nelineární křivka: y = ax2 + bx +c.
ÚLOHA 3: ROZLIŠENÍ MEZI LINEÁRNÍ A NELINEÁRNÍ KALLIBRACÍ
Zadání Pro stanovení léčivé látky metaraminol v lidské plasmě (látka stahující cévy, zvyšující krevní tlak a nosní dekongescens) byla vyvinuta LC-MS metoda. Vzorky pacientů měřeny touto metodou jsou kvantifikovány pomocí matricové kalibrační křivky v uvedeném rozmezí. Určete koncentrace léčivé látky u pacientů, kterým byly odebrány vzorky.
Data
Koncentrace metaraminolu [ng/ml] Plocha píku
50,00 737,00 75,00 1239,00
100,00 1594,00 250,00 3659,33
500,00 7814,00 750,00 9969,00
1000,00 13020,00
2500,00 33274,00 5000,00 56647,33 7500,00 79317,67
? 5098,39 ? 43071,71 ? 13031,05
Program QC.Expert 3.3 - Kalibrace
Řešení
Byla provedena lineární a kvadratická kalibrace a výsledky obou kalibrací porovnány.
Lineární kalibrace Lineární kalibrace byla provedena s 10 body na hladině významnosti 0,05. Lineární model dle výsledků nevyhovuje (viz příloha).
Parametry kalibračního modelu
Parametr Odhad Směr.Odch. Spodní mez Horní mez
Abs. 1786,30075 867,0955353 -213,2251395 3785,82664 X 10,68594203 0,2900112801 10,01717482 11,35470924
Významnost absolutního členu β 0
Hodnota Spodní mez Horní mez Závěr
1786,30075 -213,2251395 3785,82664 Nevýznamný
Citlivost metody: 10,68594203 Zvolený faktor K: 1,959963999 Vypočítaná sm.odch. slepého signálu: 2208,194764 Z lineární kalibrační závislosti je patrné, že křivka (přímka) nekopíruje body, korelační koeficient se blíží jedné. Graf reziduí je velmi zakřivený, ukazuje nevhodnost lineární kalibrace.
Korelační koeficient: 0,9970667436
Kalibrační závislost - Sheet1plocha - y
koncentrace - x
0 1000 2000 3000 4000 5000 6000 7000 8000-1.0E04
0.0E04
1.0E04
2.0E04
3.0E04
4.0E04
5.0E04
6.0E04
7.0E04
8.0E04
9.0E04
Validace směrnice
Hodnota Spodní mez Horní mez Směrnice = 1
10,68594203 10,01717482 11,35470924 Ne
Kalibrační meze:
Metoda Yc Yd Yq Xc Xd Xq
Metoda podle ISO 11843-2 3086,810355 3399,107062 4387,319959 121,7028504 150,9278552 243,4057007 Přímá metoda analytu 4452,33527 6890,13458 9241,365501 249,4898917 477,6213285 697,6516183
Přímá metoda signálu, IUPAC 4452,33527 6992,808284 9426,561714 249,4898917 487,2296254 714,9824453 Kombinovaná metoda, Ebel,Kamm 4332,148924 6877,997196 9229,625832 238,2427461 476,4855013 696,5530096
Metoda K*Sigma z regrese 4452,33527 7118,36979 9784,40431 249,4898917 498,9797834 748,4696751 Metoda K*Sigma, ACS 6114,28299 10442,26523 14770,24747 405,0164437 810,0328875 1215,049331
yc – kritická hodnota y, nejnižší hodnota rozeznatelná od šumu (hodnoty nižší jsou šum) yd – mez detekce y, hodnota, nad kterou můžeme bezpečně měřit hodnotu yq – mez kvantifikace, hodnota, nad níž můžeme stanovit skutečnou hodnotu y s relativní chybou menší než α xc – kritická úroveň x, hodnota odpovídající yc podle kalibračního modelu xd – mez detekce x, minimální hodnota x, detekovatelná danou kalibrační metodou xq – mez kvantifikace x, minimální hodnota x, kterou lze stanovit s relativní chybou menší než α
Určení vzorků:
Číslo vzorku Naměřené hodnoty Bodový odhad Intervalový odhad
Spodní mez Horní mez
1 5098,39 71,43911574 -4798,359583 4671,759848 2 43071,71 1848,274508 -37661,00896 41371,32701 3 13031,05 442,7054008 -11648,99899 12297,52255
Kvadratická kalibrace Kvadratická kalibrace byla provedena s 10 body na hladině významnosti 0,05. Kvadratický model dle výsledků vyhovuje (viz příloha).
Parametry kalibračního modelu
Parametr Odhad Směr.Odch. Spodní mez Horní mez
Abs. 336,8783551 402,661228 -615,2641499 1289,02086 X 13,61536442 0,450931006 12,54908203 14,68164681
X2 -0,000418709916 6,237103814E-005 -0,0005661939853 -0,0002712258466
Významnost absolutního členu β 0
Hodnota Spodní mez Horní mez Závěr
336,8783551 -615,2641499 1289,02086 Nevýznamný
Validace směrnice
Hodnota Spodní mez Horní mez Směrnice = 1
13,61536442 12,54908203 14,68164681 Ne
Citlivost v nule: 13,61536442 Citlivost v počátku: 13,57349343 Citlivost ve středu: 10,49597554 Citlivost na konci: 7,334715678 Zvolený faktor K: 1,959963999 Vypočítaná sm.odch. slepého signálu: 865,5661629 Z kvadratické kalibrační závislosti je patrné, že křivka prokládá body těsněji, než přímka v lineární kalibrační závislosti, korelační koeficient se blíží jedné a je vyšší hodnoty, než korelační koeficient u kalibrace lineární. Znamená to, že křivka prokládá body přesněji (větší počet kalibračních bodů leží na křivce). Graf reziduí je velmi zakřivený, ukazuje vhodné použití kvadratické kalibrace.
Korelační koeficient: 0,999606149
Kalibrační závislost - Sheet1plocha - y
koncentrace - x
0 1000 2000 3000 4000 5000 6000 7000 8000-1.0E04
0.0E04
1.0E04
2.0E04
3.0E04
4.0E04
5.0E04
6.0E04
7.0E04
8.0E04
9.0E04
Graf reziduí - Sheet1Reziduum
koncentrace - x
0 1000 2000 3000 4000 5000 6000 7000 8000-2000
-1000
0
1000
2000
Kalibrační meze:
Metoda Yc Yd Yq Xc Xd Xq
Metoda podle ISO 11843-2 857,1646513 985,3543435 1377,450947 38,21552495 47,69821679 76,4310499 Přímá metoda analytu 1675,626499 2856,584596 3982,245288 98,62541187 186,1288414 269,9807677
Přímá metoda signálu, IUPAC 1675,626499 2925,051991 4102,360105 98,62541187 191,2165677 278,9542568 Kombinovaná metoda, Ebel,Kamm 1591,559363 2846,241409 3972,343495 92,41449112 185,3603922 269,2412532
Metoda K*Sigma z regrese 1675,626499 3014,374643 4353,122787 98,62541187 197,8564447 297,7043941 Metoda K*Sigma, ACS 2033,356873 3729,835391 5426,313908 125,08144 251,1402234 378,1996243
yc – kritická hodnota y, nejnižší hodnota rozeznatelná od šumu (hodnoty nižší jsou šum) yd – mez detekce y, hodnota, nad kterou můžeme bezpečně měřit hodnotu yq – mez kvantifikace, hodnota, nad níž můžeme stanovit skutečnou hodnotu y s relativní chybou menší než α xc – kritická úroveň x, hodnota odpovídající yc podle kalibračního modelu xd – mez detekce x, minimální hodnota x, detekovatelná danou kalibrační metodou xq – mez kvantifikace x, minimální hodnota x, kterou lze stanovit s relativní chybou menší než α
Určení vzorků:
Číslo vzorku Naměřené hodnoty Bodový odhad Intervalový odhad
Spodní mez Horní mez
1 5098,39 163,3440199 -3457,592622 4235,634635 2 43071,71 1639,75014 -21854,44266 -45512571,18 3 13031,05 460,4291794 -8066,133521 -45512571,18
Závěr Po porovnání lineární a kvadratické kalibrace byla zvolena jako správná kalibrační metoda
metoda kvadratická. Kvadratická kalibrační závislost lépe prokládá kalibrační body, má vyšší
hodnotu korelačního koeficientu, tudíž i výsledky z analýzy vzorků odebraných pacientům
budou přesněji vyhodnoceny kvadratickou kalibrací. Kalibrační křivka má tedy obecný tvar: y
= ax2 + bx +c.
top related