newtoni meetod - taltechstaff.ttu.ee/~kairik/rakmatkoos.pdf · newtoni meetod uldskeem newtoni...

45
Newtoni meetod ¨ Uldskeem Newtoni meetodi korral: x m = x m-1 - f (x m-1 ) f 0 (x m-1 ) Kui funktsiooni f (x) tuletis f 0 (x) ei muuda m"arki ja on nullist erinev vaadeldaval l˜oigul [a; b], siis lahend on ¨ uhene selles punktis. N¨aitame, et Newtoni meetod on ruutkoonduvusega meetod, st et j¨argmise l¨ahendi viga on ligikaudne v˜ordne k¨aesoleva lahendi vea ruuduga. Eeldame, et funktsiooni f (x) on l˜oigul [a; b] kaks korda pidevalt diferentseeruv, samal l˜oigul asuvad ka l¨ahend x n ja lahend x * . Taylori valemi kohaselt siis f (x) f (x n )+ f 0 (x n )(x - x n )+ f 00 (ξ ) 2 (x - x n ) 2 kus ξ [a; b]. Kuna f (x * )=0, siisv¨a¨ artuse x * asendamisel eelmisesse seosesse saame 0= f (x * )= f (x n )+ f 0 (x n )(x * - x n )+ f 00 (ξ ) 2 (x * - x n ) 2 . Et f 0 (x) 6= 0 kui x [a; b], siis me v˜oime eelneva v˜orduse suurusega f 0 (x n )l¨abi jagada. Saame 0= f (x n ) f 0 (x n ) + f 0 (x n )(x - x n ) f 0 (x n ) + f 00 (ξ ) 2f 0 (x n ) (x - x n ) 2 ehk x * = x n - f (x n ) f 0 (x n ) - 1 2 f 00 (ξ ) f 0 (x n ) (x * - x n ) 2 Kasutades ¨ara, et x n+1 = x n - f (xn) f 0 (xn) ehk x n = x n+1 + f (xn) f 0 (xn) , siis x * - x n+1 = - 1 2 f 00 (ξ ) f 0 (x n ) (x * - x n ) 2 ehk x n+1 - x * = 1 2 f 00 (ξ ) f 0 (x n ) (x * - x n ) 2 Kuil˜oigul[a; b] on |f 0 (x)|≥ m 1 ja |f 00 (x)|≤ M 2 , siis saame veahinnangu |x * - x n+1 |≤ M 2 2m 1 |x * - x n | 2 Saadud hinnang on t¨apsem, kui eelnevad samalaadsed. Kiire koondumine on garanteeritud, kui hinnangu parem pool on v¨aiksem kui q, misonv¨aiksem ¨ uhest. 1

Upload: others

Post on 15-Dec-2020

0 views

Category:

Documents


0 download

TRANSCRIPT

Page 1: Newtoni meetod - TalTechstaff.ttu.ee/~kairik/rakmatkoos.pdf · Newtoni meetod Uldskeem Newtoni meetodi korral: xm = xm¡1 ¡ f(xm¡1) f0(x m¡1) Kui funktsiooni f(x) tuletis f0(x)

Newtoni meetod

Uldskeem Newtoni meetodi korral:

xm = xm−1 − f(xm−1)f ′(xm−1)

Kui funktsiooni f(x) tuletis f ′(x) ei muuda m"arki ja on nullist erinevvaadeldaval loigul [a; b], siis lahend on uhene selles punktis.Naitame, et Newtoni meetod on ruutkoonduvusega meetod, st et jargmise lahendiviga on ligikaudne vordne kaesoleva lahendi vea ruuduga.Eeldame, et funktsiooni f(x) on loigul [a; b] kaks korda pidevalt diferentseeruv,samal loigul asuvad ka lahend xn ja lahend x∗. Taylori valemi kohaselt siis

f(x) ≈ f(xn) + f ′(xn)(x− xn) +f ′′(ξ)

2(x− xn)2

kus ξ ∈ [a; b]. Kuna f(x∗) = 0, siis vaartuse x∗ asendamisel eelmisesse seosessesaame

0 = f(x∗) = f(xn) + f ′(xn)(x∗ − xn) +f ′′(ξ)

2(x∗ − xn)2.

Et f ′(x) 6= 0 kui x ∈ [a; b], siis me voime eelneva vorduse suurusega f ′(xn) labijagada. Saame

0 =f(xn)f ′(xn)

+f ′(xn)(x− xn)

f ′(xn)+

f ′′(ξ)2f ′(xn)

(x− xn)2

ehk

x∗ = xn − f(xn)f ′(xn)

− 12

f ′′(ξ)f ′(xn)

(x∗ − xn)2

Kasutades ara, et xn+1 = xn − f(xn)f ′(xn) ehk xn = xn+1 + f(xn)

f ′(xn) , siis

x∗ − xn+1 = −12

f ′′(ξ)f ′(xn)

(x∗ − xn)2

ehk

xn+1 − x∗ =12

f ′′(ξ)f ′(xn)

(x∗ − xn)2

Kui loigul [a; b] on |f ′(x)| ≥ m1 ja |f ′′(x)| ≤ M2, siis saame veahinnangu

|x∗ − xn+1| ≤ M2

2m1|x∗ − xn|2

Saadud hinnang on tapsem, kui eelnevad samalaadsed. Kiire koondumine ongaranteeritud, kui hinnangu parem pool on vaiksem kui q, mis on vaiksem uhest.

1

Page 2: Newtoni meetod - TalTechstaff.ttu.ee/~kairik/rakmatkoos.pdf · Newtoni meetod Uldskeem Newtoni meetodi korral: xm = xm¡1 ¡ f(xm¡1) f0(x m¡1) Kui funktsiooni f(x) tuletis f0(x)

Nagu eelnevalt nagime, on iteratsioonimeetod lineaarse koonduvusega; New-toni meetod on ruutkoonduvusega meetod. Koolude meetodi jaoks saame hin-nangu kullalt suure n korral

|x∗ − xn+1| ≤ c|x− xn|1.618,

kus c on positiivne konstant. Modifitseeritud Newtoni meetodi korral

|x∗ − xn+1| ≤ c|x− xn|.NB! Kui kasutame lineaarse aproksimatsiooni asemel korgemat jarku aproksi-matsioone, naiteks olgu meil xn−1, xn−1 ja xn kolm jarjestikust lahendit la-hendile x∗. Asendades kovera y = f(x) kaare ruutparabooliga, mis labib punkte(xn−2, f(xn−2)), (xn−1, f(xn−1)) ja (xn, f(xn)) ning vottes jargmiseks lahislahen-diks parabooli ja x−telje loikepunkti x−koordinaadi, mis on lahim vaartusele xn.Kutsutakse seda paraboolide meetodiks. See on kuupkiirusega iteratsioonimee-tod.

Iteratsioonimeetodi kasutamine funktsiooni vaartuste ligikaudselarvutamisel

Iga ilmutatud funktsiooni y = f(x) saab esitada ilmutamata funktsioonina

F (x, y) = 0.

Olgu meil mingi x vaartuste korral vaja arvutada funktsiooni vaartus y(x), kusargumendi vaartus loetakse fikseerituks.Olgu yn mingi lahisvaartus funktsiooni vaartusele y. Kuna iga etteantud xvaartusele vastava tapse funktsiooni y = y(x) korral F (x, y) = 0, siis Lagrange’ikeskvaartuslause pohjal

F (x, yn) = F (x, yn)− F (x, y) = (yn − y)F ′y(x, yn),

kus yn ∈ [yn, y]. Saame siit, et

y = yn − F (x, yn)F ′(x, yn)

.

Kui yn on piisavalt hea lahend lahendile y, siis yn ≈ yn ja eelneva valem lahebkujule

yn+1 = yn − F (x, yn)F ′(x, yn)

kus n = 0, 1, 2, ..., millest saab maarata jargmise lahisvaartuse. Sisuliselt saamesiit Newtoni meetodi. Toepoolest, fikseerides muutuja x, muutub F (x, y) uhemuutuja funktsiooniks.

2

Page 3: Newtoni meetod - TalTechstaff.ttu.ee/~kairik/rakmatkoos.pdf · Newtoni meetod Uldskeem Newtoni meetodi korral: xm = xm¡1 ¡ f(xm¡1) f0(x m¡1) Kui funktsiooni f(x) tuletis f0(x)

Poordvaartuse arvutamine Olgu y = 1x, x > 0. Valime F (x, y) = x − 1

y= 0,

st kirjutame antud funktsiooni ilmutamata funktsiooni kujule F (x, y) = 0. KunaF (x, y) = xy−1

yja F ′(x, y) = (x− 1

y)′y = 1

y2 , siis

yn+1 = yn − F (x, yn

F ′y(x, yn)

= yn − (xyn − 1)y2n

yn

= yn − xy2n + yn = yn(2− xyn)

. Saadud iteratsiooniprotsess sisaldab ainult korrutamist ja lahutamist.

Ruutjuure y =√

x arvutamine Teisendame vorrandi y =√

x x > 0 kujuleF (x, y) = y2 − x = 0. Kuna F ′

y(x, y) = 2y, siis saame

yn+1 = yn − y2n − x

2yn

=2y2

n − y2n + x

2yn

=12

(yn +

x

yn

).

Saadud tulemust nimetatakse ka Heroni valemiks. Uldistades saadud seost p−ndajuure y = p

√x arvutamiseks, kus p on positiivne taisarv, saame juhul, kus F (x, y) =

yp − x et

yn+1 =1p

[(p− 1)yn +

x

yp−1n

]

Kui aga F (x, y) = 1− xyp , saaksime

yn+1 = yn

[(1 +

1p

)− yp

n

px

].

Heroni valemi rakendamisel oigete numbrikohtade arv kahekordistub igal jargnevaliteratsioonisammul.

Hariliku iteratsioonimeetodi ja Newtoni meetodi vaheline seos.Kordsete lahendite arvutamine

Vorrandi f(x) = 0 lahendi ehk f(x) nullkoha maarmine pohineb sageli selle funkt-siooni lineaarsete approksimatsioonide nullkoha samm-sammulisel arvutamisel.Hariliku iteratsioonimeetodi rakendamiseks tuleb ta viia kujule

x = ϕ(x).

Kui lahendi x∗ umbruses |ϕ′(x)| ≤ q < 1, siis loigupikkused |xn−x∗— kahanevadgeomeetrilise progressiooni kiirusega. On teada, et mida vaiksem on geomeetriliseprogressiooni tegur q, seda kiiremini iteratsiooniprotsess koondub. Lahendi x∗ onkoonduvus maaratud suurusega |ϕ′(x∗| ning koonduvuskiirus on eriti suur, kuiϕ′(x∗) = 0. Seega vorrandi lahendamise edukus hariliku iteratsiooniprotsessi abil

3

Page 4: Newtoni meetod - TalTechstaff.ttu.ee/~kairik/rakmatkoos.pdf · Newtoni meetod Uldskeem Newtoni meetodi korral: xm = xm¡1 ¡ f(xm¡1) f0(x m¡1) Kui funktsiooni f(x) tuletis f0(x)

soltub sellest, kui hasti on valitud ϕ(x). Naiteks√

a, a > 0 arvutamiseks ehkvorrandi x2 − a = 0 lahendamiseks saab valida ϕ1(x) = a

xvoi ϕ2(x) = 1

2(x + ax)

ning kirjutada valja vastavad iteratsiooniprotsessid. Esimesel juhul

xn+1 =a

xn

ja teisel

xn+1 =12

(xn +

a

xn

).

Arvutame tuletised:ϕ′1(x) =

(a

x

)′= − a

x2

ja|ϕ′1(x∗)| = |ϕ1(

√a)| = | − a

(√

a)2| = 1

ning koondumist ei toimu (tuletis peab olema vaiksem uhest). Teisel juhul

ϕ′2(x) =

[12

(x +

a

x

)]′=

12

(1− a

x2

)

ning

|ϕ′2(x∗)| = |ϕ′2(√

a)| =12

∣∣∣∣1−a

(√

a)2

∣∣∣∣ =12|1− 1| = 0.

Teise seose saime Newtoni meetodi rakendamisel ning iteratsiooniprotsess koon-dub kiiresti.

Naide: Lahendame vorrandi x5 − x − 1 = 0. Tapne lahend x∗ = 1.1673. Sellearvutamiseks pole moistlik esitada vorrandit kujul x = x5 − 1, sest vahemikus(1;2) oleks ϕ′(x) = 5x4 > 1. Kui aga vorrand kirjutada kujul x = 5

√x + 1, siis

ϕ′(x) = 15√

(x+1)4< 1, kui 1 ≤ x ≤ 2.

Newtoni meetod ja tema modifikatsioonid sobivad nii mittelineaarsete vorran-dite kui ka optimeerimisulesannete lahendamiseks, sest levinuim stardipositsioonselliste ulesannete lahendamisel on Taylori ritta arendus, sellel pohinevad ka New-toni tuupi meetodid.

Kui f(x) on pidevalt diferentseeruv ja f ′(x∗) 6= 0, siis f ′(x) pidevuse tottuon x∗ mingis umbruses samuti f ′(x) 6= 0. Kui xk kuulub sellisesse umbrusse, siisNewtoni iteratsiooniprotsess

xk+1 = xk − f(xk)f ′(xk)

,

k = 0, 1, 2, ... on rakendatav vorrandi f(x) = 0 lahendamisel. Newtoni meetoditsaab vaadelda, kui hariliku iteratsioonimeetodi erijuhtu, kui votta

ϕ(x) = x− f(x)f ′(x)

.

4

Page 5: Newtoni meetod - TalTechstaff.ttu.ee/~kairik/rakmatkoos.pdf · Newtoni meetod Uldskeem Newtoni meetodi korral: xm = xm¡1 ¡ f(xm¡1) f0(x m¡1) Kui funktsiooni f(x) tuletis f0(x)

Toepoolest, sel korral f(x∗) = 0 tottu ϕ(x∗) = x∗ − f(x∗)f ′(x∗) = x∗. see tahendab

x∗ = ϕ(x∗). Koonduvuskiiruse hindamisel

ϕ′(x) =

[x− f(x)

f ′(x)

]′= 1− [f ′(x)]2 − f(x)f ′′(x)

[f ′(x)]2=

f(x)f ′′(x)[f ′(x)]2

.

Siit kui f(x∗) = 0, siis ka ϕ′(x∗) = 0 ehk tegu on hea koonduvuskiirusega.

Kordsete lahendite arvutamine Olgu ϕ(x) piisav arv kordi diferentseeruvfunktsioon lahendi xx mingis umbruses ja kuulugu xk sellesse umbrusse. Kuiϕ(i) = 0 iga i = 1, 2, ...p− 1 korral, ent ϕ(p)(x∗) 6= 0, siis Taylori reaksarendusestsaame

xk+1 = ϕ(xk) = ϕ(x∗) +1p!

ϕ(p)(x∗)(xk − x∗) + O(|xk − x∗|p + 1)

ehk

limk→∞

xk+1 − ϕ(x∗)(xk − x∗)p

= limk→∞

xk+1 − xk

(xk − x∗)p=

ϕ(p)(x∗)p!

= c = const

Vektori ja maatriksi norm

n−mootmelise vektori ~x saab kirjutada kujul

~x =

x1

x2

.

.

.xn

voi ~x =

x1

x2

.

.

.xn

Vektorst koneldes peetakse tavaliselt silmas veeruvektorit. Kui kasutada transpo-neerimist, siis saab veeruvektorist reavektori kujul

~x = (x1, x2, . . . , xn)T voi ~x = (x1, x2, . . . , xn)T .

Vektorite ~x = (x1, x2, . . . , xn)T ja ~y = (y1, y2, . . . , yn)T summa ja korrutis arvugaα on defineeritud vordustega

~x + ~y = (x1 + y1, x2 + y2, . . . , xn + yn)T

α~x = (αx1, αx2, . . . , αxn)T .

Definitsioon: Vektori ~x = (x1, x2, . . . , xn)T norm on arv, mida tahistataksesumboliga ‖~x‖, ja mis rahuldab jargmisi tingimusi:1. ‖~x‖ > 0, kui x 6= 0 ning ‖~x‖ ≡ 0 siis ja ainult siis, kui ~x = 0;

5

Page 6: Newtoni meetod - TalTechstaff.ttu.ee/~kairik/rakmatkoos.pdf · Newtoni meetod Uldskeem Newtoni meetodi korral: xm = xm¡1 ¡ f(xm¡1) f0(x m¡1) Kui funktsiooni f(x) tuletis f0(x)

2. ‖α~x‖ = |α|‖~x‖ ∀α;3. ‖~x + ~y‖ ≤ ‖~x‖+ ‖~y‖.Kolmas tingimus on tuntud ka kolmnurga aksioomina.

Vaadeldud tingimused ei maara vektori normi uheselt ja seetottu saab tedadefineerida mitmel viisil. Enimkasutatud normid vektorruumis Rn on:

1. 1−norm - ‖~x‖1 =n∑

k=1

|xk|;2. m−norm - ‖~x‖m = max

1≤k≤n|xk|;

3. Lp voi Lp norm - ‖~x‖p =

(n∑

k=1

|xk|p) 1

p

.

Utleme, et vektorite jada ~xm (m = 1, 2, . . .) koondub normi jargi vektoriks ~x jatahistame lim

m−→∞~xm = ~x, kui lim

n−→∞‖ ~xm − ~x‖ = 0. Saab naidata, et vektori koon-

dumise moiste ei soltu valitud normist. Lisaks veel, et vektori norm valjendabvektori kaugust koordinaatide alguspunktist.Vektorruumi, milles on defineeritud norm, nimetatakse normeeritud vektorruumiksehk lihtsalt normeeritud ruumiks.Ruumi, milles norm on defineeritud skalaarkorrutise ‖x‖ =

√(x, x) abil, nimetatak-

se Hilberti ruumiks ja tahistatakse tavaliselt tahega H.Definitsioon: Olgu A suvaline ristkulikmaatriks. Vahimat arvu M, mille korralvorratus

‖Ax‖ ≤ M‖x‖kehtib iga vektori x puhul, nimetatakse maatriksi A normiks ja tahistatakse ‖A‖.Sarnaselt vektori normiga on ka maatriksi normi defineerimiseks palju voimalusi.

Definitsioon: Suvalise maatriksi A norm defineeritakse kui arv ‖A‖, mis rahuldabjargmisi tingimusi:1. ‖A‖ > 0, kui a 6= ª ning ‖ ª ‖ = 0;2. ‖λA‖ = |λ|‖A‖;3. ‖A + B‖ ≤ ‖A‖+ ‖B‖;4. ‖AB‖ ≤ ‖A‖‖B‖,kus λ on arv, b on sobivate mootmetega maatriks ja ª on nullmaatriks.

Maatriksi normi nimetatakse kooskolastatuks vektori normiga ‖x‖, kui iga vek-tori x korral kehtib ‖Ax‖ ≤ ‖A‖‖x‖. Kui maatriksi norm ‖A‖ on kooskolastatudvektori ‖x‖ normiga selliselt, et mistahes maatriksi A puhul leidub selline vek-tor x 6= 0 nii, et kehtib vordus ‖Ax‖ = ‖A‖‖x‖, siis oeldakse, et see maatriksinorm ‖A‖ on allutatud vektori normile ‖x‖. Mistahes vektori normi puhul leidubvahemalt uks temale allutatud maatriksi norm (‖A‖ = max‖x‖=1 ‖Ax‖). Edasi-pidi motleme maatriksi normi all vektorile allutatud normi.

6

Page 7: Newtoni meetod - TalTechstaff.ttu.ee/~kairik/rakmatkoos.pdf · Newtoni meetod Uldskeem Newtoni meetodi korral: xm = xm¡1 ¡ f(xm¡1) f0(x m¡1) Kui funktsiooni f(x) tuletis f0(x)

Olgu A suvaline (mxn)−ristkulikmaatriks. Norme, mis on maaratud seosega

‖A‖ =√

λmax,

kus λmax on maatriksi AT A suurim omavaartus, nimetatakse maatriksi A spekt-raalseks normiks, mis on kooskolas vektori eukleidilise normiga ja allutatud temale.Lisaks spektraalse normi kasutatakse veel kull sageli maatriksi L1−normi ja L∞−normi, sest nad on lihtsalt arvutatavad.

‖A‖1 = max‖x‖1

‖Ax‖1 = maxj

∑i

|aij|

‖A‖∞ = max‖x‖∞

‖Ax‖∞ = maxi

∑j

|aij|

Naiteks maatriksi

A =

1 2 34 5 67 8 9

korral

‖A‖1 = max(1 + 4 + 7, 2 + 5 + 8, 3 + 6 + 9) = max(12, 15, 18) = 18

‖A‖∞ = max(1 + 2 + 3, 4 + 5 + 6, 7 + 8 + 9) = max(6, 15, 24 = 24

Vorrandisusteemide lahendamine ja ekstreemumulesanded

Mittelineaarsete vorrandite ja vahimruutude ulesannete lahendamine ning funkt-sioonide vaba ekstreemumi otsimise ulesanded on uksteisega tihedalt seotud prob-leemide kogum. Naiteks parima lahendpolunoomi leidmisel tuleb minimeeridavaadeldava ruumi elementide vahelist kaugust iseloomustavat funktsionaali ehknormi. Teatavasti maaratletakse sageli funktsionaali kui funktsiooni funktsioon-ist. Kui vorrand ei ole lahenduv klassikalises mottes, siis tema uldistatud la-hendi leidmine on tavaliselt seotud lahendamisulesandega, mis seisneb vorrandijaakavaldise normi minimiseerimises.

Mittelineaarsete vorrandisusteemide lahendamineOlgu antud arvfunktsioonid fi : Rn −→ R1, i = 1, 2, . . . , n. Vaja on maaratavektor x = (x1, x2, . . . , xn)T ∈ Rn, mille korral

f1(x1, x2, . . . , xn) = 0

f2(x1, x2, . . . , xn) = 0

7

Page 8: Newtoni meetod - TalTechstaff.ttu.ee/~kairik/rakmatkoos.pdf · Newtoni meetod Uldskeem Newtoni meetodi korral: xm = xm¡1 ¡ f(xm¡1) f0(x m¡1) Kui funktsiooni f(x) tuletis f0(x)

. . .

fn(x1, x−2, . . . , xn) = 0

ehk luhemalt, lahendada vorrand

F (x) = 0, (1)

kus F = (f1, f2, . . . , fn)T ja fi : Rn −→ Rn. Vorrandit (1) nimetatakse eelnevavorrandisusteemi esituseks maatriks- ehk vektorkujul. Seega on vorrandisusteemilahendamine ekvivalentne vektorfunktsiooni F (x) nullkoha maaramisega.

Mittelineaarne vahimruutude ulesanneOlgu antud arvfunktsioonid fi : Rn −→ R1, i = 1, 2, . . . , n, m ≥ n. Vaja onmaarata selline vektor x = (x1, x2, . . . , xn)T ∈ Rn, et funktsioon

ϕ(x) =m∑

i=1

f 2i (x)

saavutaks minimaalse vaartuse. See tahendab, et on vaja lahendada minimisee-rimisulesanne

minx∈Rn

ϕ(x) =

{min

m∑i=1

f 2i (x) : x ∈ Rn

}

Funktsiooni ϕ(x) voib kirjutada skalaarkorrutise abil ka kujul

ϕ(x) = F T (x)F T (x) = ‖F (x)‖2,

kus F on vektorfunktsioon, st F : Rn −→ Rm. Sageli kasutatakse funktsiooniϕ(x) asemel funktsionaali

Φ(x) =12‖F (x)‖2.

Vaba miinimumi otsimise ulesanneAntud on arvfunktsioonid fi : Rn −→ R1 ning on vaja lahendada ulesanne

min{f(x) : x ∈ Rn}ehk luhemalt kirja pannes

minx∈R

f(x).

Funktsiooni f(x) nimetatakse optimiseerimisteoorias sihifunktsiooniks.On ilmne, et kui M = n ja maatriks F ′ on mittesingulaarne (st tema determi-nant on nullist erinev), siis ulesanne taandub seose grad Φ = [F ′(x)]T F (x) tottuvahimruutude ulesandeks ja vastupidi.

Iteratsioonimeetodite koonduvuskiirusOptimiseerimismeetodeid konstrueeritakse tavaliselt jargmisel viisil. Olgu xk mingi

8

Page 9: Newtoni meetod - TalTechstaff.ttu.ee/~kairik/rakmatkoos.pdf · Newtoni meetod Uldskeem Newtoni meetodi korral: xm = xm¡1 ¡ f(xm¡1) f0(x m¡1) Kui funktsiooni f(x) tuletis f0(x)

lahend optimiseerimisulesande lahendile x∗. Jargmise lahendi (uldjuhul tapsema)xk+1 saamiseks maaratakse eelkoige optimumi suund (nn otsingusuund) pk jaseejarel sammupikkus αk, mille vorra tuleb antud suunas edasi liikuda. Seegaarvutatakse jargmine lahend eeskirja

xk+1 = xk + αkpk

jargi nii, et oleks taidetud languse (relaksatsiooni) tingimus

f(xk+1) ≤ (xk).

Meetodeid eristatakse uksteisest ostingu suuna ja selles suunas tehtava sammu-pikkuse maaramise viisist. Sageli loetakse kaht meetodit erinevateks vaid siis, kuinad kasutavad erinevaid otsingusuundi. Kui nad aga kasutavad samu suunavek-toreid, kuid erinevaid sammupikkuse valiku reegleid, siis nimetatakse neid antudmeetodi modifikatsioonideks, variantideks voi versioonideks, mitte erinevateksmeetoditeks.Vorrandisusteemide korral iteratsioonimeetodi uldkuju xi+1 = Φ(xi), i = 1, 2 . . . ,kus vektorfunktsioon Φ : Rn −→ Rn. Funktsiooni Φ nimetatakse iteratsioonifunk-tsiooniks ja eelnevat vordust iteratsioonivalemiks.Pohimotteliselt peaksime otsima vastuseid kolmele kusimusele - Milline on sobiviteratsioonifunktsioon? Millistel tingimustel jada {xk} koondub? Kui kiiresti seejada koondub?Uurime esmalt koonduvuskiirust. Olgu antud n−mootmeline vektor xk koordi-naatidega xk

1, xk2, . . . , x

kn. Kui jada {xk} kuhjumispunkt on x∗,, st x∗ on selle jada

piirvaartus, siis nimetatakse jada minimeerivaks.Oeldakse, et minimeeriv jada {xk} koondub:1. Lineaarse ehk geomeetrilise progressiooni kiirusega, kui mingi normi ‖·‖ korraleksisteerivad sellised konstandid K ≥ 0 ja c1 ∈ [0, 1) nii, et k ≥ K korral

‖xk+1 − x∗‖ ≤ c1‖xk − x1‖ ≤ ck+11 ‖x0 − x∗‖

Lineaarne koonduvuskiirus voib osutuda ebapiisavaks, st aeglaseks, kui tegur c1

on liiga lahedal uhele. Seetottu uritatakse sellise koonduvuskiirusega meetodeidvoimaluse korral valtida.2. Superlineaarse kiirusega, kui

‖xk+1 − x∗‖ ≤ c(k)‖xk − x∗‖kus c(k) −→ 0, kui k −→∞.3. Ruutkiirusega, kui

‖xk+1 − x∗‖ ≤ c2‖xk − x∗‖2

Ruutkoondumise korral oigete numbrikohtade arv voib igal iteratsioonisammulkahekordistuda, kui x0 on kullalt lahedal miinimumpunktile.4. Koonduvuskiirusega p (p ≥ 2), kui

‖xk+1 − x∗‖ ≤ cp‖xk − x∗‖p.

9

Page 10: Newtoni meetod - TalTechstaff.ttu.ee/~kairik/rakmatkoos.pdf · Newtoni meetod Uldskeem Newtoni meetodi korral: xm = xm¡1 ¡ f(xm¡1) f0(x m¡1) Kui funktsiooni f(x) tuletis f0(x)

Vaatame vorrandisusteemi

a11x1 + a12x2 + . . . + a1nxn = b1

a21x1 + a22x2 + . . . + a2nxn = b2

. . .

an1x1 + an2x2 + . . . + annxn = bn

Sama susteemi saab kirja panna maatrikskujul

Ax = b,

kus A =

a11 . . . a1n

. . . . . . . . .an1 . . . ann

x =

x1

. . .xn

ja b =

b1

. . .bn

.

Vorrandisusteemi laiendatud maatriksiks nimetatakse maatriksit B, mis saadaksemaatriksile A vabaliikmete veeru lisamisel

B =

a11 a12 . . . a1n b1

a21 a22 . . . a2n b2

. . . . . . . . . . . . . . .an1 an2 . . . ann bn

Kronecker-Capelli teoreem: Lineaarse vorrandisusteemi Ax = b lahendami-seks on tarvilik ja piisav, et r(A) = r(B) (susteemi maatriksi astak on vordnelaiendatud maatriksi astakuga). Lahenduval susteemil on uhene lahend, kuir(A) = n (susteemi maatriksi astak vordub tundmatute arvuga n) ja lopmatapalju lahendeid, kui r(a) < n (susteemi maatriksi astak on tundmatute arvustvaiksem.)Teoreem: Ruutmaatriksi A korral jargmised vaited on samavaaarsed:1. Maatriks on regulaarne;2. det A 6= 0;3. Vorrandisusteemil Ax = 0 eksisteerib vaid triviaalne lahend x = 0;4. Mistahes vektori b korral on susteemil Ax = b uhene lahend x = A−1b, steksisteerib A−1;5. Maatriksi A read (veerud) on lineaarselt soltumatud.

Krameri valem: Kui susteemil on uhene lahend, siis saab selle arvutamisekskasutada Krameri valemeid

xi =det Ai

det A,

kus i = 1, 2 . . . , n; Ai on selline maatriks, mis on saadud maatriksist A sel teel,et tema i−s veerg on asendatud vabaliikme veeruga.

Gaussi meetod koosneb kahest pohietapist. Esimesel sammul viiakse li-neaarne vorrandisusteem kolmnurksele kujul. Teisel etapil liigutakse tundmatutearvutamisel tagurpidi alt ulespoole.

10

Page 11: Newtoni meetod - TalTechstaff.ttu.ee/~kairik/rakmatkoos.pdf · Newtoni meetod Uldskeem Newtoni meetodi korral: xm = xm¡1 ¡ f(xm¡1) f0(x m¡1) Kui funktsiooni f(x) tuletis f0(x)

Gaussi meetodi rakendamisel on pohiliseks kitsendavaks asjaoluks eeldus, et koikelemendid ak−1

kk (juhtelemendid k−ndal sammul), millega vastav rida labi ja-gatakse, oleksid nullist erinevad. Isegi kui mingi juhtelemendiks pretendeeriv arvei vordu nulliga, kuid on talle vaga lahedal, ei sobi see hasti juhtelemendiks, sestnullilahedase arvu kasutamine juhtelemendina voib kaasa tuua suure umardamis-vigade kuhjumise. Seeparast otsitakse Gaussi meetodi rakendamisel suurim ele-ment kas reast, veerust voi koigi maatriksi elementide hulgast.

Lineaarsete vorrandisusteemide stabiilsus, konditsiooniarv Numbrilise la-hendusmeetodi valikul ja rakendamisel on kasulik eristada ulesande omadusi jaomadusi, mis on seotud lahendusalgoritmiga. Mingi arvutusmeetodi arvutuslikstabiilsus valjendab vaatluse all oleva meetodi jargi arvutatud lahendi soltuvusemaara hairituse suhtes. Ta loetakse arvutuslikult stabiilseks, kui lahend soltub pi-devalt hairitustest (st ta on vahetundlik vaikeste hairituste suhtes). Arvutuslikultebastabiilse meetodi rakendamine numbriliselt stabiilse ulesande lahendamiselvoib anda vaga ebatapse lahendi. Seevatu numbriliselt ebastabiilse ulesande la-hendamisel saadakse alati ebaoige lahend, soltumata algoritmi valikust.Lineaarsete vorrandisusteemide korral on arvutuslikku stabiilsust iseloomustavsuurus konditsiooniarv, mis valjendab seost arvutatud lahendi vea suuruse javorrandi vabaliikme hairituse ∆b ja/voi maatriks hairituse ∆A vahel.Loomulik konditsiooniarv maaratakse seosest

‖∆x‖‖x‖ ≤ ‖A−1‖‖b‖

‖x‖ · ‖r‖‖b‖ ,

kus ∆x = x − x, x on vorrandi Ax = b tapne lahend, x on hairitusega vorrandiAx = b + r tapne lahend.Konditsiooniarv condA iseloomustab lahendi suhtelise vea ‖∆x‖

‖x‖ maksimaalselt

voimalikku suurenemist vastavalt suhteliste vigade ‖∆b‖‖b‖ ja ‖∆A‖

‖A‖ vaartustele.

Maatriksi singulaarsus Konditsiooniarvu kasutatakse sageli maatriksi singu-laarsuse iseloomustamiseks, sest ta valjendab seda paremini, kui maatriksi de-terminant. Maatriksit nimetatakse singulaarseks, kui leiduvad sellised nullist er-inevad vektorid x, et Ax = 0 ja ligilhedaselt singulaarseks, kui Ax ≈ 0.

GradientmeetodDef: Punktide (jarjestatud arvupaaride (x, y) hulka xy− tasandil), mille korralf(x, y) = c, nimetatakse funktsiooni nivookoveraks.Def: Suvalise reaalarvu c korral punktide (jarjestatud arvukolmikute) (x, y, z)hulka, mille korral f(x, y, z) = c, nimetatakse funktsiooni f nivoopinnaks.

Funktsiooni gradiendiks nimetatakse tema osatuletiste vektorit

∇x =

(δf

δx1,

δf

δx2, . . . ,

δf

δxn

)T

.

11

Page 12: Newtoni meetod - TalTechstaff.ttu.ee/~kairik/rakmatkoos.pdf · Newtoni meetod Uldskeem Newtoni meetodi korral: xm = xm¡1 ¡ f(xm¡1) f0(x m¡1) Kui funktsiooni f(x) tuletis f0(x)

Gradient on suunatud funktsiooni koige kiirema kasvu suunas. Gradiendi vas-tassuunaline vektor on antigradient −∇x, mis on suunatud vektori koige kiiremalanguse suunas.Meetod kujul

xk+1 = xk − αk∇f(xk),

kus αk > 0, k = 1, 2, . . . kannab kiirema languse meetodi ehk lihtsalt gradient-meetodi kuju. Tema arvukad variandid erinevad uksteisest sammupikkuse valikureeglite poolest.

Kiirema languse (tousu) suund soltub kasutusel olevast normist. Statsionaarsepunkti umbruses tootavad gradientmeetodid halvasti, sest statsionaarse punktiumbruses laheneb nullvektorile, mis tottu liigutakse edasi vaga luhikeste sam-mudega. Kuigi gradientmeetodid koonduvad kullalt norkadel eeldustel ja nadvoimaldavad margatavalt vahendada minimiseeritava funktsiooni vaartust iter-atsioonipunktides, mis paiknevad optimumpunktidest kaugel, on neil ka olulisipuudusi:

• lahendi arvutamiseks on reeglina tarvis palju iteratsioone;

• lahendi umbruses on koondumine aeglane ja arvutatud lahendi tapsus onvaike;

• raske on ennustada nende tegelikku koonduvuskiirust, sest nad ei ole invari-antsed, st tasemepindade geomeetria muutmine voib oluliselt muuta koon-duvuskiirust.

Ideeliselt lihtsamateks relaksatsioonimeediteks on koordinaatide jargi languse mee-todid, milles otsingusuundadeks valitakse koordinaattelgede suunalised uhikvekto-rid e1, e2, . . . , en. Valjavalitud vektori ei korral arvutatakse osatuletis δf(x0)

δxija

voetakse

x1 = x0 − α0δf(x0)

δxi

ei,

kus α0 on sammupikkust reguleeriv suurus. Selle meetodi korral muudetakse kor-raga uht muutujat.Klassikalises komponentide jargi languse meetodis valitakse k−ndal sammul otsin-gussuunaks selline uhikvektor ei, mille korral on taidetud tingimus

|f ′(xk)ei| = max1≤j≤n

|f ′(xk)ej|,

kus f ′(x) = (f ′x1, f ′x2

, . . . , f ′xn)T , ei = (0, 0, . . . , 0, 1, 0, . . . , 0)T ja xk = (xk

1, xk2, . . . .x

kn)T .

Klassikalise komponentide jargi languse meetodi puhul liigutakse tavaliselt valja-valitud koordinaattelje suunas seni, kuni saavutatakse miinimum selle uhe muu-tuja suhtes. Kui oleme kord koigi muutujate jargi optimumi leidnud, siis loemeselliste tegevuste hulga uheks tsukliks ja alustame oma tegevusi esimesest koor-dinaadist uuesti.

12

Page 13: Newtoni meetod - TalTechstaff.ttu.ee/~kairik/rakmatkoos.pdf · Newtoni meetod Uldskeem Newtoni meetodi korral: xm = xm¡1 ¡ f(xm¡1) f0(x m¡1) Kui funktsiooni f(x) tuletis f0(x)

Sammupikkuse valikul on oluline tahele panna, et sammu pikkus peab olema sell-ine, et ta garanteerib funktsiooni vaartuste jada rangelt monotoonse kahanemise,st

f(x0) > f(x1) > . . . > f(xn) > . . .

Lihtsaimal juhul valitakse sammupikkus gradientmeetodis konstantsena, st αk =α, k = 0, 1, . . . Saab toestada, et kui ∇f(x) rahuldab Lipschitzi tingimust

‖∇f(x)−∇f(y)‖ ≤ L‖x− y‖,

kus L on konstant ja ∇f on tokestatud altpoolt ja sammupikkuseid reguleerivparameeter α on piisavalt vaike, siis gradiendi vaartus iteratsioonipunktides lahe-neb nullile.Uheks levinumaks sammuvaliku eeskirjaks on miinimumprintsiip, mille kohaselttuleb sammupikuseks votta selline α vaartus, mis minimeeriks α suhtes uhemuutujafunktsiooni ϕ(α) = f(xk + αpk), kus pk = −∇f(xk).

Teoreem: Kui funktsioon f(x) on tokestatud altpoolt, tema gradient rahuldabLipschitzi tingimust

‖∇f(x)−∇f(y)‖ ≤ L‖x− y‖, L > 0, x, y ∈ Rn

ja sammupikkus on valitud ukskoik millise sammu valiku reegli kohaselt, siis su-valise x0 ∈ Rn korral

‖∇f(xn)‖ −→ 0, k −→∞.

Gradientmeetod mittelineaarse vorrandisusteemi lahendi arvutamiseksVaatame vorrandit F (x) = 0, kus F (x) = (f1(x), f2(x), . . . , fm(x))T ja x =(x1, x2, . . . , xn)T ning eeldame, et funktsioonid fi (i = 1, 2, . . . , m) on pidevaltdiferentseeruvad nende maaramispiirkondade uhisosas. Uldujuhul ei ole iterat-sioonivalem xk+1 = xk − αkF (xk) pole rakendatav vorrandi F (x) = 0 lahen-damiseks. Seeparast asendame vorrandi lahendamise funktsiooni minimeerimiseulesandega ja vaatama funktsiooni

U(x) =12

m∑i=1

|fi(x)|2 =12

(F (x), F (x)) =12‖F (x)‖2,

mille korral ∇2U(x) on summeetriline ja eeldame, et ta on positiivselt maaratud.Ilmselt iga vorrandi F (x) lahend muudab nulliks funktsiooni U(x) vaartuse javastupidi, arvud x∗1, x

∗2, . . . , x

∗n, mille korral U(x) vaartus on null, osutuvad ka

esialgse vorrandi lahendiks klassikalises mottes. Seega taandub esialgne ulesannefunktsiooni U(x) miinimumi otsimise ulesandele n−mootmelises vektorruumis Rn.

13

Page 14: Newtoni meetod - TalTechstaff.ttu.ee/~kairik/rakmatkoos.pdf · Newtoni meetod Uldskeem Newtoni meetodi korral: xm = xm¡1 ¡ f(xm¡1) f0(x m¡1) Kui funktsiooni f(x) tuletis f0(x)

Harilik iteratsioonimeetod mittelineaarse vorrandisusteemi lahendi arvu-tamiseks Olgu vorrandisusteem

f(x1, x−2, . . . , xn) = 0,

. . .

fn(x1, x−2, . . . , xn) = 0

mingil viisil teisendatud samavaarseks susteemiks kujul

x1 = ϕ1(x1, x2, . . . , xn)

. . .

xn = ϕn(x1, x2, . . . , xn),

kus funktsioonid ϕ1, . . . , ϕn on pidevad isoleeritud lahendi x∗ = (x∗1, x∗2, . . . , x

∗n)

umbruses. Kasutades vektorsumboolikat kirjutame viimse susteemi maatrikskujul

x = Φ(x),

kus Φ = (ϕ1, . . . , ϕn).Lahtudes mingist alglahendist x0 = (x0

1, x02, . . . , x

0n) saame hariliku iteratsioon-

imeetodi vorrandisusteemi lahendamiseks esitada kujul

xk+1 = Φ(xk), k = 0, 1, . . . .

Vorrandisusteemi lahendit x∗ nimetatakse ka pusipunktiks.Kui iteratsioonimeetodi abil arvutatud lahislahendite jada koondub, st limk−→∞ xk =x∗, st limk−→∞ xk

i = x∗i , i = 1, . . . , n, siis funktsioonide ϕi pidevuse tottu saabpiirile minna ule tema argumentide. Seega

x∗ = limk−→∞

xk+1 = limk−→∞

Φ(xk) = Φ(

limk−→∞

xk)

= Φ(x∗).

Seega x∗ = Φ(x∗).Teoreem: Kui Φ rahuldab piirkonnas S = {x : ‖x− x0‖ < r} Lipschitzi

tingimust‖Φ(x)− Φ(y)‖ ≤ q‖x− y‖, x ∈ S

konstandiga q < 1 ja‖Φ(x0)‖ ≤ (1− q)r,

siis vorrandil x = Φ(x)‖ on piirkonnas S uks lahend x∗, millele iga x0 ∈ S jadaxk+1 = Φ(xk) (k = 0, 1, . . . ,) elemendid lahenevad geomeetrilise progressioonikiirusega:

‖x∗ − xk‖ ≤ q

1− q‖xk − xk−1‖ ≤ qk

1− q‖x1 − x0‖.

14

Page 15: Newtoni meetod - TalTechstaff.ttu.ee/~kairik/rakmatkoos.pdf · Newtoni meetod Uldskeem Newtoni meetodi korral: xm = xm¡1 ¡ f(xm¡1) f0(x m¡1) Kui funktsiooni f(x) tuletis f0(x)

Sageli on kullalt raske esialgset vorrandisusteemi teisendada sobivale kujule, ettekkiv iteratsiooniprotsess koonduks. Seeparast vaatame uht uldist votet selleks.Valime mingi n× n maatriksi P , mille korral det P 6= 0. Jarelikult leidub P−1 jalahtesusteemiga on samavaaarsed vorrandid

PF (x) = 0

x = x− PF (x),

kus F = (f1, f2, . . . , fn)T . Toepoolest, korrutades neid vorrandeid maatriksigaP−1 saaksime lahtesusteemi F (x) = 0 tagasi. Esialgse susteemi ja teisendatudsusteemi lahendid uhtivad.Viimane saadud vorrand ongi juba hariliku iteratsioonimeetodi rakendamisekssobival kujul, kui votta Φ(x) = x − PF (x). Kui funktsioonidel fi eksisteerivadpidevad osatuletised, siis

Φ′(x) = I − PF ′(x),

kus I on n × n uhikmaatriks. Seega on koonduvustingimus (teoreemist) rahul-datud, kui

‖Φ′(x)‖ = ‖I − PF ′(x)‖ ≤ q < 1.

Seega maatriks P tuleks valida nii, et viimane tingimus oleks taidetud. Naiteks,kui on teada x0, siis oleks loomulik valida P = [F ′(x0)]−1, sest ‖I−PF ′(x0)‖ = 0.Sellise valiku korral saame tegelikult modifitseeritud Newtoni meetodi

xk+1 = xk − [F ′(x0)]−1F (x0), k = 0, 1, . . .

Ka tavalist Newtoni meetodit voib vaadelda hariliku iteratsioonimeetodina, kuiΦ(x) = x− [F ′(x)]−1F (x), sest siis

xk+1 = xk − [F ′(xk)]−1F (xk), k = 0, 1, . . .

Naide: Vaatame VS {x2 + 2y − 8 = 0

x + y2 − y − 3 = 0

positiivse lahendi leidmist.Olgu f1(x, y) = x2 + 2y − 8 ja f2(x, y) = x + y2 − y − 3. Skitseerime funkt-sioonide graafikud. Jooniselt on naha, et VS on neli reaallahendit, ent ainult ukspositiivsete komponentidega lahend:

x∗ ≈ 2, 2 y∗ ≈ 1, 5.

Ehk x0 = (2, 2; 1, 5). Puuame VS teisendada sellisele kujule, et tekkiks koonduviteratsioonimeetod. Uheks selliseks voimaluseks on avaldada esimesest vorrandisty ja teisest x. Siis {

y = 12(8− x2)

x = y − y2 + 2

15

Page 16: Newtoni meetod - TalTechstaff.ttu.ee/~kairik/rakmatkoos.pdf · Newtoni meetod Uldskeem Newtoni meetodi korral: xm = xm¡1 ¡ f(xm¡1) f0(x m¡1) Kui funktsiooni f(x) tuletis f0(x)

Kontrollime tuletisiδ

δx

(12

(8− x2)

)= −x

δ

δy(y − y2 + 3) = 1− 2y

Otsitava lahendi umbruses on molemad tuletised absoluutvaartuse poolest 1 suu-remad, siis pole loota iteratsiooni koonduvust. Avaldame esimesest vorrandist xja teisest y, siis {

x =√

8− 2y

y =√

3 + y − x

Tahistame g1(x, y) =√

8− 2y ja g2(x, y) =√

3 + y − x ning leiame tuletised:

δg1

δx= 0

δg1

δy= − 1√

8− 2y

δg2

δx= − 1

2√

3 + y − x

δg2

δy=

12√

3 + y − x

RuudusS = (x, y) : 2, 1 ≤ x ≤ 2, 3; 1, 4 ≤ y ≤ 1, 6

kehtivad vorratused∣∣∣∣δg1

δx

∣∣∣∣ +

∣∣∣∣δg1

δy

∣∣∣∣ ≤1√

8− 2 · 1, 6=

1√4, 8

< 0, 46 < 1,

∣∣∣∣δg2

δx

∣∣∣∣ +

∣∣∣∣δg2

δy

∣∣∣∣ ≤2

2√

3 + 1, 4− 2, 3=

1√2, 1

< 0, 7 < 1

Seega on selles ruudus taidetud koonduvustingimus konstandiga q = 0, 7, mistottuiteratsioonimeetod {

xk+1 =√

8− 2yk

yk+1 =√

3 + yk − xk

koondub kullalt hea alglahendi korral geomeetrilise progressiooni kiirusega, milletegur q = 0, 7.Sellise eeskirja kohaseltk xk yk

—————————————-0 2, 2 1, 51 2, 24 1, 522 2, 227 1, 5103 2, 2316 1, 5114 2, 2311 1, 50985 2, 2317 1, 5095

16

Page 17: Newtoni meetod - TalTechstaff.ttu.ee/~kairik/rakmatkoos.pdf · Newtoni meetod Uldskeem Newtoni meetodi korral: xm = xm¡1 ¡ f(xm¡1) f0(x m¡1) Kui funktsiooni f(x) tuletis f0(x)

6 2, 2318 1, 50927 2, 2319 1, 50918 2, 2320 1, 50909 2, 2320 1, 5090Lahendiks on seega (x∗, y∗) = (2, 232; 1, 509) tapsusega 10−4.Hariliku iteratsioonimeetodi eeliseks on algoritmi lihtsus ja umardamisvigadevaike moju tulemusele. Tulemuse tapsus soltub peamiselt viimasel sammul tehtudumardamistest. Pohilise puudusena voib nimetada seda, et meetod alati ei koonduning koondumise korral voib koondada vaga aeglaselt.

Newtoni meetod mittelineaarsete vorrandisusteemide lahendamiseksOtsime mittelineaarse vorrandisusteemi

f(x1, x2, . . . , xn) = 0

. . .

fn(x1, x2, . . . , xn) = 0

lahendit x∗ = (x∗1, x∗2, . . . , x

∗n)T .

Arendades vektorfunktsiooni F = (f1, . . . , fn)T koordinaatide jargi Taylori rittaja vaadeldes reaksarendusest ainult lineaarseid liikmeid, saame vorrandisusteemi

fi(xk1, x

k2, . . . , x

kn) +

n∑s=1

δf(xk)

δxs

∆xsi = 0, i = 1, . . . , n.

Maatrikskujul kirja panduna votab seos kuju

F (xk) + F ′(xk) ·∆xk = 0.

Saadud seos on lineaarne korrektsioonide ∆xk = x−xk suhtes (x = (x1, x2, . . . , xn)T

ja xk = (xk1, x

k2, . . . , x

kn)T ). Saame

xk+1 = xk − [F ′(xk)]−1F (xk), k = 0, 1, . . .

Loomulikult peab olema

J(x) =

δf1δx1

. . . δf1δxn

. . . . . . . . .δfn

δx1. . . δfn

δxn

nullist erinev, siis eksisteerib ka J−1 ja [F ′(x)]−1.

Naide: Uurime VS {x2 + y2 − y − 6 = 0

x3 − 2y2 + 2 = 0

17

Page 18: Newtoni meetod - TalTechstaff.ttu.ee/~kairik/rakmatkoos.pdf · Newtoni meetod Uldskeem Newtoni meetodi korral: xm = xm¡1 ¡ f(xm¡1) f0(x m¡1) Kui funktsiooni f(x) tuletis f0(x)

lahendamist. Tahistame esimese vorrandi f(x, y) ja teise g(x, y). Skitseerimenende funktsioonide graafikud (esimene on ringjoon keskpunktiga (0;0.5) ja raa-diusega 2,5; teise joonistame punktide pohjal). Jooniselt naeme, et VSl on 2reaalset lahendite paari:

(x1, y1) ≈ (1, 9; 2, 1) (x2, y2) ≈ (1, 4;−1, 6).

Uurime tapsemalt esimest paari ning valime alglahendiks (x0, y0) = (2, 2). New-toni meetodit voime arvutamiseks natuke lihtsamale kujule viia. Nimelt voibkahe tundmatuga VS jaoks anda Newtoni meetodile kuju

xk+1 = xk + ∆xk

yk+1 = yk + ∆yk

kus k = 0, 1, . . . . Siit (∆xk, ∆yk) on VS{

fx(xk, yk)∆xk + fy(xk, yk)∆yk = −f(xk, yk)

gx(xk, yk)∆xk + gy(xk, yk)∆yk = −g(xk, yk)

lahend.Vaadeldaval juhul

fx = 2x, fy = 2y − 1, gx = 3x2, gy = −4y,

siis VS tuleb kujule{

2xk∆xk + (2yk − 1)∆yk = −f(xk, yk)

3(xk)2∆xk − 4yk∆yk = −g(xk, yk)

Et tuletised kohal x0, y0 on vastavalt 4, 3, 12 ja -8, siis m = 0 on vorrandisusteemkujul {

4∆x0 + 3∆y0 = 0

12∆x0 − 8∆y0 = −2,

mille lahendiks ∆x0 = − 334 ≈ −0, 09 ja ∆y0 = 2

17 ≈ 0, 12. Seega x1 = 1, 91 jay1 = 2, 12.Jargmise lahendi leidmiseks moodustame vorrandisusteemi

{3, 82∆x1 + 3, 24∆y1 = −0, 0225

10, 94∆x1 − 8, 48∆y1 = 0, 0209,

millest ∆x1 = −0, 0018, ∆y1 = −0, 0048 ja seega x2 = 1, 9082 ja y2 = 2, 1152.Edasi moodustame VS m = 2 korral

{3, 82∆x21 + 3, 23∆y2 = 0, 0001

10, 92∆x2 − 8, 46∆y2 = −0, 00006.

18

Page 19: Newtoni meetod - TalTechstaff.ttu.ee/~kairik/rakmatkoos.pdf · Newtoni meetod Uldskeem Newtoni meetodi korral: xm = xm¡1 ¡ f(xm¡1) f0(x m¡1) Kui funktsiooni f(x) tuletis f0(x)

Siit ∆x2 = −0, 00002, ∆y2 = −0, 00002 ja seega x3 = x2 = 1, 9082 ja y3 = y2 =2, 1152.

x∗ = x3 y∗ = y3.

Tapsus on neli kumnendkohta. Newtoni meetod on lahendi laheduses ruutkoon-duvusega.

Gradientmeetodi ja Newtoni meetodi luhike vordlus Nende kahe meetodiesmavordlusel on gradientmeetodi eelisteks lihtsus, vahene noudlikkus alglahendija minimeeritava funktsiooni suhtes. Puudusteks aeglane koonduvus ja vajadusarvutada sammupikkuse reguleeriva parameetri vaartust.Newtoni meetodil on suurem koonduvuskiirus, ent rangemad nouded funktsioonisileduse kohta. Ruutkiirus saavutatakse alles kullalt hea alglahendi korral.

Funktsioonide lahendamine

Olgu f(x) funktsioon, mida lahendame. Lisaks vaatleme uhest muutujastsoltuvat funktsioonide peret Φ(x, a0, a1, . . . , an), mis sisaldab n + 1 parameetrit,mille vaartused iseloomustavad igat uksikut funktsiooni sellest perest.Uldise interpoleerimise eesmargiks on leida funktsioon Φ(x, a0, . . . , an), mis kuu-luks teatud funktsioonide perre ja omandaks interpolatsioonisolmedes x0, x1, . . . , xn

vaartused Φ(x0) = y0, . . . , Φ(xn) = yn. See tahendab, et tuleb maarata parameet-rite ai (i = 0, . . . , n) vaartused selliselt, et kehtiksid interpolatsioonitingimused

Φ(xi, a0, . . . , an) = fi, i = 0, . . . , n & yi = fi.

Monikord noutakse, et ka funktsiooni Φ(x) tuletised peavad rahuldama etteantudtingimusi. (Naiteks Φ ja f tuletised peavad solmedes kokku langema.) Kui funk-tsioon Φ soltub lineaarselt parameetritest ai, siis nimetatakse seda lineaarseksinterpolatsiooniulesandeks.Uldistatud interpolatsioonipolunoom on kujul

Φ(x, a0, . . . , an) ≡ aoϕ0(x) + a1ϕ1(x) + . . . + anϕn(x).

Funktsioone ϕi nimetatakse koordinaatfunktsioonideks.Klassikaline interpolatsioonipolunoom

Φ(x, a0, . . . , an) ≡ ao + a1x + a2x2 + . . . + anxn,

trigonomeetriline interpolatsioonipolunoom

Φ(x, a0, . . . , an) ≡ ao + a1eix + a2e

2ix + . . . + anenix,

kus i on imaginaaruhik.Uldiselt on interpolatsiooniulesandel lopmatu hulk lahendeid voi mitte uhtegi

19

Page 20: Newtoni meetod - TalTechstaff.ttu.ee/~kairik/rakmatkoos.pdf · Newtoni meetod Uldskeem Newtoni meetodi korral: xm = xm¡1 ¡ f(xm¡1) f0(x m¡1) Kui funktsiooni f(x) tuletis f0(x)

lahendit.Kui x ∈ [x1, xn], on tegemist interpoleerimisega kitsamas tahenduses. Kui agax * [x1, xn] on tegu ekstrapoleerimisega.Seega on sonal interpoleerimine matemaatikas kaks tahendust : avaramas moisteson tegu antud funktsioonile interpolatsioonitingimuste kaudu lahendfunktsioonikonstrueerimist. Kitsamas moistes aga tabelina antud funktsiooni ligikaudsetevaartuste arvutamine neis punktides, mis ei ole tabelis antud.

Paratamatu vajadus funktsiooni lahendamiseks tekib siis, kui funktsioon onesitatud tabelina ning soovitakse leida funktsiooni vaartusi tabelis mitteesineva-tel argumendi vaartustel.

Lineaarsel interpoleerimisel moodustatakse antud funktsiooni f(x) lahendav funk-tsioon Φ(x) nii, et argumendi x teatavate vaartuste korral (interpolatsioonisolme-des x0, x1, . . .) lahendfunktsiooni vaartused uhtivad funktsiooni vaartustega, sttaidetud on interpolatsioonitingimused

Φ(xi) = f(xi), i = 0, 1, . . .

ja lahendfunktsiooni otsitakse kujul

Φ(x) = a0ϕ0(x) + a1ϕ1(x) + . . . + anϕn(x),

kus ϕ0, ϕ1, . . . , ϕn on koordinaatfunktsioonid. Koige sagedamini kasutatakse ko-ordinaatfunktsioonidena astmefunktsioone 1, x, x2, . . . , xn. Kordajad a0, a1, . . . , an

maaratakse tingimusest Φ(xi) = f(xi), mis tegelikult esitab otsitavate ai suhteslineaarse vorrandisusteemi

n∑

k=0

akϕk(xi) = f(xi), i = 0, . . . , n

ehk maatrikskujujul lahtikirjutatuna

ϕ0(x0) . . . ϕn(x0)ϕ0(x1) . . . ϕn(x1)

. . . . . . . . .ϕ0(xn) . . . ϕn(xn)

a0

a1

. . .an

=

f(x0)f(x1). . .

f(xn)

Saadud seoses on n + 1 vorrandit ja n + 1 tundmatud. Kui valida solmi rohkemkui vorrandeid (m solme), st m > n, pole ulesanne uldiselt lahenduv. Selliseljuhul kasutatakse punktiviisilist interpoleerimist. Kui solmi vahem kui vorrandeid(m < n), siis on susteem lahenduv, ent lahend pole uhene. Selleks, et lahend oleksuhene, on tarvilik, et m = n ja piisav tigimus, et Vandermonde’i determinant oleksnullist erinev. Vandermonde’ determinant on kujul

∆ =

∣∣∣∣∣∣∣∣

ϕ0(x0) . . . ϕn(x0)ϕ0(x1) . . . ϕn(x1)

. . . . . . . . .ϕ0(xn) . . . ϕn(xn)

∣∣∣∣∣∣∣∣

20

Page 21: Newtoni meetod - TalTechstaff.ttu.ee/~kairik/rakmatkoos.pdf · Newtoni meetod Uldskeem Newtoni meetodi korral: xm = xm¡1 ¡ f(xm¡1) f0(x m¡1) Kui funktsiooni f(x) tuletis f0(x)

Kui ∆ 6= 0, siis saab kordajad ai kirjutada kujul ai = ∆i

∆ , kus ∆i on saadudVandermonde’i determinandist i−nda veeru asendamisel vabaliikmete veerugaf(xi). Seega saab lahendfunktsiooni kirja panna kujul

Φ(x) =∆0

∆ϕ0(x) +

∆1

∆ϕ1(x) + . . . +

∆n

∆ϕn(x).

Kui solmede arv n on suur, on sellisel viisil lahendamine vaga toomahukas.Lihtsaim interpolatsiooniulesande naide on lahendamine sirgega ehk esimese

astme polunoomigaP1(x) = a0 + a1x

ja vaja maarata kordajad a0 ja a1. Nende maaramiseks piisab funktsiooni vaartustestkahes solmes x0 ja x1 :

a0 + a1x0 = f(x0)

a0 + a1x1 = f(x1)

Lahutades teisest vorrandist esimese,, saame

a1(x1 − x0) = f(x1)− f(x0),

millest

a1 =f(x1)− f(x0)

x1 − x0.

Esimesest vorrandist saab avaldada ka

a0 = f(x0)− a1x0.

SeegaP1(x) = a0 + a1x = f(x0) + a1x− a1x0 =

= f(x0) + a1(x− x0) = f(x0) +f(x1)− f(x0)

x1 − x0(x− x0).

Teisalt on kaht punkti (x0, f(x0)) ja (x1, f(x1)) labiva sirge vorrand

x− x0

x1 − x0=

y − f(x0)f(x1)− f(x0)

,

millest

y = f(x0) +f(x1)− f(x0)

x1 − x0(x− x0).

Kuna nende kahe seose paremad pooled on vordsed, siis jarelikult y = P1(x).

Naide: Olgu antud tabelx f(x)—————————

21

Page 22: Newtoni meetod - TalTechstaff.ttu.ee/~kairik/rakmatkoos.pdf · Newtoni meetod Uldskeem Newtoni meetodi korral: xm = xm¡1 ¡ f(xm¡1) f0(x m¡1) Kui funktsiooni f(x) tuletis f0(x)

7, 80 474, 557, 81 476, 387, 82 478, 217, 83 480, 057, 84 481, 897, 85 483, 74Leiame selle tabeli abil f(7, 813), f(7, 838 ja f(7, 8245).

Votame esimese vaartuse leidmiseks x = 7, 813, x0 = 7, 81, x1 = 7, 82. Siisx−x0x1−x0

= 0,0030,01 = 0, 3 ja f(x1)− f(x0) = 1, 83. Siit

y = 476, 38 + 0, 3 · 1, 83 = 476, 38 + 0, 549 ≈ 476, 93.

Sarnaselt saame ka ulejaanud otsitavad:

x = 7, 838, x0 = 7, 83, x1 = 7, 84

y = 480, 05 +7, 838− 7, 837, 84− 7, 83

· (481, 89− 480, 05) ≈ 481, 52

Ja

y = 478, 21 +7, 8245− 7, 827, 83− 7, 82

· (480, 05− 478, 21) ≈ 479, 04.

Lagrange’i interpolatsioonipolunoom Kuigi interpolatsioonipolunoom on kir-jutatav mitmel kujul, pole koik need kujud sobivad praktiliseks kasutamiseks.Lagrange’i polunoomi tuletamiseks olgu antud n + 1 erinevat solme x0, x1, . . . , xn

(xi 6= xj, kui i 6= j) ning funktsiooni vaartused nendes solmedes f(x0), f(x1), . . . , f(xn).Otsime n−astme polunoomi kujul

Pn(x) =n∑

i=1

li(x)f(xi),

kus li(x) on n−astme polunoom, mis rahuldab tingimusi

li(xj) =

{0, j 6= i

1, j = i

Sellisel kujul otsitav Pn(x) rahuldab interpolatsioonitingimusi. Et li(x) on n−astme polunoom, mille nullkohtadeks on x0, x1, . . . , xi−1, xi+1, . . . , xn, siis avaldubta kujul

li(x) = Ci(x− x0)(x− x1) . . . (x− xi−1)(x− xi+1) . . . (x− xn),

kus Ci on konstant, mis maaratakse tingimusest li(x) = 1. Siit saame, et

Ci(xi) =1

(xi − x0)(xi − x1) . . . (xi − xi−1)(xi − xi+1) . . . (xi − xn)

22

Page 23: Newtoni meetod - TalTechstaff.ttu.ee/~kairik/rakmatkoos.pdf · Newtoni meetod Uldskeem Newtoni meetodi korral: xm = xm¡1 ¡ f(xm¡1) f0(x m¡1) Kui funktsiooni f(x) tuletis f0(x)

ja

li(x) =(x− x0)(x− x1) . . . (x− xi−1)(x− xi+1) . . . (x− xn)

(xi − x0)(xi − x1) . . . (xi − xi−1)(xi − xi+1) . . . (xi − xn)

Seega saab Lagrange’i interpolatsioonipolunoom kuju

Pn(x) =n∑

i=0

(x− x0) . . . (x− xi−1)(x− xi+1) . . . (x− xn)(xi − x0) . . . (xi − xi−1)(xi − xi+1) . . . (xi − xn)

f(xi).

Sageli tahistatakse Lagrange’i interpolatsioonipolunoomi ka tahega Ln(x).

Naitame, et sellisel kujul esitatud interpolatsioonpolunoom on ainus, mis rahuldabinterpolatsioonitingimusi, st

Pn(xi) = f(xi).

Oletame, et leidub veel mingi teine n−astme polunoom Qn(x), mis rahuldabsamuti tingimusi

Qn(xi) = f(xi), i = 0, . . . , n.

Siis leidub meil ka n−astme polunoom Qn(x)− Pn(x), mis rahuldab tingimusi

Pn(xi)−Qn(xi) = 0, i = 0, 1, . . . , n.

Kuna see on n−astme polunoom, millel on n + 1 erinevat nullkohta. See onvoimatu, kui Pn(xi)−Qn(xi) 6= 0 ja voimalik, kui Pn(xi)−Qn(xi) ≡ 0 ehk

Pn(xi) ≡ Qn(xi).

Toepoolest, interpolatsioonitingimused maaravad uheselt n−astme interpolat-sioonipolunoomi. Ja kui ka voib sel polunoomil valiselt erinevaid kujusid, esitavadnad siiski uht ja sama polunoomi, kui kasutatakse samu interpolatsioonisolmi.

Tahistadesω(x) = (x− x0)(x− x1) . . . (x− xn),

saame Lagrange’i interpolatsioonipolunoomi kirjutada kujul

Ln(x) = ω(x)n∑

i=0

f(xi)(x− xi)ω′(xi)

,

sest

ω′(xi) = (xi − x0)(xi − x1) . . . (xi − xi−1)(xi − xi+1) . . . (xi − xn).

Naide: Olgu antud tabelina funktsioonx | 0 | 2 | 3 | 5 | 6——————————————————————

23

Page 24: Newtoni meetod - TalTechstaff.ttu.ee/~kairik/rakmatkoos.pdf · Newtoni meetod Uldskeem Newtoni meetodi korral: xm = xm¡1 ¡ f(xm¡1) f0(x m¡1) Kui funktsiooni f(x) tuletis f0(x)

f(x) | 1 | 3 | 2 | 5 | 6Leiame nende andmete korral Lagrange’i interpolatsioonipolunoomi

L4(x) =(x− 2)(x− 3)(x− 5)(x− 6)(0− 2)(0− 3)(0− 5)(0− 6)

· 1 +x(x− 3)(x− 5)(x− 6)

(2− 0)(2− 3)(2− 5)(2− 6)· 3+

+(x− 0)(x− 2)(x− 5)(x− 6)(3− 0)(3− 2)(3− 5)(3− 6)

· 2 +(x− 0)(x− 3)(x− 3)(x− 6)(5− 0)(5− 2)(5− 3)(5− 6)

· 5+

+(x− 0)(x− 2)(x− 3)(x− 5)(6− 0)(6− 2)(6− 3)(6− 5)

· 6 = − 11120

x4 +7360

x3 − 60110

x2 +43061

x + 1.

Lagrange’i interpolatsioonipolunoom vordsete solmede korral Paiknegu interpo-latsioonisolmed vordsete vahemike tagant, st xi+1 − xi = h, i = 0, 1, . . . , n − 1.Tahistame t = (x−x0)

x, siis x = x0 + th, x− x1 = (x− x0)− (x1 − x0) = th− h =

h(t− 1), . . . , x− xn = ih− nh = (i− n)h = −(n− i)h. Kuna

(−1)(−2) . . . [−(n− i)] = (1−)n−i1 · 2 . . . (n− 1) = (−1)n−i(n− i)!

t(t− 1) . . . (t− i + 1)(t− i− 1) . . . (t− n) =t(t− 1) . . . (t− n)

t− i,

saab tahistada

Cin =

n!i!(n− i)!

ja

li(x) =(x− x0)(x− x1) . . . (x− xi−1)(x− xi+1) . . . (x− xn)

(xi − x0)(xi − x1) . . . (xi − xi−1)(xi − xi+1) . . . (xi − xn)=

=th(th− h) . . . [th− (i− 1)h][th− (i + 1)h] . . . (th− nh)

ih(i− 1)h . . . h(−h) . . . [−n(n− i)h]=

=t(t− 1) . . . (t− n)(t− 1)i!(n− i)!

= (−1)n−iCnn

1t− i

t(t− 1) . . . (t− n)n!

.

Kui tahistada nuud f(xi) = yi ja ω(t) = t(t − 1) . . . (t − n), siis saame esitadaLn(x)kujul

Ln(x) = Ln(x0 + th) =n∑

i=0

li(x)f(xi) =ω(t)n!

n∑i=0

(−1)n−i Cin

t− i.

Kordajad

(−1)n−iCin

t(t− 1) . . . (t− n)(t− i)n!

ei soltu funktsioonidest yi ega sammupikusest h.Interpoleerimise lopptulemuse ebatapsus voib olla tingitud kolmest jargnevast

pohjusest:

24

Page 25: Newtoni meetod - TalTechstaff.ttu.ee/~kairik/rakmatkoos.pdf · Newtoni meetod Uldskeem Newtoni meetodi korral: xm = xm¡1 ¡ f(xm¡1) f0(x m¡1) Kui funktsiooni f(x) tuletis f0(x)

• Meetodi viga. Interpolatsioonitingimuste kohaselt uhtivad antud funkt-siooni f(x) ja teda lahendava interpolatsioonipolunoomi Pn vaartused ainultsolmedes xi (i = 0, 1, . . . , n).

• Ebatapsused lahteandmetes ehk korvaldamatu viga. Funktsiooni f(x) vaartusedon arvutatud teatud veaga voi on nad teada ligikaudu. Naiteks, kui f(xi)on mingid vaatlusandmed.

• Umardamisvead. Arvutustega paratamatult kaasnevad arvutusvead.

Vaatame tapsemalt meetodi viga, st pauame selgitada, kui hasti lahendab saadudinterpolatsioonipolunoom Pn(x) antud funktsiooni ehk kui suur on f(x) ja Pn(x)erinevus.Kirjutame funktsiooni f(x) kujul

f(x) = Pn(x) + Rn(x),

kus Pn(x) on interpolatsioonipolunoom ja Rn(x) = f(x) − Pn(x) on interpolat-sioonipolunoomi jaakliige. Sellist valemit nimetatakse ka interpolatsioonivalemiks.Eeldame, et funktsioonil f(x) eksisteerivad pidevad tuletised jarguni n + 1 loigul[a, b], millel paiknevad interpolatsioonisolmed x0, x1, . . . , xn ja meid huvitav ar-gumendi vaartus x. Eeldame, et x erineb solmedest, st x 6= xi, i = 0, 1, . . . , n.Moodustame abifunktsiooni

ϕ(z) = f(z)− Pn(z)−Kω(z),

kus K on mingi konstant ja ω(z) = (z − x0)(z − x1) . . . (z − xn). Igas solmesϕ(xi) = 0, i = 0, 1, . . . , n. Viimane tingimus on taidetud, kui votta

K =f(x)− Pn(x)

(x− x0)(x− x1) . . . (x− xn)=

Rn(x)ω(x)

.

Sellise K saame valida seetottu, et tehtud eeldustel x 6= xi, i = 0, 1, . . . , n,mis garanteerib, et nimetaja ei vordu nulliga sel loigul. Seega on funktsioonilϕ(z) loigul [a, b] n + 2 nullkohta (n + 1 tuleb kokku solmedest x0, x1, . . . , xn jalisaks punktis x). Rolle’i teoreemi pohjal saab vaita, et ϕ′(z) on loigul [a, b]vahemalt n+1 nullkohta. Korduvalt seda teoreemi rakendades jouame tulemuseni,et funktsioonil ϕ(n+1)(z) peab olema vahemikus (a, b) vahemalt uks nullkoht, milletahistame ξ, st ϕ(n+1)(ξ) = 0.Funktsiooni ϕ(z) n + 1 korda diferentseerides saame

ϕ(n+1)(z) = f (n+1)(z)−K(n + 1)!.

Vottes z = ξ, saame

0 = ϕ(n+1)(ξ) = f (n+1)(ξ)−K(n + 1)!,

25

Page 26: Newtoni meetod - TalTechstaff.ttu.ee/~kairik/rakmatkoos.pdf · Newtoni meetod Uldskeem Newtoni meetodi korral: xm = xm¡1 ¡ f(xm¡1) f0(x m¡1) Kui funktsiooni f(x) tuletis f0(x)

millest

K =Rn(x)ω(x)

=f (n+1)(ξ)(n + 1)!

,

Rn(x) =f (n+1)(ξ)(n + 1)!

ω(x).

Saadud jaakliikme avaldis kehtib ka siis, kui x vordub mone solmega xi, sestsiis ω(xi) = 0. Seega on saadud jaakliikme valem kasutatav iga x ∈ [a, b] korral.Kuna suurus ξ soltub vaartusest x, siis pole uldiselt teada f (n+1)(ξ) tapne vaartus.Seeparast kasutatakse jaakliikme hindamiseks vorratust

|Rn(x)| ≤ Mn+1

(n + 1)!|ω(x)|,

kus Mn+1 = maxa≤x≤b |f (n+1)(x)|.

Interpolatsioonisolmede valikVaatleme kaht tuupilist juhtu, mille puhul kasutatakse interpoleerimist:1. Olgu antud funktsiooni vaartuste tabel f(xi), i = 0, 1, . . . , n ja soovitakseleida funktsiooni f(x) vaartus tabelis mitteesineva argumendi x vaartuse. Seljuhul f(x) ≈ Pn(x) ja veahinnanguks saame

|f(x)− Pn(x)| ≤ Mn+1

(n + 1)!|ω(x)|.

Kui meil on teatav vabadus solmede valikul, siis vea vahendamiseks on otstar-bekas valida solmed xi nii, et tegurid |x − xi| oleksid voimalikult vaiksed, st etsolmed paikneksid voimalikult lahedal meid huvitavale vaartusele.

2. Teistsugused probleemid tekivad, kui funktsioon f(x) on antud mingi analuuti-lise avaldise kujul ja soovitakse leida n−astme polunoom Pn(x), mis voimalikulthasti lahendaks funktsiooni f(x) loigul [a, b], st

maxa≤x≤b

|Rn(x)| = maxa≤x≤b

|f(x)− Pn(x)|

oleks voimalikult vaike ule kogu punktihulga a ≤ x ≤ b. Otstarbekas on validasolmed nii, et

maxa≤x≤b

|ω(x)| = maxa≤x≤b

|(x− x0)(x− x1) . . . (x− xn)|

oleks voimalikult vaike. Sellest tingimusest leiamegi solmed x0, x1, . . . xn. Lihtsus-tamiseks voime loigult [a, b] ule minna loigule [−1, 1]. Selleks kasutame lineaarsetasendust

x =b− a

2z +

b + a

2

(z =

2x− b− a

b− a

)

26

Page 27: Newtoni meetod - TalTechstaff.ttu.ee/~kairik/rakmatkoos.pdf · Newtoni meetod Uldskeem Newtoni meetodi korral: xm = xm¡1 ¡ f(xm¡1) f0(x m¡1) Kui funktsiooni f(x) tuletis f0(x)

Tahistame

zi =2xi − b− a

b− a.

Siisω(x) = (x− x0)(x− x1) . . . (x− xn) =

=

(b− a

2

)n+1

(z − z0)(z − z1) . . . (z − zn) =

(b− a

2

)n+1

ω∗(z),

kus n + 1−astme polunoom ω∗(z) pealiikme kordajaga 1 tuleb leida nii, et

max−1≤z≤1

|ω∗(z)|

oleks minimaalne. P.L. Tsebosov naitas 1854, et sellise probleemi lahendiks onpolunoom

ω(z) =12n

Tn+1(z),

kus Tn+1(z) on Tsebosovi polunoom. Selline polunoom on meie probleemi lahen-duseks, sest

Tn+1

(cos

n + 1

)= cos iπ = (−1)i i = 0, 1, . . . , n + 1,

siis

max−1≤z≤1

|ω∗(z)| =12n

max−1≤z≤1

|Tn+1(z)| =12n

Tsebosovi polunoomid on lihtsalt esitatavad ja uuritavad trigonomeetriliselkujul

Tn(z) = cos(n arccos z) − 1 ≤ z ≤ 1.

Toepoolest esitab selline avaldis n−astme polunoomi.

T0(z) = cos 0 = 1

T1(z) = cos(arccos z) = z

Lahtudes trigonomeetrilisest seosest

cos nθ · cos θ =12

[cos(n + 1)θ + cos(n− 1)θ]

ja vottes θ = arccos z,, saame

Tn(z) · T1(z) =12

[Tn+1(z) + Tn−1(z)]

ehkTn+1(z) = 2zTn(z)− Tn−1(z).

27

Page 28: Newtoni meetod - TalTechstaff.ttu.ee/~kairik/rakmatkoos.pdf · Newtoni meetod Uldskeem Newtoni meetodi korral: xm = xm¡1 ¡ f(xm¡1) f0(x m¡1) Kui funktsiooni f(x) tuletis f0(x)

Saadud rekurentse seose abil on leitavad koik Tsebosovi polunoomid

T2(z) = 2z2 − 1,

T3(z) = 4z3 − 3z

ja nii edasi.Polunoomil Tn+1(z) on n + 1 nullkohta kujul

z = cos(2i + 1)π2(n + 1)

, i = 0, 1, . . . n.

Toepoolest, sest Tn+1(z) = cos((n+ 1) arccos z) = 0, kui (n+ 1) arccos z = π2 (2i+

1). Niisiis

arccos z =π

2(2i + 1)n + 1

,

z = cos(2i + 1)π2(n + 1)

.

DiferentssuhtedOlgu antud argumendi x0, x1, . . . vastavad funktsiooni f vaartused f(x0), f(x1), . . . .Esimest jarku diferentssuhteks ehk jagatud vaheks nimetatakse suhet

f(xp, xq) =f(xq)− f(xp)

xq − xp

,

kus p 6= q.Seega

f(x0, x1) =f(x1)− f(x0)

x1 − x0, f(x1, x2) =

f(x2)− f(x1)x2 − x1

, . . .

Teist jarku diferentssuhteks nimetatakse

f(xp, xq, xr) =f(xq, xr)− f(xp, xq)

xr − xp

,

kus p 6= q 6= r.Naiteks

f(x0, x1, x2) =f(x1, x2)− f(x0, x1)

x2 − x0, . . .

Uldiselt, k−ndat jarku diferentssuhteks nimetatakse avaldist, mis saadakse k− 1jarku diferentssuhtes jargmise seose abil

f(xi, xi+1, . . . , xi+k) =f(xi+1, xi+2, . . . , xi+k)− f(xi, xi+1, . . . , xi+k−1)

xi+k − xi

.

28

Page 29: Newtoni meetod - TalTechstaff.ttu.ee/~kairik/rakmatkoos.pdf · Newtoni meetod Uldskeem Newtoni meetodi korral: xm = xm¡1 ¡ f(xm¡1) f0(x m¡1) Kui funktsiooni f(x) tuletis f0(x)

Diferentssuhte omadused:1. (f + g)(xi, xi+1, . . . , xi+k) = f(x−1, . . . , xi+k) + g(xi, . . . , xi+k);2. Konstandi C voib diferentssuhte sumboli ette tuua, st

(Cf)(xi, . . . , xi+k) = Cf(xi, . . . , xi+k);

3. Diferentssuhted on summeetrilised argumendi vaartuste suhtes

f(xi, xj) =f(xj)− f(xi)

xj − xi

=f(xi)− f(xj)

xi − xj

= f(xj, xi).

Uldiselt

f(xi, xi+1, . . . , xi+k) = f(xi+1, xi, xi+2, . . . , xi+k) = . . . = f(xi+1, . . . , xi+k, xi)

4. n−astme polunoomi n−ndat jarku diferentssuhted on konstandid ja korgematjarku diferentssuhted on nullid.

Kehtib valem, et

f(xi, xi+1, . . . , xi+n) =f (n)(ξ)

n!, ξ ∈ [a, b].

Olgu f(x) = a0 + a1x + . . . + anxn, siis f (n) = n!an ja eelneva valemi pohjal

f(xi, xi + 1, . . . , xi+n) = an.

Diferentssuhete arvutamisel on sobiv nad paigutada jargmise skeemi ehk tabelisse.Alljargnevat diferentssuhete paigutust nimetatakse diagonaaltabeliks.TABEL!!!!

Newtoni interpolatsioonivalem mittevordsete vahemike korralKui x erineb koikidest solmedest, st x 6= xi i = 01, 1, . . . , n, siis diferentssuhtesummeetria tottu saab diferentssuhte avaldised valja kirjutada

f(x0, x) = f(x, x0) =f(x)− f(x0)

x− x0,

f(a, x0, x1) =f(x, x0)− f(x0, x1)

x− x1,

. . .

f(x, x0, . . . , xn) =f(x, x0, . . . , xn−1)− f(x0, x1, . . . , xn)

x− xn

.

Viime saadud seosed kujule

f(x) = f(x0) + (x− x0)f(x, x0),

f(x, x0) = f(x0, x1) + (x− x1)f(x, x0, x1),

29

Page 30: Newtoni meetod - TalTechstaff.ttu.ee/~kairik/rakmatkoos.pdf · Newtoni meetod Uldskeem Newtoni meetodi korral: xm = xm¡1 ¡ f(xm¡1) f0(x m¡1) Kui funktsiooni f(x) tuletis f0(x)

. . .

f(x, x0, . . . , xn−1) = f(x0, x1, . . . , xn) + (x− xn)f(x, x0, . . . , xn)

ja jark-jargult asendades valemini

f(x) = f(x0)+(x−x0)f(x, x0) = f(x0)+(x−x0)[f(x0, x1)+(x−x1)f(x, x0, x1)] =

= . . . = f(x0) + (x− x0)f(x0, x1) + (x− x0)(x− x1)f(x0, x1, x2) + . . . +

+(x− x0)(x− x1) . . . (x− xn−1)f(x0, x1, . . . , xn)+

+(x− x0)(x− x1) . . . (x− xn)f(x, x0, . . . , xn)

Seost kujul

f(x) = f(x0) + (x− x0)f(x0, x1) + (x− x0)(x− x1)f(x0, x1, x2) + . . . +

+(x− x0)(x− x1) . . . (x− xn−1)f(x0, x1, . . . , xn)+

+(x− x0)(x− x1) . . . (x− xn)f(x, x0, . . . , xn)

nimetatakse Newtoni interpolatsioonivalemiks mittevordsete vahemike korral. Po-lunoom Pn(x) = f(x0)+(x−x0)f(x0, x1)+(x−x0)(x−x1)f(x0, x1, x2)+. . .+(x−x0)(x − x1) . . . (x − xn−1)f(x0, x1, . . . , xn) on Newtoni interpolatsioonipolunoomning liige Rn(x) = (x−x0)(x−x1) . . . (x−xn)f(x, x0, . . . , xn) on vealiige. Vahetultsaab kontrollida, et interpolatsioonipolunoom

Pn(x) =n∑

i=0

(x− x0) . . . (x− xi−1f(x0, x1, . . . , xi)

on n−astme polunoom ja rahuldab interpolatsioonitingimusi Pn(xi) = f(xi), i =1, . . . , n.Eeldustel, et vorrandeid on samaplju kui interpolatsioonisolmi ja nad koik onerinevad ning koordinaatfunktsioonideks on voetud 1, x, x2, . . . , xn, on Vander-monde’i determinant nullist erinev:

∆ =∏

0≤j<i≤n

(xi − xj) 6= 0,

sest xi 6= xj, kui i 6= j. Seega on interpolatsiooniulesandel lahend ning see onuhene. Ehk seetottu on saadud interpolatsioonipolunoom Pn(x) identne La-grange’ polunoomiga Ln(x). Arvutamisel eelistatakse Newtoni polunoomi, sestselle arvutamisel on lihtsam suurendada interpolatsioonipolunoomi astet, tapsemalt,kogu eelnev tulemus sailub, liidame juurde uksnes parandusliikmeid.

30

Page 31: Newtoni meetod - TalTechstaff.ttu.ee/~kairik/rakmatkoos.pdf · Newtoni meetod Uldskeem Newtoni meetodi korral: xm = xm¡1 ¡ f(xm¡1) f0(x m¡1) Kui funktsiooni f(x) tuletis f0(x)

Loomulikult peavad olema sel juhul ka identsed Lagrange’ ja Newtoni interpolat-sioonivalemite vealiikmed. Kui f(x) on loigul [a, b] n + 1 korda pidevalt difer-entseeruv, siis teaduparast

f(x, x0, x1, . . . , xn)ω(x) = Rn(x) =f (n+1)(ξ)(n + 1)!

ω(x),

kus ξ ∈ [a, b]. Siit saame

f(x, x0, x1, . . . , xn) =f (n+1)(ξ)(n + 1)!

.

Muutes tahistusi

f(xi, xi+1, . . . , xi+n) =f (n+1)(ξ)(n + 1)!

kus ξ asub solmede xi, xi+1, . . . , xi+n vahel.Newtoni interpolatsioonivalemi pihul on lihtne hinnata interpoleerimisel tekkivatviga. Nimelt, kui vaadeldaval loigul diferentssuhted muutuvad vahe, siis

f(x, x0, . . . , xn) ≈ f(x0, x1, . . . , xn+1)

ning uhe solme lisamisel saame praktika seisukohalt kullalt hea hinnangu

Rn(x) ≈ f(x0, x1, . . . , xn+1)ω(x).

Kui loigul n+1 jarku diferentssuhted muutuvad oluliselt, siis valitakse nende hul-gast maksimaalne, st absoluutvaartuselt suurim. Tapse f(x0, x1, . . . , xn) vaartusesaame leida vaid juhul, kui on teada f(x). Ent siis pole motet interpoleerida, vaidarvutada funktsiooni vaartus otse. Newtoni interpolatsioonivalem vordsetevahemike korralPaiknegu interpolatsioonisolmed vordsete vahemike jarel sammuga h. Saame and-med interpolatsioonisolmede ja solmedes funktsiooni vaartuste kohta esitada tabeli:x | x0 x0 + h x0 + 2h . . . x0 + nh——————————————————————–f(x) | y0 y1 y2 . . . yn

Vahesid yi+1 − yi (i = 0, 1, . . . , n − 1) nimetatakse esimest jarku diferentsideksehk loplikeks vahedeks. Monikord kasutatakse ka nimetust esimest jarku diferentssammuga ette. Margitakse erinevail viisil

∆yi = δyi+1/2 = f 1i+1/2 = ∇yi+1 = yi+1 − yi.

Teist jarku diferentsiks nimetatakse vahet

∆2yi = ∆yi+1 −∆yi.

Uldiselt k−ndat jarku diferentsiks nimetatakse (k − 1) jarku diferentside vahet

∆kyi = ∆k−1yi+1 −∆k−1yi.

31

Page 32: Newtoni meetod - TalTechstaff.ttu.ee/~kairik/rakmatkoos.pdf · Newtoni meetod Uldskeem Newtoni meetodi korral: xm = xm¡1 ¡ f(xm¡1) f0(x m¡1) Kui funktsiooni f(x) tuletis f0(x)

Antud maaratlustest jareldub, et vordsete vahemike korral avalduvad diferentssuh-ted diferentside kaudu:

f(xi, xi+1) =yi+1 − yi

xi+1 − xi

=∆yi

h,

f(xi, xi+1, xi+2) =f(xi+2, xi+1)− f(xi+1, xi)

xi+2 − xi

=∆yi+1 −∆yi

2h2=

∆2yi

2h2

ja uldiselt

f(xi, xi+1, . . . , xi+k) =∆kyi

k!hk.

Teisalt aga

f(xi, xi+1, . . . , xi+k) =f (k)(ξ)

k!, ξ ∈ (xi, xi+k).

Nende kahe viimase seose pohjal saame, et

∆kyi = hkf (k)(ξ).

Viimasest vordusest on nahe, et kui f(x) tuletised on tokestatud, siis midavaiksem on samm h, seda kiiremini lahenevad diferentsid koos jargu kasvamiseganullile. Kehtib see loomulikult siis, kui kasutame funktsiooni f(x) tapseid vaartusi.Praktikas on sageli aga funktsiooni vaartused saadud reeglina umardamise teel.Ebatapsuste korral diferentsid kull teatava jarguni kahanevad, aga sellest jargustkorgemad diferentsid kaituvad korraparatult ning voivad hakata absoluutvaartuseltisegi kasvama.Diferentse saab paigutada sobivalt tabelisse. TABEL!!!!!!!!

Vottes nuud Newtoni interpolatsioonipolunoomis solmed vordse valemiga, saame

Pn(x) = y0 +x− x0

h∆y0 +

(x− x0)(x− x1)2h2

∆2y0 + . . . +

+(x− x0)(x− x1) . . . (x− xn−1

n!hn∆ny0

Tahistades t = x−x0h

, saame Newtoni polunoomi sammuga ette kirjutada kujule

Pn(x) = Pn(x+ th) = y0 + t∆y0 +t(t− 1)

2!∆2y0 + . . .+

t(t− 1) . . . (t− n + 1)n!

∆ny0

ja tema jaakliige avaldub kujul

Rn(x) =hn+1f (n+1)(ξ)

(n + 1)!t(t− 1) . . . (t− n), ξ ∈ [a, b].

Sellisel kujul polunoomi on motekas kasutada funktsiooni y = f(x) interpoleer-imiseks punkti x0 umbruses, kus suurus t on absoluutvaartuselt vaike.

32

Page 33: Newtoni meetod - TalTechstaff.ttu.ee/~kairik/rakmatkoos.pdf · Newtoni meetod Uldskeem Newtoni meetodi korral: xm = xm¡1 ¡ f(xm¡1) f0(x m¡1) Kui funktsiooni f(x) tuletis f0(x)

Kui votta solmedesx0, x−1 = x0 − h, x−2 = x0 − 2h, . . . , x−n = x0 − nh, siisdiferentssuhte summeetria tottu

f(x0, x0 − h, . . . , x0 − ih) = f(x0 − ih, x0 − (i− 1)h, . . . , x0) =∆iy−i

i!h!.

Sarnase muutujavahetusega t = x−x0h

saame Newtoni interpolatsioonipolunoomisammuga taha ehk Newtoni teise interpolatsioonipolunoomi

Pn(x) = Pn(x+th) = y0+t∆y−1+t(t + 1)

2!∆2y−2+. . .+

t(t + 1) . . . (t + n− 1)n!

∆ny−n,

sestx− x−1 = x− (x0 − h) = x− x0 + h = th + h = (t + 1)h,

x− x−2 = x− x0 + 2h = th + 2h = (t + 2)h,

jne.Tabeli lopuosas on motekas kasutada interpoleerimiseks Newtoni interpolatsioonipolunoomisammuga taha ehk Newtoni teist interpolatsioonipolunoomi, vottes siis x0 = xn,sellisel korral t = x−xn

h< 0.

Naide: Olgu h = 0, 05 ja funktsioon y = f(x) esitatud tabelinax | 3, 5 3, 55 3, 6 3, 65 3, 7—————————————————————————f(x) | 33, 115 34, 813 36, 598 38, 475 40, 447Kasutame nende andmete korral horisontaalset tabelitx | y ∆y ∆2y ∆3y ∆4y—————————————————————————3, 5 | 33, 115 1, 698 0, 087 0, 005 − 0, 0023, 55| 34, 813 1, 785 0, 092 0, 0033, 6 | 36, 598 1, 877 0, 0953, 65| 38, 475 1, 9723, 7 | 40447Antud andmete korral kolmanda astme Newtoni interpolatsioonipolunoom naebvalja kujul

P3(x) = 33, 115 + 1, 698t + 0, 087t(t− 1)

2+ 0, 005

t(t− 1)(t− 2)6

,

kus t = x−3,50,05 = 20(x− 3, 5). Kanoonilisele kujule ka vaja viia!

PoordinterpoleerimineOlgu antud funktsiooni y = f(x) vaartused antud argumentide korral:x | x0 x1 x2 . . . xn

—————————————————f(x) | y0 y1 y2 . . . yn

33

Page 34: Newtoni meetod - TalTechstaff.ttu.ee/~kairik/rakmatkoos.pdf · Newtoni meetod Uldskeem Newtoni meetodi korral: xm = xm¡1 ¡ f(xm¡1) f0(x m¡1) Kui funktsiooni f(x) tuletis f0(x)

Poordinterpoleerimise eesmargiks on antud funktsiooni vaartuse y jargi leida ar-gumendi x vaartus. Kui f(x) on monotoonne, saab selleks kasutada omadusi:1. Funktsiooni y = f(x) monotoonsuse tottu argumendi x erinevatele vaartustelevastavad ka funktsiooni erinevad vaartused, siis x ja y rollide vahetamisel saameerinevate vaartustega interpolatsioonisolmed yi. Seega on kasutatavad opitud in-terpoleerimisvotted. Argumendi x ligikaudse vaartuse voib leida jargmise Pn(y)vaartusena:

Pn(y) =n∑

i=0

(y − y0) . . . (y − yi−1)(y − yi+1) . . . (y − yn)(yi − y0) . . . (yi − yi−1)(yi − yi+1) . . . (yi − yn)

· xi, st x ≈ Pn(y).

2. Koostame f(x) interpolatsioonipolunoomi Pn(x) ja otsitava argumendi vaartusex leiame vorrandi y = Pn(x) lahendina.

Olgu naiteks interpolatsioonisolmed antud vordsete vahemike tagant, st xk =x0 +kh, k = 0, 1, . . . , n ja eeldame, et f(x) on monotoonne ning antud funktsioonivaartus y paikneb vaartuste y0 ja y1 vahel.Kui funktsiooni vaartus y lugeda vordseks esimese Newtoni interpolatsioonipo-lunoomiga (st sammuga ette int. polunoom), siis saame vorduse

y = y0 + ∆y0t +∆2y0

2!t(t− 1) + . . . +

∆ny0

n!t(t− 1) . . . (t− n + 1).

Avaldame saadud vordusestt = ϕ(t)

selliselt, et

ϕ(t) =y − y0

∆y0− ∆2y0

2!∆y0t(t− 1)− . . .− ∆ny0

n!∆y0t(t− 1) . . . (t− n + 1),

milles funktsiooni vaartuseks y votame vaartuse y ja alglahendiks

t0 =y − y0

∆y0.

Teame, et funktsiooni monotoonsuse tottu ∆y0 6= 0.Jargmise sammuna lahendame vorrandi t = ϕ(t) hariliku iteratsioonimeetodiabil, st tm = ϕ(tm−1), m = 1, 2, . . . jargi ja saadud lahendi t kaudu maaramex = x0 + ht. Praktilistes arvutustes itereeritakse seni, kuni noutav tapsus onsaavutatud ja voetakse t ≈ ts, kus ts on viimase iteratsioonil arvutatud vaartus.Teades nuud vaartust t, leiame x = x0 + th.

Naide: Olgu funktsiooni y = log x vaartused esitatud tabelinax | 20 25 30————————————–y | 1, 3010 1, 3979 1, 4771

34

Page 35: Newtoni meetod - TalTechstaff.ttu.ee/~kairik/rakmatkoos.pdf · Newtoni meetod Uldskeem Newtoni meetodi korral: xm = xm¡1 ¡ f(xm¡1) f0(x m¡1) Kui funktsiooni f(x) tuletis f0(x)

Leiame sellise argumendi vaartuse x, mille korral y = log x = 1, 35.

Moodustame loplike vahede tabeli:x | y ∆y ∆2y20 | 1, 3010 0, 0969 − 0, 017725 | 1, 3979 0, 079230 | 1, 4771ja votame

ϕ(t) =y − y0

∆y0− ∆2y0

2!∆y0t(t− 1).

Alglahendi t0 arvutame seosest

t0 =y − y0

∆y0=

1, 35− 1, 30101, 3979− 1, 3010

= 0, 506

ja jargnevalt hariliku iteratsioonimeetodi abil arvutame

t1 = 0, 506− 0, 01772 · 0, 0969

· 0, 506(1− 0, 506) = 0, 506− 0, 023 = 0, 483

t2 = 0, 506− 0, 01772 · 0, 0969

· 0, 483(1− 0, 483) = 0, 506− 0, 023 = 0, 483

Vottes t = ts = 0, 483, leiame

x = x0 + th = 10 + 0, 483 · 5 = 22, 42.

Kontrollime tulemust: x = ey = 101,35 = 22, 39 ja log 22, 39 = 1, 35. Vaartuste xja x kullalt suur erinevus on tingitud sellest, et sammupikkus h = 5 on suur.

Poordinterpoleerida voib ka teiste interpolatsioonipolunoomidega, mitte ainultNewtoni esimese int. polunoomiga.

Diferentsiaalvorrandite numbriline integreerimine

Diferentsiaalvorrandiks nimetatakse vorrandit, mis lisaks otsitava(te)le ja soltu-matutele muutujatele sisaldab ka otsitava(te) tuletisi. Naiteks

y′ = f(x, y),

y(n) = f(x, y, y′, . . . , y(n−1)).

Diferentsiaalvorrandid esinevad aarmiselt sageli matemaatilises modelleerimisesnii loodusteaduste kui ka inseneriulesannete vallas. Hinnanguliselt voiksid nadmoodustada ca 60-80 protsenti reaalelulistest ulesannetest.Pideva ajasarnase muutujaga dunaamiliste susteemide simuleerimise tahtsaimaks

35

Page 36: Newtoni meetod - TalTechstaff.ttu.ee/~kairik/rakmatkoos.pdf · Newtoni meetod Uldskeem Newtoni meetodi korral: xm = xm¡1 ¡ f(xm¡1) f0(x m¡1) Kui funktsiooni f(x) tuletis f0(x)

ulesandeks on trajektooride arvutamine. Selliste diferentsiaalvorrandite hulk,mille lahendid on esitatavad analuutilise valemi kaudu, on piiratud. Enamikkediferentsiaalvorrandeid pole voimalik lahendada ilma arvutite abita.Naiteks, olgu meid huvitav funktsioon y(x) maaratud diferentsiaalvorrandiga

y′ = 1− 2xy

ja ta peab rahuldama algtingimust

y(0) = 0.

Vasatavalt Cauchy teoreemile on lahend y uheselt maaratud, sest f(x, y) = 1−2xyja fy = −2x on maaratud ja pidevad kogu ruumis R2. Pole raske kontrollida, etselle vorrandi lahend avaldub kujul

y = e−x2

∫ x

0et2dt.

Toepoolest, lineaarse DV y′ + p(x)y = f(x) lahend avaldub kujul

y(x) = Ce−∫

p(x)dx + e−∫

p(x)dx

∫f(x)e

∫p(x)dxdx.

Rakendame seda varianti antud vorrandile, siis

y(x) = Ce−x2+ e−x2

∫ex2

dx.

Konstandi C vaartuse maarame algtingimusest, st seosest

0 = y(0) = Ce0 + e0

∫e0dx = C +

∫dx = C + x|x=0 = C,

millest C = 0. Erilahend, mis rahuldab algtingimust, on seega

y(x) = e−x2

∫ex2

dx.

Maaratud integraalina kujul

y(x) = e−x2

∫ x

0et2dt.

Kahjuks pole selles avaldises olev integraal holpsasti integreeritav. Ja seegaoleme esialgse ulesande (DV lahendamine) asendanud uue keerulise ulesandega.Praktikas on soovitatav rakendadada sobivat numbrilist algoritmi juba esialgseleulesandele, mitte saadud tulemuse lahendamiseks.Votmeteemaks, mis mangib olulist rolli diferentsiaalvorrandite numbrilisel lahen-damisel, on loplikud vahed ehk diferentsid ja jagatud vahed ehk diferentssuhted,sest nende kasutamisel pohineb enamik ligikaudsetest meetoditest.Sobivale arvutuslikule meetodile diferentsiaalvorrandite lahendamiseks esitataksekolm nouet:

36

Page 37: Newtoni meetod - TalTechstaff.ttu.ee/~kairik/rakmatkoos.pdf · Newtoni meetod Uldskeem Newtoni meetodi korral: xm = xm¡1 ¡ f(xm¡1) f0(x m¡1) Kui funktsiooni f(x) tuletis f0(x)

• ta peab olema efektiivne;

• arvutuseeskiri peab koosnema loplikest arvust sammudest;

• ta peab olema kullalt lihtne ja mugav kasutada.

Kui lisatingimused lahendile y, mida lahend peab rahuldama, et ulesanne oleksuheselt lahenduv, on antud uhes ja samas punktis, siis on tegu algvaartusulesande-ga ehk Cauchy ulesandega. Kui aga lisatingimused on antud erinevates punktides,utleme, et tegu on rajavaartusulesandega. Antud tingimusi nimetatakse sel juhulrajatingimusteks. Eelnevalt vaadatud naide oli algvaartusulesanne, aga

y′′ = 2π2(x− y) y(0) = 1, y(1) = 1

on rajaulesanne, sest lisatingimused on antud punktides x = 0 ja x = 1.

Esimest jarku diferentsiaalvorrandi uldkuju y′ = f(x, y), vorrandisusteemil

y′1 = f1(x, y1, y2, . . . , yn)

y′2 = f2(x, y1, y2, . . . , yn)

. . .

y′n = fn(x, y1, y2, . . . , yn)

Luhemalt saab susteemi kirjutada kujul (yi)′ = fi(x, y1, . . . , yn), kus i = 1, . . . , n.Seda kirjapilti arvestades ning tolgendades suurusi y ja f(x, y) vektoritena; ab-soluutvaartuse |·| aseel kasitledes normi ‖·‖, saame lahendusmeetodeid kirjeldadeskasutada ainult esimest jarku diferentsiaalvorrandeid.Kui tegu DV susteemi puhul algvaartusulesandega, on meil lisaks antud algtingimused

yi(x0) = y0i , i = 1, 2 . . . , n,

kus y0i on fikseeritud reaalarvud. Vektorkujul seega

y′(x) = f(x, y),

y(x0) = y0,

kus y, f ja y0 tahistavad n−mootmelisi vektoreid:

y =

y1

y2

. . .yn

, f(x, y) =

f1(x, y1, . . . , yn)f2(x, y1, . . . , yn)

. . .fn(x, y1, . . . , yn)

, y0 =

y01

y02

. . .y0

n

Monikord saab ka korgemat jarku DV teisendada susteemiks. Kui korgemat jarkutuletis on voimalik diferentsiaalvorrandis elimineerida ulejaanute hulgast, saame

37

Page 38: Newtoni meetod - TalTechstaff.ttu.ee/~kairik/rakmatkoos.pdf · Newtoni meetod Uldskeem Newtoni meetodi korral: xm = xm¡1 ¡ f(xm¡1) f0(x m¡1) Kui funktsiooni f(x) tuletis f0(x)

korgmeat jarku vorrandi taandada esimest jarku DVks. Osutub, et tavaliselt uuteotsitavate funktsioonide lisamisega saame vorrandi

y(n) = f(x, y, y′, . . . , y(n−1))

teisendada diferentsiaalvorrandite susteemiks. Nimelt, tuues sisse uued funkt-sioonid y1(x) = y(x), y2(x) = y′(x), . . . , yn(x) = y(n−1)(x) saame esitada korgematjarku DV asemel susteemi

y′1 = y2

y′2 = y3

. . .

y′n−1 = yn

y′n = f(x, y1, y2, . . . , yn)

Naiteks vorrandi2xy′′ − y′ = xy

saame kirjutada susteemiks, kui z = y′, siis z′ = y′′ ja{

z = y′

2xz′ − z = xy

Siin y ja z on soltuvad muutujad ja x on soltumatu muutuja.Iga numbrilise integreerimise meetod, mis pohineb loplikel vahedel, alustab omatood loigu [a, b] tukeldamisega osaloikudeks punktide (solmede) x0, x1, . . . , xn abilselliselt, et

a = x0 < x1 < x2 < . . . < xn = b.

Uldiselt, kasutades algtingimust y(x0) = y0 ja funktsiooni f(x, y) avaldist arvu-tatakse lahislahend y1 punktis x1. Vottes y1 uueks algtingimuseks, arvutatakselahislahendi vaartus y2 punktis x2, jne. Eristatakse uhesammulisi ja mitmesam-mulisi meetodeid. Mitmesammuliste meetodite puhul kasutatakse ka mitme eel-neva solme tulemusi.

Erinevaid lahendusalgoritme saab tuletada mitmel viisil. Naiteks1. Integreerides samasust

y′(x) = f(x, y(x))

rajades xk ja xk + h loigu [a, b] seesmistes punktides, saame

y(xk + h)− y(xk) =∫ xk+h

xk

f(x, y(x))dx.

Asendades funktsiooni f(x, y) avaldise erinevate interpolatsioonipolunoomidega,saame vaga mitmesuguseid lahendusalgoritme.

38

Page 39: Newtoni meetod - TalTechstaff.ttu.ee/~kairik/rakmatkoos.pdf · Newtoni meetod Uldskeem Newtoni meetodi korral: xm = xm¡1 ¡ f(xm¡1) f0(x m¡1) Kui funktsiooni f(x) tuletis f0(x)

2. Aproksimeerides diferentsiaalvorrandis esimest jarku tuletise diferentssuhtega,saame samuti numbrilise integreerimise valemi. Naiteks aproksimatsioon

y′(xk) ≈ 1h

[y(xk + h)− y(xk)]

annab meile Euleri meetodi

y(xk + h) ≈ y(xk) + hf(x, y(xk)).

3. Lahtume voimalusest, et arendame lahendi Taylori ritta punkti xk umbruses,st

y(xk + h) = y(xk) + hf(xk, y(xk)) +12h2y′′(xk) + . . .

ja votta sellest reaksarendusest just niipalju liikmeid kui meile vaja.

Vaadeldud voimalustest kolmas on aluseks uhesammuliste meetodite tuletamiselning esimene mitmesammuliste meetodite tuletamisel. Mitmesammuliste meetodituletamisel oletame, et on teada i varasemat vaartust yk, yk+1, . . . , yk−i+1. Siis onjargmine vaartus yk+1 arvutatav seosest

yk+1 = yk +∫ xk+1

xk

P (t)dt,

kus P (t) on mingi interpolatsioonipolunoom, mis aproksimeerib funktsiooni f(x, y).Nimetatakse seda ka Adamsi meetodiks, soltuvalt P (t) kujust on siin alajuhud:Adams-Bashforth’i meetod, kus P (T ) on (i − 1)astme polunoom ja rahuldabtingimusi

P (tk−j) = fk−j = f(xk−j, yk−j), j0 =, 1 . . . , k − 1.

Kui P (t) rahuldab lisaks tingumust

P (tk+1) = fk+1 = f(xk+1, yk+1),

on tegu Adams-Moultoni meetodiga.

Lihtsaim numbriline meetod on Euleri meetod. Aproksimeerime tuletist dife-rentssuhtega sammuga ette jargmise valemi

y′(xi) ≈ yi+1 − yi

h+ O(h)

kohaselt, kus yi tahistab arvutatud lahendi vaartust punktis xi ja y(xi) toeliselahendi vaartust samas solmes, st yi ≈ y(xi).Asendades suuruse y′(xi) nuud DVst y′ = f(x, y), saame

f(xi, yi) =yi+1 − yi

h+ O(h),

39

Page 40: Newtoni meetod - TalTechstaff.ttu.ee/~kairik/rakmatkoos.pdf · Newtoni meetod Uldskeem Newtoni meetodi korral: xm = xm¡1 ¡ f(xm¡1) f0(x m¡1) Kui funktsiooni f(x) tuletis f0(x)

kust korrutamisel suurusega h saame

yi+1(x) = yi + hf(xi, yi) + O(h2).

Jattes nuud korvale korgemat jarku kahaneva suuruse O(h2), siis saame

yi+1 = yi + hf(xi, yi), i = 0, 1, . . .

Et funktsiooni lahisvaartus on saadud seosest otseselt arvutatav, siis nimetataksesellist meetodit ka ilmutatud meetodiks. Tegu on uhesammulise meetodiga, sestjargmise tulemuse arvutamiseks vajame teavet eelmise punkti kohta.Analoogiliselt tuletatakse ka Euleri meetod sammuga taha. Esimest jarkutuletis y′ aproksimeeritakse valemiga

y′i ≈yi − yi−1

h

ja seega eeskirjaksyi+1 = yi + hf(xi+1, yi+1)

Siin on tegu ilmutamata arvutusskeemiga, sest vaartus yi+1 osutub iseenda funk-tsiooniks. Ilmutamata arvutusskeem nouab rohkem tood, sest lahendada on vajanuud algebraline vorrandisusteem.

Euleri meetodit voib vaadelda kui uht robustset DV integreerimise meetodit(ehk ristkulikuvalemit). Juhul, kui f(x, y) on konstantne voi ligilahedaselt kon-stantne, siis

y′ = f(x, y)

integreerimine loigul [xi, xi+1] annab

yi+1 − yi =∫ xi+1

xi

f(x, y(x))dx ≈∫ xi+1

xi

f(xi, y(xi))dx = fi(xi+1 − xi) = fihi

Lihtne, ent numbriliselt tapsem on trapetsvalem

yi+1 = yi +12h[f(xi, yi) + f(xi+1, yi+1].

Kahjuks parem pool soltub samast otsitavast yi+1 ja seega on tegu ilmutamataskeemiga.

Runge-Kutta meetodid

yi+1 = yi +h

2(k1 + k2),

kusk1 = f(x1, y1)

40

Page 41: Newtoni meetod - TalTechstaff.ttu.ee/~kairik/rakmatkoos.pdf · Newtoni meetod Uldskeem Newtoni meetodi korral: xm = xm¡1 ¡ f(xm¡1) f0(x m¡1) Kui funktsiooni f(x) tuletis f0(x)

jak2 = f(xi + h, yi + hk1).

Korgemat jarku Runge-Kutta meetodid

yi+1 = yi + h

r∑p=1

wpkp/

r∑p=1

wp,

kus

kp = f(xi + αph, yi + h

p−1∑q=1

βpqkq)

ja konstandid wp, αp, βpq on sobivalt valitud.

Integraalide ligikaudne arvutamine

Uhe muutuja funktsiooni maaratud integraali arvutamisel kasutatakse Newton-Leibnizi valemit ∫ b

a

f(x)dx = F (b)− F (a),

kus F (x) on funktsiooni f(x) algufunktsioon, st funktsioon, mille korral F ′(x) =f(x) loigul [a, b].Selle valemi rakendusvoimalusi piirab asjaolu, et algfunktsioon on avaldatav el-ementaarfunktsioonide kaudu kullalt kitsa funktsioonide klassi korral. Samutipole Newton-Leibnizi valem kasutatav, kui funktsioon f(x) on esitatud vaartustetabeli kaudu. Seetottu uritatakse integraali arvutada ligikaudu.Ligikaudsel arvutamisel kasutatakse koige enam maaratud integraali leidmisekskvadratuurvalemeid kujul

∫ b

a

f(x)dx ≈n∑

i=1

Aif(xi),

kus xi (i = 1, 2, . . . , n) on kvadratuurvalemi solmed ja Ai (i = 1, 2, . . . , n) kvad-ratuurvalemi kordajad.Mitmekordse integraali arvutamisel oleks tegu kubatuurvalemitega.

Newton-Cotesi kvadratuurvalemJagame integreerimiseloigu [a, b] vordseteks osadeks nii, et

xi = a + ih, i = 0, 1, . . . , n,

kus h = b−an

. Kvadratuutvalemi kordajate leidmiseks lahendame funktsiooni f(x)Lagrange’i interpolatsioonipolunoomiga

f(x) =n∑

i=0

li(x)f(xi) + R(x),

41

Page 42: Newtoni meetod - TalTechstaff.ttu.ee/~kairik/rakmatkoos.pdf · Newtoni meetod Uldskeem Newtoni meetodi korral: xm = xm¡1 ¡ f(xm¡1) f0(x m¡1) Kui funktsiooni f(x) tuletis f0(x)

kus

li(x) =(x− x0) . . . (x− xi−1)(x− xi+1) . . . (x− xn)

(xi − x0) . . . (xi − xi−1)(xi − xi+1) . . . (xi − xn)=

ω(x)(x− xi)ω′(xi)

,

ω(x) = (x− x0)(x− x1) . . . (x− xn).

Jaakliige on teaduparast kujul

R(x) =f (n+1)(ξ)(n + 1)!

ω(x) ξ ∈ (a, b),

kui loigul [a, b] eksisteerib pideva tuletis f (n+1)(x).Integreerides saadud interpolatsioonivalemit valitud solmede korral, saame Newton-Cotesi kvadratuurvalemi

∫ b

a

f(x)dc =n∑

i=0

Aif(xi) + R,

kus

Ai =∫ b

a

li(x)dx =∫ b

a

(x− x0) . . . (x− xi−1)(x− xi+1) . . . (x− xn)(xi − x0) . . . (xi − xi−1)(xi − xi+1) . . . (xi − xn)

dx

ja jaakliige

R =∫ b

a

R(x)dx =1

(n + 1)!

∫ b

a

f (n+1)(ξ)ω(x)dx.

Kvadratuurvalemit nimetatakse tapseks funktsiooni f(x) korral, kui R = 0. Esi-tatud jaakliikme avaldisest naeme, et Newton-Cotesi kvadratuurvalem on tapneiga ulimalt n−astme polunoomi f(x) korrarl, sest siis f (n+1)(x) = 0.Valemi kordajate leidmise lihtsustamiseks saab teha muutujate vahetuse

x = a + th,

siis

Ai =∫ b

a

li(x)dx = h

∫ n

0li(a + th)dt =

= h

∫ n

0

t(t− 1) . . . (t− i + 1)(t− i− 1) . . . (t− n)i(i− 1) . . . (i− i + 1)(i− i− 1) . . . (i− n)

dt = (b− a)Bi,

kus

Bi =(−1)n−i

n · i!(n− i)!

∫ n

0t(1− 1) . . . (t− i + 1)(t− i− 1) . . . (t− n)dt

on nuud oga n korral teatavad konstandid. Newton-Cotesi valem on nuud kujul:∫ b

a

f(x)dx = (b− a)n∑

i=0

Bif(xi) + R.

42

Page 43: Newtoni meetod - TalTechstaff.ttu.ee/~kairik/rakmatkoos.pdf · Newtoni meetod Uldskeem Newtoni meetodi korral: xm = xm¡1 ¡ f(xm¡1) f0(x m¡1) Kui funktsiooni f(x) tuletis f0(x)

Kordajatel Bi saab valha tuua 2 omadust. Esiteks, kui votta f(x) = 1, siis

b− a = (b− a)n∑

i=0

Bi,

sest see valem on tapne (R = 0) nullastme polunoomi 1 korral. Seega kordajatesumma

n∑i=0

Bi = 1.

Teiseks, kui teha Bi integraalis asendus t = n− s, on kerge veenduda, et Bn−i =Bi.Nende kahe omaduse pohjal lubavad n = 1 korral vajalikud kordajad B0 ja B1

valja arvutada: B0 = B1 = 12 . Kui n = 2, siis

B2 =14

∫ 2

0t(t− 1)dt =

14

[t3

3− t2

2

]2

0

=16,

siit etB0 = B2, B0 + B1 + B2 = 1

saame, et

B0 = B2 =16, B1 =

46.

Analoogiliselt on leitavad ka teised Newton-Cotesi valemi kordajad.TABEL!!!!!!!!!!!!!!!!!!!!Markus Integreeritava funktsiooni vaartused f(xi) leitakse teatava tapsusega.Olgu nende absoluutne viga ε See voib pohjustada summa

∑ni=0 Bif(x) arvu-

tamisel vea

ε

n∑i=0

|Bi| = ε,

kui kordajad Bi > 0. Kui moni koradajatest Bi on negatiivne, on summa voimalikviga

ε

n∑i=0

|Bi| > ε.

See on ka uheks pohjuseks, miks praktikas kasutatakse enamasti positiivsete kor-dajatega kvadratuurvalemeid. Newton-Cotesi valemil on n = 8 ja paljude suure-mate n vaartuste korral negatiivseid kordajaid.

Koos solmede arvu n + 1 kasvuga muutub Newton-Cotesi valemi arvutaminejarjest keerulisemaks. Ntx, kui integreeritava funktsiooni tuletised on integreer-imisloigul tokestamata, voib Newton-Cotesi valem anda suurema n korral isegi

43

Page 44: Newtoni meetod - TalTechstaff.ttu.ee/~kairik/rakmatkoos.pdf · Newtoni meetod Uldskeem Newtoni meetodi korral: xm = xm¡1 ¡ f(xm¡1) f0(x m¡1) Kui funktsiooni f(x) tuletis f0(x)

halvemaid lahendeid vaadeldavale integraalile. Neid asjaolusid arvestades kasu-tatakse suhteliselt harva Newton-Cotesi valemit n > 5 korral. Tabelist on naha, etkui jaakliikmes olev tuletis on pidev loigul [a, b], siis kvadratuurvalemi jaakliikmehinnang kahaneb kiiresti koos sammu h = b−a

nabsoluutvaartuse kahanemisega,

st fikseeritud n korral integreerimisloigu luhenemisega. Seetottu saame leida in-tegraali tapsemalt, kui jagame integreerimisloigu osadeks ja igal osaloigul rak-endame mingit Newton-Cotesi valemit. Koige lihtsam on jaotada integreerim-isloik vordse pikkusega osaloikudeks ning rakendada igal osaloigul Newton-Cotesivalemit sama n korda.Tabeli pohjal saame Newton-Cotesi valemi valja kirjutada n = 1 korral

∫ b

a

f(x)dx =b− a

2[f(a) + f(b)]− (b− a)3

12f ′′(ξ), ξ ∈ (a, b)

mis koos jaakliikmega kehtib, kui f(x) on kaks korda pidevalt diferentseeruvloigul [a, b]. Selles valemis jaakliikme arajatmine annab kovertrapetsi pinna asemeltavalise trapetsi pinna.Integraali tapsemaks arvutamiseks jaotame loigu [a, b] n vordseks osaks pikkusegah = b−a

nja tahistame jaotuspunktid xi = a+ ih, i = 0, 1, . . . , n. Esitame integraali

summana ∫ b

a

f(x)dx =n∑

k=1

∫ xk

xk−1

f(x)dx

ning eeldame, et funktsioon f(x) on loigul [a, b] kaks korda pidevalt diferentseeruv.Newton-Cotesi valemi pohjal

∫ xk

xk−1

f(x)dx =h

2(fk−1 + fk)− h3

12f ′′(ξk),

kus fi = f(xi) ja ξk ∈ (xk−1, xk). Nii jouame trapetsvalemini

∫ b

a

f(x)dx =h

2

n∑

k=1

(fk−1 + fk)− h3

12

n∑

k=1

f ′′(ξk).

Jaakliiget saab funktsiooni f(x) pidevuse tottu teisendada

R = −h3

12

n∑

k=1

f ′′(ξk) = −h3n

12f ′′(ξ) = −b− a

12h2f ′′(ξ) = −(b− a)3

12n2f ′′(ξ), ξ ∈ (a, b).

Seega saame trapetsvalemi kujul

∫ b

a

f(x)dx =b− a

n

(12f0 + f1 + f2 + . . . + fn−1 +

12fn

)− (b− a)3

12n2f ′′(ξ),

kus fi = f(xi).

44

Page 45: Newtoni meetod - TalTechstaff.ttu.ee/~kairik/rakmatkoos.pdf · Newtoni meetod Uldskeem Newtoni meetodi korral: xm = xm¡1 ¡ f(xm¡1) f0(x m¡1) Kui funktsiooni f(x) tuletis f0(x)

Olgu f(x) loigul [a, b] neli korda pidevalt diferentseeruv ja n paarisarv. Siis saameintegraali esitada ule kahe osaloigu voetud integraalide summana

∫ b

a

f(x)dx =n/2∑

k=1

∫ x2k

x2k−2

f(x)dx

iga osaintegraali arvutamisel saame kasutada Newton-Cotesi valemit n = 2 korral∫ x2k

x2k−2

f(x)dx =2h

6(f2k−2 + 4f2k−1 + f2k)− 1

90f 5f (IV )(ξk),

kus ξk ∈ (x2k−2, x2k). Tulemuseks on Simpsoni valem

∫ b

a

f(x)dx =h

3

n/2∑

k=1

(f2n−2 + 4f2n−1 + f2n)− 190

f 5f (IV )(ξk)

Jaakliikme teisendamisel saame Simpsoni valemi kujul

∫ b

a

f(x)dx =b− a

3n(f0 + 4f1 + 2f2 + 4f3 + 2f4 + . . . + 4fn−1 + fn)−(b− a)55

180n4f (IV )(ξ)

voi ka∫ b

a

f(x)dx ≈ 2(b− a)3n

(12f0 + 2f1 + f2 + 2f3 + f4 + . . . + 2fn−1 +

12fn

).

Kui solmede arvu kasvades kvadratuurvalemi jaakliige laheneb nullile, siis kvadratu-urprotsess koondub.