tema 4: sistemas de ecuaciones lineales -...
TRANSCRIPT
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
Sistemas de ecuaciones linealesTema 4:
A) Condicionamiento del problema.
B) Métodos iterados: Jacobi, Gauss-Seidel y Relajación
C) Métodos directos: Factorización LU y Factorización QR
D) Sistemas superdeterminados.
V.Álvarez
J.A. Armario
F. Muñoz
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
Problema Encontrar una solución del sistema, de manera aproximada:
=+
−=−≡
−=
⋅
−
43
12
4
1
13
21
21
21
2
1
xx
xx
x
x
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
Un sistema de m ecuaciones lineales con n incógnitas
consiste en una colección de ecuaciones del tipo A· x = b,
para una matriz rectangular A de m filas y n columnas y un
vector b de términos independientes de m componentes.
Resolución de sistemas de ecuaciones lineales Ax=b.
=
⋅
n b
x
xaa
M
MM
MM
MM
L 1
1
111
V.Álvarez
J.A. Armario
F. Muñoz
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
m
n
mnm bx
aa L1
Teorema de Rouché-Frobenius: un sistema de ec. lineales A· x=b
es compatible (i.e. tiene solución) si y sólo si rg(A)=rg(A|b), en
cuyo caso es determinado (i.e. tiene solución única) si y sólo si
rg(A)=rg(A|b)=n.
A continuación estudiaremos cómo resolver numéricamente sistemas
compatibles de rango máximo (i.e. rg(A)=rg(A|b)=n).
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
A) Condicionamiento del problema:
B) Métodos iterados:
Normas matriciales: || ||1, || ||2, || ||∞
Número de condición: κ(A)=||A||·||A-1||
Jacobi
Estabilidad de la solución por errores
Resolución de sistemas de ecuaciones lineales Ax=b. ESQUEMA:
V.Álvarez
J.A. Armario
F. Muñoz
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
Gauss-Seidel
C) Métodos directos:
Factorización LU: Doolittle, Crout, Cholesky
Factorización QR
Relajación o SOR
D) Sistemas superdeterminados: seudosolución
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
A) Condicionamiento del problema:
Estabilidad de la solución por errores
Sería deseable que las soluciones de los sistemas siguientes
fueran parecidas
=
⋅
2
2
01.199.0
99.001.1
y
x
=
1
1
y
x
Resolución de sistemas de ecuaciones lineales Ax=b.
V.Álvarez
J.A. Armario
F. Muñoz
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
=
⋅
98.1
02.2
01.199.0
99.001.1
y
x
=
⋅
02.2
98.1
01.199.0
99.001.1
y
x
=
0
2
y
x
=
2
0
y
x
El problema está mal condicionado, ya que pequeños errores en
los datos de entrada tienen un reflejo notorio en las soluciones
que se ofrecen como salida.
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
A) Condicionamiento del problema:
Estabilidad de la solución por errores
Asimismo, sería deseable que fueran diferentes los vectores b y
c de los sistemas Ax=b y Ax=c de soluciones x(1) y x(2),
−−
−
−
=
47.154.083.0
78.156.033.4
53.205.102.3
A
−
=
1
2
1)1(x
Resolución de sistemas de ecuaciones lineales Ax=b
−
−=
66.2
34.2
88.0)2(x
V.Álvarez
J.A. Armario
F. Muñoz
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
−− 47.154.083.0
−1
El problema está mal condicionado, en tanto en cuanto
pequeños errores en los datos de entrada tienen un reflejo
notorio en las soluciones que se ofrecen como salida.
− 66.2
−
−
=⋅
38.3
23.7
61.1)1(xA
−
−
=⋅
3716.3
2348.7
6047.1)2(xA
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
A) Condicionamiento del problema:
�ormas matriciales y número de condición
El número de condición del sistema es κ(A)=||A||·||A-1||, para
alguna norma matricial. Siempre es mayor o igual que 1.
Resolución de sistemas de ecuaciones lineales Ax=b
Las normas matriciales que nosotros utilizaremos serán estas tres:
El sistema estará tanto mejor condicionado cuanto
más próximo a 1 sea su número de condición.
V.Álvarez
J.A. Armario
F. Muñoz
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
)(||max||||}0|| |:{|
2 AAA T
AAI Tρλ
λλ==
=−
Las normas matriciales que nosotros utilizaremos serán estas tres:
�orma 1 ó columna:
�orma 2, euclídea ó espectral:
�orma ∞ ó fila:
∑=
≤≤=
n
i
ijnj
aA1
11 ||max||||
∑=
≤≤∞ =
n
j
ijni
aA1
1||max||||
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
A) Condicionamiento del problema:
Resolución de sistemas de ecuaciones lineales Ax=b
�ormas matriciales y número de condición
)(||max||||}0|| |:{|
2 AAA T
AAI Tρλ
λλ==
=−
�orma 1 ó columna:
�orma 2, euclídea ó espectral:
�orma ∞ ó fila:
∑=
≤≤=
n
i
ijnj
aA1
11 ||max||||
∑=
≤≤∞ =
n
ijni
aA1
||max||||
V.Álvarez
J.A. Armario
F. Muñoz
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
2|||||||||||| 21 === ∞AAA 50|||||||||||| 1
2
1
1
1 === ∞−−− AAA
=
⋅
2
2
01.199.0
99.001.1
y
xκ(A)=||A||·||A-1||
−
−=
=
−
−
25.2575.24
75.2425.25
01.199.0
99.001.11
1A 100)( =Aκ
∑=
≤≤j
ni1
1
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
A) Condicionamiento del problema:
Resolución de sistemas de ecuaciones lineales Ax=b
�ormas matriciales y número de condición
)(||max||||}0|| |:{|
2 AAA T
AAI Tρλ
λλ==
=−
�orma 1 ó columna:
�orma 2, euclídea ó espectral:
�orma ∞ ó fila:
∑=
≤≤=
n
i
ijnj
aA1
11 ||max||||
∑=
≤≤∞ =
n
ijni
aA1
||max||||
V.Álvarez
J.A. Armario
F. Muñoz
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
κ(A)=||A||·||A-1||
6.67||||9,5.35313993||||8.18,|||| 21 === ∞AAA
1138.6758||||802.058621||||944.349181|||| 1
2
1
1
1 === ∞−−− AAA
7594.96759)( ,4293.53204)( 7724.7763,)( 21 === ∞ AAA κκκ
−−
−
−
=
47.154.083.0
78.156.033.4
53.205.102.3
A
∑=
≤≤j
ni1
1
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
A) Condicionamiento del problema:
Resolución de sistemas de ecuaciones lineales Ax=b
Resolver el siguiente sistema utilizando aritmética exacta
=
⋅
− 78.46
17.59
13.6291.5
14.59003.0
y
x
=
1
10
y
x
298.11)(2 ≈Aκ
V.Álvarez
J.A. Armario
F. Muñoz
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
Resolver el mismo sistema utilizando aritmética de 3 cifras
decimales exactas mediante el método de reducción por filas
=
⋅
− 78.46
17.59
13.6291.5
14.59003.0
y
x
=
1
1
y
x
8
2 10347.0)( •≈Bκ
−=
⋅
− 104309.396
17.59
104309.3960
14.59003.0
y
x
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
B) Métodos iterados: Suponemos que A es regular (|A|≠0).
Resolución de sistemas de ecuaciones lineales Ax=b
cxx +⋅=+ )()1( kk K
Un método iterado consiste en establecer una sucesión de vectores
en la forma
El método converge para cualquier elección inicial x(0) si y sólo si
{ } 1 deautovalor es :||max)( <= KK λλρ
( )I K− invertible y
V.Álvarez
J.A. Armario
F. Muñoz
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
{ } 1 deautovalor es :||max)( <= KK λλρ
De ser éste el caso, cotas para medir el error vienen dadas por:
|||||||||||| )0()( xxxx −⋅≤− kk K
||||||||1
|||||||| )1()()( −−⋅
−≤− kkk
K
Kxxxx
Además, converge a la única solución de Ax=b si:1( )I K A−= − ⋅ ⋅c b
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
B) Métodos iterados: Buscamos K tal que
Resolución de sistemas de ecuaciones lineales Ax=b
bxx 1)(1)1( −−+ +⋅= M�M kk
Por descomposición, A=M-�=L+D+U
( )I K− invertible y1( )I K A−= − ⋅ ⋅c b
c,xx +⋅=+ )()1( kk K
V.Álvarez
J.A. Armario
F. Muñoz
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
Jacobi: UL�DM −−== ,
Gauss-Seidel: U�LDM −=+= ,
Relajación: UD�LDM −−
=+=ω
ω
ω
1,
1
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
B) Métodos iterados:
Resolución de sistemas de ecuaciones lineales Ax=b
bxx 1)(1)1( )( −−+ +⋅−−= DULD kk
Jacobi: UL�DM +== ,
Consiste en utilizar la i-ésima ecuación de Ax=b para obtener el
V.Álvarez
J.A. Armario
F. Muñoz
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
valor de xi(k+1) en función de x(k)
( )i
k
nin
k
iii
k
iii
k
i
ii
k
i bxaxaxaxaa
x +−−−−−−= ++−−
+ )()(
11
)(
11
)(
11
)1( 1LL
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
B) Métodos iterados:
Resolución de sistemas de ecuaciones lineales Ax=b
=+
−=−≡
−=
⋅
−
43
12
4
1
13
21
21
21
2
1
xx
xx
x
x
Jacobi:
( )i
k
nin
k
iii
k
iii
k
i
k
i bxaxaxaxaa
x +−−−−−−= ++−−
+ )()(
11
)(
11
)(
11
)1( 1LL
V.Álvarez
J.A. Armario
F. Muñoz
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
−+
−=
≡
+−=
−=+
+
+
+
4
1
03
20
43
12)(
2
)(
1
)1(
2
)1(
1
)(
1
)1(
2
)(
2
)1(
1
k
k
k
k
kk
kk
x
x
x
x
xx
xx
( )ininiiiiiii
ii
i bxaxaxaxaa
x +−−−−−−= ++−− 111111 LL
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
B) Métodos iterados:
Resolución de sistemas de ecuaciones lineales Ax=b
bxx 1)(1)1( )()()( −−+ ++⋅−+= LDULD kk
Consiste en utilizar la i-ésima ecuación de Ax=b para obtener el
Gauss-Seidel: U�LDM =−= ,
V.Álvarez
J.A. Armario
F. Muñoz
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
Consiste en utilizar la i-ésima ecuación de Ax=b para obtener el
valor de xi(k+1) en función de x(k) y de las componentes ya calculadas
( )i
k
nin
k
iii
k
iii
k
i
ii
k
i bxaxaxaxaa
x +−−−−−−= ++
+
−−
++ )()(
11
)1(
11
)1(
11
)1( 1LL
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
B) Métodos iterados:
Resolución de sistemas de ecuaciones lineales Ax=b
=+
−=−≡
−=
⋅
−
43
12
4
1
13
21
21
21
2
1
xx
xx
x
x
Gauss-Seidel:
( )i
k
nin
k
iii
k
iii
k
i
k
i bxaxaxaxax +−−−−−−= ++
+
−−
++ )()(
11
)1(
11
)1(
11
)1( 1LL
V.Álvarez
J.A. Armario
F. Muñoz
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
−+
−=
≡
+−=
−=+
+
++
+
7
1
60
20
43
12)(
2
)(
1
)1(
2
)1(
1
)1(
1
)1(
2
)(
2
)1(
1
k
k
k
k
kk
kk
x
x
x
x
xx
xx
( )ininiiiiiii
ii
i bxaxaxaxaa
x +−−−−−−= ++−− 111111 LL
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
B) Métodos iterados:
Resolución de sistemas de ecuaciones lineales Ax=b
Consiste en utilizar la i-ésima ecuación de Ax=b para obtener el
valor de x (k+1) en función de x(k) y de las componentes ya calculadas
Relajación: UD�LDM +−
=−=ω
ω
ω
1,
1
bxx1
)(
1
)1( 111−−
+
++⋅
−
−
+= LDUDLD kk
ωω
ω
ω
V.Álvarez
J.A. Armario
F. Muñoz
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
valor de xi(k+1) en función de x(k) y de las componentes ya calculadas
modificadas por un peso ω.
( )i
k
nin
k
iii
k
iii
k
i
ii
k
i
k
i
bxaxaxaxaa
xx
+−−−−−−+
−=
++
+
−−
+
+
)()(
11
)1(
11
)1(
11
)()1(
1
)1(
LLω
ω
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
B) Métodos iterados:
Resolución de sistemas de ecuaciones lineales Ax=b
=+
−=−≡
−=
⋅
−
43
12
4
1
13
21
21
21
2
1
xx
xx
x
x
Relajación, ω=0.75
k
i
k
i xx −=+ )()1(
)1( ω
V.Álvarez
J.A. Armario
F. Muñoz
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
−
+
−−
=
≡
+−=
−+=
+
+
++
+
16
754
3
8
25
16
92
3
4
1
34
9
4
14
3
2
3
4
1
)(
2
)(
1
)1(
2
)1(
1
)1(
1
)(
2
)1(
2
)(
2
)(
1
)1(
1
k
k
k
k
kkk
kkk
x
x
x
x
xxx
xxx
( )i
k
nin
k
iii
k
iii
k
i
ii
ii
bxaxaxaxaa
xx
+−−−−−−+
−=
++
+
−−
+ )()(
11
)1(
11
)1(
11
1
)1(
LLω
ω
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
B) Métodos iterados:
Resolución de sistemas de ecuaciones lineales Ax=b
=+
−=−≡
−=
⋅
−
43
12
4
1
13
21
21
21
2
1
xx
xx
x
x
Jacobi
−+
−=
+
+
4
1
03
20)(
2
)(
1
)1(
2
)1(
1
k
k
k
k
x
x
x
x
V.Álvarez
J.A. Armario
F. Muñoz
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
Gauss-Seidel
Relajación, ω=0.75
22 xx
−+
−=
+
+
7
1
60
20)(
2
)(
1
)1(
2
)1(
1
k
k
k
k
x
x
x
x
−
+
−−
=
+
+
16
754
3
8
25
16
92
3
4
1
)(
2
)(
1
)1(
2
)1(
1
k
k
k
k
x
x
x
x
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
B) Métodos iterados: convergencia de los métodos.
Resolución de sistemas de ecuaciones lineales Ax=b
Métodos de Jacobi y Gauss-Seidel:
o Convergen para matrices A diagonal dominantes (i.e. el
valor absoluto de los elementos de la diagonal mayoran
la suma de los valores absolutos de los restantes
.1 que cumplirse debe converja,
)()1( iterado métodoun que para general,En
<
+⋅=+
ρ(K)
kK
k cxx
CASOS PARTICULARES:
V.Álvarez
J.A. Armario
F. Muñoz
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
la suma de los valores absolutos de los restantes
elementos de su fila).
Método de Relajación:
o Diverge para ω fuera del intervalo (0,2).
o Para A simétrica definida positiva (es decir, AT=A y los
determinantes de las matrices principales son todos positivos),
el método de relajación converge si y sólo si ω pertenece al
intervalo (0,2).
o Para A diagonal dominante, el método de relajación converge
si ω pertenece a (0,1], teniendo incertidumbre en otro caso.
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
B) Métodos iterados:
Resolución de sistemas de ecuaciones lineales Ax=b
=+
−=−≡
−=
⋅
−
43
12
4
1
13
21
21
21
2
1
xx
xx
x
x
Jacobi:
−+
−=
≡
+−=
−=+
+
+
+
4
1
03
20
43
12)(
2
)(
1
)1(
2
)1(
1
)(
1
)1(
2
)(
2
)1(
1
k
k
k
k
kk
kk
x
x
x
x
xx
xx
16)( >=Jρ El método de Jacobi no converge.
V.Álvarez
J.A. Armario
F. Muñoz
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
G.-S.:
Relaj., ω=0.75:
−+
−=
≡
+−=
−=+
+
++
+
7
1
60
20
43
12)(
2
)(
1
)1(
2
)1(
1
)1(
1
)1(
2
)(
2
)1(
1
k
k
k
k
kk
kk
x
x
x
x
xx
xx
16)( >=GSρ
−
+
−−
=
≡
+−=
−+=
+
+
++
+
16
754
3
8
25
16
92
3
4
1
34
9
4
14
3
2
3
4
1
)(
2
)(
1
)1(
2
)1(
1
)1(
1
)(
2
)1(
2
)(
2
)(
1
)1(
1
k
k
k
k
kkk
kkk
x
x
x
x
xxx
xxx
12.85)( >=Rρ El método de Relaj. no converge.
El método de G.-S. no converge.
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
B) Métodos iterados:
Resolución de sistemas de ecuaciones lineales Ax=b
−=−
=+≡
−=
⋅
− 12
43
1
4
21
13
21
21
2
1
xx
xx
x
x
Jacobi
Si A es diagonal dominante
1.408248290)( <≈Jρ
+
−=
≡
+=
+−=+
+
+
+
2134
21
31
21
21
33
1
)(
2
)(
1
)1(
2
)1(
1
)(
1
)1(
2
4)(
2
)1(
1
0
0k
k
k
k
kk
kk
x
x
x
x
xx
xx
V.Álvarez
J.A. Armario
F. Muñoz
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
Gauss-Seidel
Relajación, ω=0.75 ( ) 0.25 1Rρ = <
116666.0)( <=GSρ
+
−
−=
≡
+=
+−=+
+
++
+
6734
6
131
21
2
134
31
)(
2
)(
1
)1(
2
)1(
1
)1(
1
)1(
2
)(
2
)1(
1
0
0k
k
k
k
kk
kk
x
x
x
x
xx
xx
]1,0(∈
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
C) Métodos directos:
Resolución de sistemas de ecuaciones lineales Ax=b
Factorización LU: Doolittle, Crout, Cholesky
Se trata de descomponer la matriz de coeficientes A en la forma A=LUpara ciertas matrices triangulares inferior y superior. Las matrices
L y U son únicas, prefijadas una de sus diagonales.
Esto será posible si y sólo si los determinantes de las matricesprincipales son todos no nulos.
Si la matriz A es regular, entonces siempre existe una
V.Álvarez
J.A. Armario
F. Muñoz
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
Si la matriz A es regular, entonces siempre existe una
reordenación de filas y columnas que facilitan esta condición.
Si la matriz A es diagonal dominante, entonces los determinantes
de las matrices principales son todos no nulos
En estas condiciones, resolver el sistema Ax=b se reduce a resolverdos sistemas triangulares: primero, Ly=b, de solución c; después,
Ux=c, cuya solución es la solución del sistema original.
Gran inconveniente: puede empeorar el condicionamiento delsistema original.
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
C) Métodos directos:
Resolución de sistemas de ecuaciones lineales Ax=b
Factorización LU: Doolittle, Crout, Cholesky
Dependiendo de cómo se tomen L y U podemos distinguir:
Factorización de Doolittle: L con diagonal de unos.
Si los determinantes de las matrices principales son todos nonulos.
V.Álvarez
J.A. Armario
F. Muñoz
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
Factorización de Crout: U con diagonal de unos.
Factorización de Cholesky: U=LT
Aquí, adicionalmente A ha de ser simétrica y definida positiva. Es
decir, A=AT y los determinantes de las matrices principales son
todos positivos.
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
C) Métodos directos:
Resolución de sistemas de ecuaciones lineales Ax=b
Factorización LU: Doolittle, Crout, Cholesky
Factorización de Doolittle: L con diagonal de unos.
−
−=
=
10
10
0
121520
152030
203060
bA
0100152030
203060
,03003060
,060 ≠==∆≠==∆≠=∆
00
0
1
01
001
33
2322
131211
3231
21
=
=
u
uu
uuu
U
ll
lL
V.Álvarez
J.A. Armario
F. Muñoz
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
0100
121520
152030,03002030
3060,060 321 ≠==∆≠==∆≠=∆
A
uululululul
uuluulul
uuu
LU =
=
+++
++=
121520
152030
203060
3323321331223212311131
2313212212211121
131211
20,30,60 131211 === uuu3
1,
2
13121 == ll
5,5 2322 == uu132 =l
3
133 =u
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
C) Métodos directos:
Resolución de sistemas de ecuaciones lineales Ax=b
Factorización LU: Doolittle, Crout, Cholesky
Factorización de Doolittle: L con diagonal de unos.
−
−=
=
10
10
0
121520
152030
203060
bA
3
100
550
203060
113
1
012
1
001
=
= UL
0001
x
V.Álvarez
J.A. Armario
F. Muñoz
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
−
−=
≡=
10
10
0
113
1
012
1
z
y
x
L by T)0,10,0( −=c
−=
≡=
0
10
0
3
100
550
203060
z
y
x
U cx T)0,2,1( −=x
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
C) Métodos directos:
Resolución de sistemas de ecuaciones lineales Ax=b
Factorización LU: Doolittle, Crout, Cholesky
Factorización de Crout: U con diagonal de unos.
−
−=
=
10
10
0
121520
152030
203060
bA
0100152030
203060
,03003060
,060 ≠==∆≠==∆≠=∆
100
10
1
0
00
23
1312
333231
2221
11
=
= u
uu
U
lll
ll
l
L
V.Álvarez
J.A. Armario
F. Muñoz
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
0100
121520
152030,03002030
3060,060 321 ≠==∆≠==∆≠=∆
A
lulullull
ulullull
ulull
LU =
=
+++
++=
121520
152030
203060
332332133132123131
2322132122122121
1311121111
3
1,
2
11312 == uu 20,30,60 312111 === lll
123 =u5,5 3222 == ll
3
133 =l
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
Factorización de Crout: U con diagonal de unos.
C) Métodos directos:
Resolución de sistemas de ecuaciones lineales Ax=b
Factorización LU: Doolittle, Crout, Cholesky
−
−=
=
10
10
0
121520
152030
203060
bA
100
1103
1
2
11
3
1520
0530
0060
=
= UL
00060
x
V.Álvarez
J.A. Armario
F. Muñoz
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
−
−=
≡=
10
10
0
3
1520
0530
z
y
x
L by T)0,2,0( −=c
−=
≡=
0
2
0
100
110
3
1
2
11
z
y
x
U cx T)0,2,1( −=x
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
C) Métodos directos:
Resolución de sistemas de ecuaciones lineales Ax=b
Factorización LU: Doolittle, Crout, Cholesky
Factorización de Cholesky: LT=U.
−
−=
=
10
10
0
121520
152030
203060
bA
0100152030
203060
,03003060
,060 , >==∆>==∆>=∆= AAT
00
0 0
00
33
3222
312111
333231
2221
11
=
=
l
ll
lll
U
lll
ll
l
L
V.Álvarez
J.A. Armario
F. Muñoz
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
0100
121520
152030,03002030
3060,060 , 321 >==∆>==∆>=∆= AAT
A
lllllllll
llllllll
lllll
LU =
=
+++
++=
121520
152030
203060
2
33
2
32
2
31223221311131
32223121
2
22
2
211121
31112111
2
11
603
1,15,60 312111 === lll 5,5 3222 == ll 3
3
133 =l
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
C) Métodos directos:
Resolución de sistemas de ecuaciones lineales Ax=b
Factorización LU: Doolittle, Crout, Cholesky
−
−=
=
10
10
0
121520
152030
203060
bA
00060
x
Factorización de Cholesky: LT=U.
3
35
3
60
0515
0060
== TUL
V.Álvarez
J.A. Armario
F. Muñoz
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
−
−=
≡=
10
10
0
35
3
60
0515
z
y
x
L
3
by T)0,52,0( −=c
−=
≡=
0
52
0
3
300
550
3
601560
z
y
x
U cx T)0,2,1( −=x
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
C) Métodos directos:
Resolución de sistemas de ecuaciones lineales Ax=b
Factorización QR: Gram Schmidt, Householder
Se trata de descomponer la matriz de coeficientes A en la forma A=QRpara R triangular superior y Q unitaria (QTQ=I).
En estas condiciones, resolver el sistema Ax=b se reduce a resolver el
sistema triangular Rx=QTb.
Aunque esta factorización es más costosa que la LU, presenta la
V.Álvarez
J.A. Armario
F. Muñoz
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
ventaja de que preserva el condicionamiento del sistema original.
Gram Schmidt:
Consiste en encontrar una base ortonormal de las columnas de A.
La columna k+1 de Q se genera como una combinación lineal de la
columna k+1 de A y las primeras k columnas ya construidas de Q,
tal que los coeficientes de la combinación lineal favorezcan que
dicho vector sea ortogonal a los anteriormente construidos.
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
C) Métodos directos:
Resolución de sistemas de ecuaciones lineales Ax=b
Factorización QR: Gram Schmidt, Householder
−
=
−
−−
≡=
7
4
0
172
102
111
z
y
x
A bx
=
2-
2
1
3
1Q
3
2-
2
1
=
=⇒
2-
2
1
3
1)1(q
V.Álvarez
J.A. Armario
F. Muñoz
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
Gram Schmidt:
2- 2-
Consiste en encontrar una base ortonormal de las columnas de A.
La columna k+1 de Q se genera como una combinación lineal de la
columna k+1 de A y las primeras k columnas ya construidas de Q,
tal que los coeficientes de la combinación lineal favorezcan que
dicho vector sea ortogonal a los anteriormente construidos.
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
=
2-
2
1
3
1Q
C) Métodos directos:
Resolución de sistemas de ecuaciones lineales Ax=b
Factorización QR: Gram Schmidt, Householder
−
=
−
−−
≡=
7
4
0
172
102
111
z
y
x
A bx
=
2-
2
1
3
1Q
)1()2(1)2( ,2
1
30
1-
qyy ⊥
+
=λ
==⇒ 10
2
15
15 )2(
1 q,λ
)2(
)2()2(
y
yq =
=
1110-
1010
25
15
1Q
V.Álvarez
J.A. Armario
F. Muñoz
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
Gram Schmidt:
2-3
7
1115
1
Consiste en encontrar una base ortonormal de las columnas de A.
La columna k+1 de Q se genera como una combinación lineal de la
columna k+1 de A y las primeras k columnas ya construidas de Q,
tal que los coeficientes de la combinación lineal favorezcan que
dicho vector sea ortogonal a los anteriormente construidos.
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
C) Métodos directos:
Resolución de sistemas de ecuaciones lineales Ax=b
Factorización QR: Gram Schmidt, Householder
−
=
−
−−
≡=
7
4
0
172
102
111
z
y
x
A bx
)2()1()3(21)3( , ,10
2
152
1
31
1-
qqyy ⊥
+
+
=λλ
=
−=
=⇒ 5
14-
15
1
193
1
)3(1
q,λ
λ
)3(
)3()3(
y
yq =
=
1110-
1010
25
15
1Q
−
−
=
21110-
51010
1425
15
1Q
V.Álvarez
J.A. Armario
F. Muñoz
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
Gram Schmidt:
1115
2-3
1
−= 2-
15
15
192λ
Consiste en encontrar una base ortonormal de las columnas de A.
La columna k+1 de Q se genera como una combinación lineal de la
columna k+1 de A y las primeras k columnas ya construidas de Q,
tal que los coeficientes de la combinación lineal favorezcan que
dicho vector sea ortogonal a los anteriormente construidos.
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
−
−
=
21110-
51010
1425
15
1Q
C) Métodos directos:
Resolución de sistemas de ecuaciones lineales Ax=b
Factorización QR: Gram Schmidt, Householder
−
=
−
−−
≡=
7
4
0
172
102
111
z
y
x
A bx
−=
−−
≡=≡=
34
37
110
15
1
1700
19750
57545
15
1
z
y
x
QAQA TT bxbx
V.Álvarez
J.A. Armario
F. Muñoz
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
Gram Schmidt:
341700 z
T)2,1,1( −=x
Consiste en encontrar una base ortonormal de las columnas de A.
La columna k+1 de Q se genera como una combinación lineal de la
columna k+1 de A y las primeras k columnas ya construidas de Q,
tal que los coeficientes de la combinación lineal favorezcan que
dicho vector sea ortogonal a los anteriormente construidos.
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
C) Métodos directos:
Resolución de sistemas de ecuaciones lineales Ax=b
Factorización QR: Gram Schmidt, Householder
Householder:
Consiste en realizar una sucesión de simetrías para llevar las
columnas de A a una forma triangular superior.
V.Álvarez
J.A. Armario
F. Muñoz
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
Para llevar x en y basta realizar Hx-y, siempre que ||x||=||y||.
vvv
xvxxx v
><
><−=
,
,2)(Ha
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
C) Métodos directos:
Resolución de sistemas de ecuaciones lineales Ax=b
Factorización QR: Gram Schmidt, Householder
Householder:
Consiste en realizar una sucesión de simetrías para llevar las
columnas de A a una forma triangular superior.
−
=
−
−−
≡=
7
4
0
172
102
111
z
y
x
A bx
V.Álvarez
J.A. Armario
F. Muñoz
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
Para llevar x en y basta realizar Hx-y, siempre que ||x||=||y||.
vvv
xvxxx v
><
><−=
,
,2)(Ha
2-
2
2-
,
0
0
3
,3
2-
2
1)1()1()1()1(
=−=
=⇒=
yxvy
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
C) Métodos directos:
Resolución de sistemas de ecuaciones lineales Ax=b
Factorización QR: Gram Schmidt, Householder
Householder:
Consiste en realizar una sucesión de simetrías para llevar las
columnas de A a una forma triangular superior.
−
=
−
−−
≡=
7
4
0
172
102
111
z
y
x
A bx
2-
2
2-
)1(
=v
V.Álvarez
J.A. Armario
F. Muñoz
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
Para llevar x en y basta realizar Hx-y, siempre que ||x||=||y||.
vvv
xvxxx v
><
><−=
,
,2)(Ha
=
0
0
3
2-
2
1
)1(vH
=
3
4
5-
7
0
1-
)1(vH
=
5/3
1/3
1/3-
1
1
1-
)1(vH
=
1/3
10/3-
22/3
7-
4
0
)1(vH
2-
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
C) Métodos directos:
Resolución de sistemas de ecuaciones lineales Ax=b
Factorización QR: Gram Schmidt, Householder
Householder:
Consiste en realizar una sucesión de simetrías para llevar las
columnas de A a una forma triangular superior.
−=
−−
≡=
1
10
22
3
1
590
1120
1159
3
1)1()1(
z
y
x
HAH bxvv
V.Álvarez
J.A. Armario
F. Muñoz
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
Para llevar x en y basta realizar Hx-y, siempre que ||x||=||y||.
vvv
xvxxx v
><
><−=
,
,2)(Ha
159
12=
=−=
=⇒
9
3- ,
0
15)2()2()2()2( yxvy
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
C) Métodos directos:
Resolución de sistemas de ecuaciones lineales Ax=b
Factorización QR: Gram Schmidt, Householder
Householder:
Consiste en realizar una sucesión de simetrías para llevar las
columnas de A a una forma triangular superior.
−=
−−
≡=
1
10
22
3
1
590
1120
1159
3
1)1()1(
z
y
x
HAH bxvv
=
9
3- )2(v
V.Álvarez
J.A. Armario
F. Muñoz
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
Para llevar x en y basta realizar Hx-y, siempre que ||x||=||y||.
vvv
xvxxx v
><
><−=
,
,2)(Ha
=
0
15
9
12)2(
vH
=
17/5-
19/5
5
1)2(
vH
=
34/5-
37/5-
1
10-)2(
vH
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
C) Métodos directos:
Resolución de sistemas de ecuaciones lineales Ax=b
Factorización QR: Gram Schmidt, Householder
Householder:
Consiste en realizar una sucesión de simetrías para llevar las
columnas de A a una forma triangular superior.
≡= bxvvvv )1()2()1()2( HHAHH
−
−=
−
−−
34
37
110
15
1
1700
19750
57545
15
1
z
y
x
V.Álvarez
J.A. Armario
F. Muñoz
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
2
1-
1
=x)1()2( vv
HHQT =
−
− 341700 z
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
D) Sistemas superdeterminados:
Resolución de sistemas de ecuaciones lineales Ax=b
Consisten en sistemas incompatibles, con más ecuaciones que
incógnitas. Se trata de encontrar aquellos vectores x que
aproximen mejor a la solución, en tanto en cuanto hacen que el
módulo del vector diferencia Ax-b sea mínimo. Se habla de
soluciones en mínimos cuadrados. De entre ellas, la que menor
módulo tiene recibe el nombre de seudosolución.
Una manera de determinar las soluciones en mínimos
V.Álvarez
J.A. Armario
F. Muñoz
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
Una manera de determinar las soluciones en mínimos
cuadrados es mediante el uso de las ecuaciones normales,
ATAx=ATb.
Otra forma es utilizar una factorización QR de A, de manera
que las soluciones en mínimos cuadrados provienen de la
solución del sistema triangular superior que determinan las
ecuaciones no nulas de Rx=QTb. La norma del error viene dada
por la norma del vector de términos independientes que
corresponde a las ecuaciones nulas desechadas.
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
D) Sistemas superdeterminados:
Resolución de sistemas de ecuaciones lineales Ax=b
=
−−
1
2
1
22
11
11
2
1
x
x
Ecuaciones normales:
111
V.Álvarez
J.A. Armario
F. Muñoz
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
=
≡
−
−=
−−
−
−
1
1
66
66
1
2
1
211
211
22
11
11
211
211
2
1
2
1
x
x
x
x
Soluciones en mínimos cuadrados:
− t
t
6
1
Seudosolución:3
14)('
36
1
32
6
1)( 2
2
−=⇒+−=
−= ttf
tt
t
ttf
=
12
112
1
x
6
210=−= bAxε
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
D) Sistemas superdeterminados:
Resolución de sistemas de ecuaciones lineales Ax=b
=
−−
1
2
1
22
11
11
2
1
x
x
Householder:
1
+
−=
⇒
62
162
1
6
1
00
00
66
2
1
x
x
6
210
62
162
6
1=
+
−=ε
V.Álvarez
J.A. Armario
F. Muñoz
Cál
culo
�u
mér
ico
Tema 2: Resolución de sistemas lineales
Soluciones en mínimos cuadrados:
− t
t
6
1
Seudosolución:3
14)('
36
1
32
6
1)( 2
2
−=⇒+−=
−= ttf
tt
t
ttf
=
12
112
1
x
6
210=−= bAxε
6
2
1-
1
=
=−=
=⇒
2
1-
6-1
,
0
0
6)1()1()1()1( yxvy