sistemeliniare.pdf

8/18/2019 sistemeliniare.pdf

1/39

Metode pentru rezolvarea sau aproximarea solu̧tiilorsistemelor de ecua̧tii liniare

Norme de vectori şi norme de matrici

Fie m ∈ N ∗. Pe spa̧tiul Rm se consideră normele vectoriale uzuale · 1, · 2 şi · ∞ definite prin

x1 =m

i=1

|xi| ;

x2 =

m

i=1 |xi|2 ;

x∞ = max1≤i≤m

|xi| , ∀ x = (xi)1≤i≤m ∈ Rm.

Fie M m(R) spaţiul matricelor cu m linii şi m coloane cu elemente din R. Pe M m(R)

se pot considera norme definite ca norme de operator liniar

Aαβ := supxα≤1

Axβ, ∀ A ∈ Mm(R)

unde · α şi · β sunt norme pe Rm. În cazul în care α = β notăm Aα := Aααşi o numim norma α a matricei A (subordonată normei vectoriale · α).

Propozi̧tia -1.1 Fie A = (aij)1≤i,j≤m ∈ M m(R). Atunci A1 = max1≤ j≤m

mi=1

|aij|.

Propoziţia -1.2 Fie A = (aij)1≤i,j≤m ∈ M m(R). Atunci A∞ = max1≤i≤m

m j=1

|aij |.

Propoziţia -1.3 Fie A ∈ M m(R). Atunci A2 =

ρ(AtA), unde ρ(AtA) reprezint ̆ a

cea mai mare valoare proprie a matricei At

A.

Exemplul -1.1 Fie

A =

1 −2 34 −5 67 −8 9

1


2/39

Atunci

A1 = max1≤ j≤3

3i=1

|aij | =

= max (|1| + |4| + |7| , |−2| + |−5| + |−8| , |3| + |6| + |9|) = max (12, 15, 18) = 18şi

A∞ = max1≤i≤3

3 j=1

|aij | =

= max (|1| + |−2| + |3| , |4| + |−5| + |6| , |7| + |−8| + |9|) = max (6, 15, 24) = 24.

Condiţionarea unui sistem de ecuaţii liniare

Fenomenul de instabilitate manifestat în diverse procese matematice este important

de studiat , dat fiind limitările tehnicii de calcul sau ale măsurătorilor de unde provin

datele de calcul. Un exemplu cum este cel care urmează scoate în evidenţă existenţa

unui astfel de fenomen şi motiva̧tia studiului său.

Exemplul -1.2 Fie sistemul de ecuaţii Ax = b unde

A =

10 7 8 7

7 5 6 5

8 6 10 9

7 5 9 10

b =

32

23

33

31

cu solu ̧tia x =

1

1

1

1

Consider ̆ am sistemul perturbat A(x + δx) = b + δb unde

A =

10 7 8 7

7 5 6 5

8 6 10 9

7 5 9 10

b + δb =

32, 1

22, 9

33, 1

30, 9

2


3/39

cu solu ̧tia x + δx =

9, 2

−12, 64, 5

−1, 1

(1)

Consider ̆ am şi sistemul perturbat (A + ∆A)(x + ∆x) = b unde

A + ∆A =

10 7 8, 1 7, 2

7, 08 5, 04 6 5

8 5, 98 9, 89 9

6, 99 4, 99 9 9, 98

b =

32

23

33

30

cu soluţia x + ∆x =

−81137

−3422

(2)

Sistemul (1) diferă de cel iniţial printr-o ”mică” variaţie a coloanei termenilor liberi,

iar sistemul (2) printr-o ”mică” varia̧tie a elementelor matricei. După cum se observă

aceste ”mici” varia̧tii antrenează după sine varia̧tii ”mari” ale solu̧tiei ini̧tiale.

Exemplul -1.3 Dac ̆ a consider ̆ am sistemul perturbat (A +∆A)(x + ∆x) = b + ∆b unde

A + ∆A =

10 7 8, 1 7, 2

7, 08 5, 04 6 5

8 5, 98 9, 89 9

6, 99 4, 99 9 9, 98

b + ∆b =

32, 1

22, 9

33, 1

30, 9

atunci acesta are solu ̧tia x + ∆x =

332, 90

−550, 49143, 88

−84, 58

(3)

3


4/39

În legătură cu această problemă de stabilitate a sistemelor de ecuaţii liniare sunt

cunoscute următoarele rezultate:

Defini̧tia -1.1 Fie A o matrice nesingular ̆ a şi o norm ̆ a a matricei A. Num ̆ arul cond(A) := A · A−1 se nume ̧ste indice de condi ̧tionare al matricei A relativ la norma .

Teorema -1.1 Fie sistemul de ecua ̧tii liniare Ax = b şi sistemul perturbat A(x+δx) =

b + δb. Presupunem b = 0. Atunci

δxx ≤

cond(A)· δbb

. (4)

şi δxx ≥

1

cond(A) · δbb

În plus exist ̆ a b = 0 şi δb = 0 astfel încât inegalitatea (4) s ̆ a devin ̆ a egalitate.

Teorema -1.2 Fie sistemul de ecua ̧tii liniare Ax = b şi sistemul perturbat (A +

∆A)(x + ∆x) = b. Atunci

∆xx + ∆x ≤ cond(A) ·

∆AA . (5)

În plus exist ̆ a b = 0 şi ∆A = 0 astfel încât inegalitatea (5) s ̆ a devin ̆ a egalitate.

Teorema -1.3 Fie sistemul de ecuaţii liniare Ax = b şi sistemul perturbat (A +

∆A)(x + ∆x) = b + ∆b. Dac ̆ a A−1∆A


5/39

x∞ = 1.

Atunci δx∞x∞ =

13, 6

1 = 13, 6

A−1 =

25 −41 10 −6−41 68 −17 1010 −17 5 −3−6 10 −3 2

A∞ = 33, A−1∞ = 136.

Rezultă că

cond(A) := A∞ ·A−1

∞ = 33 · 136 = 4488

Avem

δb∞ = b + δb − b∞ = 0, 1.

b∞ = 33..

Atunciδb∞b∞ =

0, 1

33 =

1

330

şi

cond(A) · δb∞b∞ = 4488 · 1

330 = 13, 6

Deci δx∞x∞ = cond(A) ·

δb∞b∞

5


6/39

Exemplul -1.5 Fie sistemul de ecuaţii Ax = b unde

A =

10 1 4 0

1 10 5 −

1

4 5 10 7

0 −1 7 9

b =

15

15

26

15

cu solu ̧tia x =

1

1

1

1

Consider ̆ am sistemul perturbat A(x + δx) = b + δb unde

A =

10 1 4 0

1 10 5 −14 5 10 7

0 −1 7 9

b + δb =

16

16

25

16

cu soluţia x + δx =

832

1324

−24072021

Exemplul -1.6 Un alt exemplu de matrici cu un indice de condi ̧tionare mare sunt

matricele Hilbert (H n) de ordinul n, definite astfel:

H n = (h(n)ij )i,j=1,n cu h

(n)ij =

1

i + j − 1 , ∀ i, j = 1, n

Astfel cond1(H 3) = 748, cond1(H 4) = 28375, cond1(H 5) = 943656, cond1(H 6) =

29070279, cond1(H 7) = 985194886, cond1(H 8) = 33872791095, cond1(H 10) = 35357439251992 =

3.5357439251992·1013, cond1(H 20) = 6.283579684317887·1028, cond1(H 50) = 4.330343748573601·

1074

, cond1(H 100) = 1.267220787492374 · 10151

.

Exemplul -1.7 Fie A( p) = (a( p)ij )i,j=1,n ∈ Mn(N) cu a( p)ij = C i−1 p+ j−1, ∀ i, j = 1, n.Notam cu B ( p) = (b( p)ij )i,j=1,n = A( p)

−1 inversa matricei A( p). Avem

b( p)ij = (−1)i+ j ·n− jk=0

C k p+k−1C i−1k+ j−1 ∀i, j = 1, n

6


7/39

(cu conventia C 0−1 = 1 si C sr = 0 pentru r < s sau s cond ∞(H 10) = 3.5357439251992

·1013.

Metode directe

Metoda lui Gauss (cu pivotare parţială)

Se dau m ∈N∗ şi A = (aij) ∈ M m,m+1(R). Fie sistemul de ecuaţii liniarea11x1 + · · · + a1mxm = a1,m+1. . . . . . . . . . . . . . .

am1x1 + · · · + ammxm = am,m+1

cu necunoscutele x1, . . . , xm ∈ R. Metoda lui Gauss este folosită atât pentru deter-minarea soluţiei sistemului, cât şi pentru calculul determinantului matricei sistemului..

Sistemul dat se transformă în m − 1 etape astfel:Ini̧tial se consideră determinantul matricei sistemului det = 1

Pentru n între 1 şi m − 1 se efectuează următoarele:

• Se determină max = |asn| = maxn≤i≤m

|ain| (s ∈ n, m reprezintă poziţia pe care s-agăsit maximul).

• Se ia piv = asn (elementul asn se numeşte pivot).

• Dacă piv = 0, atunci metoda nu se aplică.

• det = det · piv.

7


8/39

• Dacă s = n, atunci det = (−1) · det şi se permută ecua̧tia s cu ecuaţia n.

• Coeficieņtii ecua̧tiei n se împart la piv .

• Pentru ∀i ∈ n + 1, m se elimină xn din ecuaţia i astfel: aij = aij − ain · anj,∀ j ∈ m + 1, n.

Procedând astfel se ob̧tine un sistem de forma:

xi +m

j=i+1

aijx j = ai,m+1, 1 ≤ i ≤ m − 1

ammxm = am,m+1

(6)

Determinantul matricei sistemului se calculează astfel: det = det · amm.Dacă amm = 0, atuci metoda nu se aplică.

Se rezolvă sistemul (6) astfel:

• xm = am,m+1/am,m;

• xi = ai,m+1 −m

j=i+1

aijx j, ∀ i ∈ m − 1, 1.

Exemplul -1.8 Fie sistemul de ecuaţii liniare x + 1

2y + 1

3z = 1

12

x + 13

y + 14

z = 2

13

x + 14

y + 15

z = 3

S ̆ a se calculeze determinantul matricei sistemului şi s ̆ a se rezolve sistemul cu metoda

lui Gauss.

Folosind transformările date de metoda lui Gauss, ob̧tinem următorul sistem de

ecuaţii: x + 1

2y + 1

3z = 1

y + z = 18

1180

z = 76

8


9/39

Calculăm determinantul matricei sistemului (tot cu algoritmul dat de metoda lui

Gauss) det = 12160

şi rezolvăm sistemul anterior. Obţinem z = 210, y = −192, x = 27.Observa̧tie: Alegerea pivotului ca cel mai mare element de pe coloană se face

pentru a minimiza erorile care apar dacă pivotul are valori mici. Dacă considerăm

sistemul de ecua̧tii liniare x + 592y = 437592x + 4308y = 2251şi dacă considerăm că lucrăm numai cu 4 cifre exacte, atunci prin alegerea pivotului

elementul 1,prin metoda lui Gauss se obţine solu̧tia

x = −1, 6128, y = 0, 7409

iar prin alegera pivotului elementul 592, prin metoda lui Gauss se obţine solu̧tia

x = −1, 5891, y = 0, 7409

pe când soluţia exactă a sistemului este

x = −1.58889055801431, y = 0.74085961242908.

Metoda lui Gauss (cu pivotare totală)

Se dau m ∈N∗ şi A = (aij) ∈ M m,m+1(R). Fie sistemul de ecuaţii liniare

a11x1 + · · · + a1mxm = a1,m+1. . . . . . . . . . . . . . .

am1x1 + · · · + ammxm = am,m+1cu necunoscutele x1, . . . , xm ∈ R. La metoda lui Gauss cu pivotare totală căutareapivotului se face în toată matricea rămasă de transformat (reamintim că, la pivotarea

paŗtială, pivotul se caută numai pe prima coloană a matricei rămase de transformat).

Sistemul dat se transformă în m − 1 etape astfel:

9


10/39

Ini̧tial se consideră determinantul matricei sistemului det = 1

Pentru n între 1 şi m − 1 se efectuează următoarele:

• Se determină max = |a ps| = maxn≤i,j≤m

|aij| (s, p ∈ n, m reprezintă indicii de poziţieai maximului determinat).

• Se ia piv = a ps (elementul a ps se numeşte pivot)


• det = det

· piv.

• Dacă p = n sau s = n (dar nu p = s = n), atunci det = (−1) · det şi se permutăcoloana s cu coloana n (dacă p = n) sau linia p cu linia n (dacă s = n). Dacă

p = n şi s = n se permută linia p cu linia n şi apoi coloana s cu coloana n.

• Ecuaţia n se împarte la piv.

• Pentru

∀i

∈ n + 1, m se elimină xn din ecuaţia i astfel: aij = aij

− ain

· anj,

∀ j ∈ m + 1, n.

Procedând astfel se ob̧tine un sistem de forma:

xi +m

j=i+1

aijx j = ai,m+1, 1 ≤ i ≤ m − 1

ammxm = am,m+1

(7)

Determinantul matricei sistemului se calculează astfel: det = det·

amm.

Dacă amm = 0, atuci metoda nu se aplică.

Se rezolvă sistemul (7) astfel:

• xm = am,m+1/am,m;

10


11/39

• xi = ai,m+1 −m

j=i+1

aijx j, ∀ i ∈ m − 1, 1.

unde (x1, . . . , xm) este o permutare a soluţiei (x1, . . . , xm) sistemului ini̧tial (după

cum s-au permutat coloanele matricei iniţiale în procesul de transformare a sistemului).

Exemplul -1.9 Folosind metoda lui Gauss cu pivotare total ̆ a, s ̆ a se rezolve sistemul

de ecua ̧tii liniare:

5x + y + 2z = 29

3x − y + z = 10x + 2y + 4z = 31

(8)

S ̆ a se calculeze şi determinantul matricei sistemului.

Folosind transformările date de metoda lui Gauss cu pivotare totală, obţinem ur-

mătorul sistem de ecua̧tii:

x + 2

5z +

1

5y =

29

5

z + 1

2y = 7

−32

y = −6

Calculăm determinantul matricei sistemului (tot cu algoritmul dat de metoda lui

Gauss) det = −27 şi rezolvăm sistemul anterior. Ob̧tinem z = 5, y = 4, x = 3.

Metoda lui Gauss-Jordan de calcul a inversei unei matrice

Se dau m ∈ N ∗ şi matricea

A =

a11 . . . a1m

... ...

...

am1 . . . amm

11


12/39

Metoda lui Gauss-Jordan este folosită pentru determinarea inversei matricei A (dacă

aceasta există). Se consideră ansamblul matriceal compus din matricea A şi matricea

unitate I m a11 . . . a1m

... ...

...

am1 . . . amm

1 . . . 0

... ...

...

0 . . . 1

Ansamblul anterior se transformă (analog metodei Gauss - cu pivotare parţială sau

totală) astfel:

Pentru n între 1 şi m se efectuează următoarele:

• Se determină pivotul piv ca la metoda lui Gauss de rezolvare a unui sistem deecuaţii liniare cu pivotare parţială (analog se poate descrie un algoritm folosind

metoda lui Gauss cu pivotare totală).


• Dacă s

= n, atunci se permută ecuaţia s cu ecuaţia n.

• Ecua̧tia n se împarte la piv.

• Pentru ∀ i ∈ n + 1, m se elimină xn din ecuaţia i astfel: aij = aij − ain · anj,∀ j ∈ 2m, n.

Procedând astfel se obţine un ansamblu matricial de forma:

1 a12 . . . a1m

0 1 . . . a2m...

... . . .

...

0 0 . . . 1

a1,m+1 a1,m+2 . . . a1,2m

a2,m+1 a2,m+2 . . . a2,2m...

... . . .

...

am,m+1 am,m+2 . . . am,2m

(matricea din partea dreaptă are cel puţin n(n − 1)/2 zerouri).

12


13/39

Pentru n între m şi 2 se efectuează următoarele:

• Pentru ∀ i ∈ n − 1, 1 se recalculează elementele aij astfel: aij = aij − ain · anj,

∀ j ∈ 2m, n.

Precedând astfel se ob̧tine un ansamblu matricial de forma:

1 0 . . . 0

0 1 . . . 0

... ...

. . . ...

0 0 . . . 1

b11 b12 . . . b1m

b21 b22 . . . b2m...

... . . .

...

bm1 bm2 . . . bmm

.

Matricea

B =

b11 b12 . . . b1m

b21 b22 . . . b2m...

... . . .

...

bm1 bm2 . . . bmm

are liniile matricei inverse A−1 modulo permutarea liniilor descrisă în algoritm.

Rezolvarea unui sistem de ecua̧tii liniare Ax = b este echivalentă, după ce s-a

calculat inversa matricei A, cu egalitatea x = A−1b.

Exemplul -1.10 Folosind metoda Gauss-Jordan s ̆ a se calculeze inversa matricei

A =

1 12

13

12

13

14

1

3

1

4

1

5

Formăm ansamblul matriceal1 1

213

12

13

14

13

14

15

1 0 0

0 1 0

0 0 1

13


14/39

Cu transformările din algoritm ob̧tinem:

1 12

13

0 1 10 0 1

1 0 0

−6 12 030 −180 180

iar, în final, 1 0 0

0 1 0

0 0 1

9 −36 30−36 192 −18030 −180 180

Deci

A−1 =

9 −36 30

−36 192 −18030 −180 180

Factorizarea LU

Se numeşte factorizare LU a unei matrice A descompunerea matricei ca produs de

două matrici, una inferior triunghiulară (notată L), alta superior triunghiulară (notată

U ), adică A = LU. Descompunerea, dacă este posibilă, nu este unică.

Teorema -1.4 Fie A = (aij )1≤i,j≤m o matrice astfel încât determinanţii "de colţ"

∆k := det((aij )1≤i,j≤k) s ̆ a fie nenuli, pentru orice k = 1, m. Atunci A se descompune

unic sub forma A = LU cu L = (lij )1≤i,j≤m inferior triunghiular ̆ a şi U = (uij)1≤i,j≤m

superior triunghiular ̆ a cu elementele diagole egale cu 1.

Calculul elementelor matricelor L şi U se face după formulele:

li1 = ai1, i = 1, m , u11 = 1, u1 j = a1 jl11

, j = 2, m. (9)

14


15/39

iar, pentru k = 2, m,

lik = aik −k−1 p=1

lipu pk, i = k, m, ukk = 1, ukj =

akj −k−1

p=1lkpu pj

lkk , j = k + 1, m. (10)

Fie un sistem de ecuaţii liniare Ax = b, pentru care A admite factorizare LU. Atunci

soluţia y a sistemului Ly = b se determină astfel:

yi =

bi −i−1k=1

likyk

lii∀i = 1, m

Soluţia x a sistemului iniţial se determină astfel:

xi = yi −m

k=i+1

uikxk ∀i = m, 1

Exemplul -1.11 S ̆ a se factorizeze sub forma LU matricea

A =

2 4 −2 0−1 −1 2 3

4 5 −2 −90 1 3 4

Se verifică mai întâi că determinanţii de coļt ai matricei A sunt nenuli. Cu formulele

(9) şi (10) se obţine:

l11 = 2, l21 = −1, l31 = 4, l41 = 0

u11 = 1, u12 = 2, u13 = −1, u14 = 0

l22 = 1, l32 = −3, l42 = 1

u22 = 1, u23 = 1, u24 = 3

l33 = 5, l43 = 2

u33 = 1, u34 = 0

15


16/39

l44 = 1

u44 = 1

Deci

L =

2 0 0 0

−1 1 0 04 −3 5 00 1 2 1

, U =

1 2 −1 00 1 1 3

0 0 1 0

0 0 0 1

Metoda rădăcinii pătrate (Cholesky)

Defini̧tia -1.2 O matrice A = (aij)1≤i,j≤m se numeşte simetric ̆ a dac ̆ a A = At. Ma-

tricea A este pozitiv definit ̆ a dac ̆ a determinanţii "de colţ" ∆k := det((aij)1≤i,j≤k) sunt

strict pozitivi pentru orice k = 1, m.

Teorema -1.5 Fie A simetric ̆ a şi pozitiv definit ̆ a. Atunci A se descompune unic sub

forma A = L·

Lt cu L = (lij)1≤i,j≤m inferior triunghiular ̆ a.

Fie sistemul de ecuaţii liniare Ax = b, cu A = (aij) ∈ M m(R) simetrică şi pozitivdefinită, iar b = (bi) ∈ Rm.

Descompunem A = L · Lt cu L = (lij) ∈ M n(R) matrice superior triunghiulară. Sedetermină mai întâi y = (yi) ∈ Rn soluţia sistemului de ecuaţii Ly = b şi apoi solu̧tiax = (xi) ∈ Rn a sistemului iniţial se determină prin rezolvarea sistemului Ltx = y.

Se calculează elementele matricei L astfel:

l jj =

a jj −

j−1k=1

l2 jk şi lij =aij −

j−1k=1

likl jk

l jj, ∀i = j + 1, m, ∀ j = 1, m

(11)

16


17/39

Soluţia y a sistemului Ly = b se determină astfel:

yi =

bi −i−1

k=1likyk

lii ∀i = 1, m (12)

Soluţia x a sistemului iniţial se determină astfel:

xi =

yi −m

k=i+1

lkixk

lii∀i = m, 1 (13)

Dacă matricea A nu este simetrică şi pozitiv definită, dar este inversabilă, atunci

sistemul de ecuaţii liniare Ax = b se transformă în sistemul echivalent AtAx = Atb, a

cărui matrice este simetrică şi pozitiv definită.

Exemplul -1.12 Folosind metoda r ̆ ad ̆ acinii p˘ atrate, s ̆ a se rezolve sistemul de ecua ̧tii

liniare Ax = b cu

A =

4 2 2

2 10 4

2 4 6

, b =

8

16

12

Se verifică imediat că matricea A este simetrică şi pozitiv definită. Cu formulele

(11) se obţine

l11 = 2, l12 = 1, l13 = 1

l22 = 3, l23 = 1

l33 = 2

Din (12) rezultă că

y1 = 4, y2 = 4, y3 = 2

iar din (13) rezultă că

x3 = 1, x2 = 1, x3 = 1.

Descompunerea QR

17


18/39

Se consideră date m ∈ N∗, A = (aij)i,j=1,m ∈ Mm(R) şi b = (bi)i=1,m ∈ Rm. Vomcalcula solu̧tia x = (x1, . . . , xm) ∈ Rm a sistemului Ax = b şi determinantul matriceisistemului folosind factorizarea QR.

Factorizarea QR a matricei A însemnă descompunerea A = QR cu Q matrice

ortogonală, adică QQt = QtQ = Im şi R matricea superior triunghiulară.

Dacă notăm Q = (q ij ) cum

k=1

q ikq jk = δ ij şim

k=1

q kiq kj = δ ij pentru i, j = 1, m şi

R = (rij) cu rij = 0 pentru 1 ≤ j < i ≤ m, atunci din identificarea A = QR se obţinrelaţiile următoare:

r11 =

a211 + · · · + a2m1 ,

q i1 = ai1r11

, pentru i = 1, m

şi pentru k = 2, m avem:

r jk =m

i=1

aikq ij , pentru j = 1, k − 1

rkk = mi=1

a2ik −k−1i=1

r2ik ,

q ik = 1

rkk

aik −

k−1 j=1

r jk q ij

, pentru i = 1, m .

(14)

Rezolvarea sistemului după descompunerea matricei A în produs QR se face astfel:

- rezolvăm întâi sistemul Qy = b a cărui solu̧tie este

y = Qtb,

sau pe componente:

yi =m

j=1

q jib j , i = 1, m.

18


19/39

- apoi, rezolvăm sistemul triunghiular Rx = y , şi ob̧tinem:

xm = ymrmm

,

xi = 1riiyi − m

j=i+1

rij x j , i = m − 1, 1 . (15)Observaţie. Descompunerea QR nu există dacă există un k ∈ 1, m astfel încât

rkk = 0 în (14) sau (15).

Exemplul -1.13 Pentru m = 3 , matricea A =

0 4 5

−1 −2 −30 0 1

şi vectorul b =

23

−143

,

rezolva ̧ti sistemul Ax = b folosind o descompunere QR.

Folosind rela̧tiile de mai sus obţinem:

Q =

0 1 0

−1 0 00 0 1

şi R =

1 2 3

0 4 5

0 0 1

,

iar pentru soluţie

y = Qtb =

0 −1 01 0 0

0 0 1

23

−143

=

14

23

3

,iar din Rx = y rezultă:

x =

1

2

3

.

Metode iterative de rezolvare a sistemelor de ecuaţii liniare

Metoda lui Jacobi

19


20/39

Fie m ∈ N ∗, A ∈ M m(R), b ∈ Rm.Considerăm sistemul de ecuaţii liniare Ax = b. Notăm cu I matricea unitate din

M m(R) şi cu B := I −

A. Sistemul de ecuaţii Ax = b se transformă echivalent astfel:

Ax = b ⇐⇒ (I − B)x = b ⇐⇒ x = Bx + b.

Pentru orice x(0) ∈ Rm definim şirul (numit şir Jacobi) (x(n))n∈N prin relaţia de re-curenţă

x(n+1) = Bx(n) + b, ∀ n ∈ N

Fie

· o normă pe M m(R). Dacă

B

= q


21/39

1 şi ∞) pentru sistemul de ecuaţii liniare Ax = b cu

A =

0, 9 0, 1 0, 2 0, 3

−0, 2 0, 8 0, 1 0, 40, 1 −0, 3 0, 7 −0, 1

−0, 3 −0, 2 −0, 1 0, 9

; b =

3, 6

22, 4

1, 5

.

Luând x(0) =

0

0

0

0

s ̆ a se determine num ̆ arul de iteraţii necesar pentru a aproxima

solu ̧tia sistemului cu o eroare mai mic ̆ a de 10−10.

Avem

B = I − A =

0, 1 −0, 1 −0, 2 −0, 30, 2 0, 2 −0, 1 −0, 4

−0, 1 0, 3 0, 3 0, 10, 3 0, 2 0, 1 0, 1

Atunci

B1 = max1≤ j≤4

4i=1

|bij| = 0, 9 < 1.,

şi

B∞ = max1≤i≤4

4 j=1

|bij| = 0, 9 < 1

Deci metoda lui Jacobi se aplică. Din formula de evaluare a erorii avem:

x(n) − x p ≤ q n

1 − q x(1) − x(0) p, ∀ n ∈ N∗

unde p = 1 sau p = ∞, q = 0, 9, x(1) = Bx(0) + b = b. Deci, pentru a aproxima x cux(n) cu eroarea ε = 10−10 este suficient ca q

n

1−qx(1) − x(0) p < ε. Avem

x(1) − x(0)1 = b1 = 9, 5

21


22/39

şi

x(1) − x(0)∞ = b∞ = 3, 6

Atunci q n

1 − q x(1) − x(0)1 < ε ⇐⇒ n =

log0,9ε

95

+ 1

şiq n

1 − q x(1) − x(0)∞ < ε ⇐⇒ n =

log0,9ε

36

+ 1

Metoda lui Jacobi pentru matrice diagonal dominante pe linii

Fie m ∈ N ∗

, A ∈ M m(R), a ∈ Rm

.Considerăm sistemul de ecuaţii liniare Ax = a. Notăm cu I matricea unitate din

M m(R) şi cu

D = diag(A) =

a11 0 · · · 00 a22 · · · 0

· · · · · · · · · · · ·0 0 · · · amm

.

Spunem că A este diagonal dominantă pe linii dacă

|aii| >

j=1,m j=i

|aij | , ∀i ∈ 1, m

Atunci aii = 0, ∀i ∈ 1, m, deci D este inversabilă. Not̆am cu B = I − D−1A şi cub = D−1a. Sistemul de ecuaţii Ax = a se transformă echivalent astfel:

Ax = a⇐⇒

D−1Ax = D−1a⇐⇒

(I −

B)x = b⇐⇒

x = Bx + b.

Pentru orice x(0) ∈ Rm definimm şirul (x(n))n∈N prin relaţia de recurenţă

x(n+1) = B x(n) + b, ∀ n ∈ N.

22


23/39

Teorema -1.6 Fie A o matrice diagonal dominant ̆ a pe linii, B = I −D−1A, q := B∞şi (x(n))n∈N definit ca mai sus. Atunci q i=1,m i= j

|aij| , ∀ j ∈ 1, m

Atunci aii = 0, ∀i ∈ 1, m, deci D este inversabilă. Notăm cu y = Dx (deci x = D−1y),şi cu B = I − AD−1. Sistemul de ecuaţii Ax = a se transformă echivalent astfel:

Ax = a⇐⇒AD−1y = a⇐⇒(I − B)y = a⇐⇒y = By + a.

Pentru orice y (0) ∈ Rm definimm şirul (y(n))n∈N prin relaţia de recurenţă

y(n+1) = By(n) + a, ∀ n ∈ N.

Teorema -1.7 Fie A o matrice diagonal dominant ̆ a pe coloane, B = I − AD−1, q :=B1 şi (y(n))n∈N definit ca mai sus. Atunci q


24/39

Fie m ∈ N ∗, A ∈ M m(R), b ∈ Rm.Considerăm sistemul de ecuaţii liniare Ax = b. Notăm cu I matricea unitate din

M m(R) şi cu B := I −

A. Dacă elementele matricei B sunt (bij)1≤i,j≤m, descompunem

B sub forma B = L + R, cu L = (lij)1≤i,j≤m, unde lij := bij, ∀ 1 ≤ j < i ≤ m şi lij := 0altfel. Atunci det(I − L) = 1 şi deci există (I − L)−1.

Sistemul de ecuaţii Ax = b se transformă echivalent astfel:

Ax = b⇐⇒(I − B)x = b⇐⇒(I − L − R)x = b⇐⇒

⇐⇒(I − L)−1(I − L − R)x = (I − L)−1b⇐⇒(I − (I − L)−1R)x = (I − L)−1b⇐⇒

⇐⇒x − (I − L)−1Rx = (I − L)−1b.

Dacă notăm C := (I − L)−1R şi c := (I − L)−1b atunci

Ax = b⇐⇒x = Cx + c.

Pentru orice x(0) ∈ C m definim şirul Jacobi (x(n))n∈N prin relaţia de recurenţă

x

(n+1)

= C x

(n)

+ c⇐⇒x(n+1)

= Lx

(n+1)

+ Rx

(n)

+ b, ∀ n ∈ N

Deci

x(n+1)1 =m

j=1

b1 j x(n) j + b1, ∀ n ∈ N şi

x(n+1)i =i−1

j=1

bijx(n+1) j +

m j=i

bijx(n) j + bi, ∀ 2 ≤ i ≤ m, ∀ n ∈ N.

Teorema -1.8 Dac ̆ a q := max1≤i≤m q i cu q 1 =

m j=1 |b1 j|, q i =

i−1 j=1 |bij |q j +

m j=i |bij |, 2 ≤ i ≤ m

şi q


25/39

Algoritm: Dacă A = (aij)1≤i,j≤m, b = (bi)1≤i≤m, x(n) = (x(n)i )1≤i≤m, ∀ n ∈ N,

atunci bij = −aij dacă i = j, bii = 1 − aii, ∀ 1 ≤ i, j ≤ m. Se calculează q . Setestează condi̧tia de aplicabilitate a metodei q


26/39

Metoda relaxării simultane

Fie m ∈ N ∗, A ∈ M m(R) simetrică şi pozitiv definită, a ∈ Rm.

Considerăm sistemul de ecuaţii liniare Ax = a. Notăm cu I matricea unitate dinM m(R) şi cu D = diag(A). Atunci D inversabilă. Fie σ > 0 un număr real. Notăm

cu C σ := I − σD−1A şi cu cσ := σD−1a. Sistemul de ecua̧tii Ax = a se transformăechivalent astfel:

Ax = a ⇐⇒ σD−1Ax = σD−1a ⇐⇒ (I − C σ)x = cσ ⇐⇒ x = C σx + cσ.

Pentru orice x(0)

∈ Rm definim şirul Jacobi (x(n))n∈N prin relaţia de recureņtă

x(n+1) = C σx(n) + cσ, ∀ n ∈ N

Fie λ1 ≥ λ2 ≥ . . . ≥ λm valorile proprii ale matricei D−1A. Dacă alegem σ astfel încât0 < σ


27/39

Dacă matricea A a sistemului de ecuaţii liniare Ax = a nu este simetriică şi pozitiv

definită, sistemul se transformă echivalent

Ax = a ⇐⇒ AtAx = Ata

(unde At = (a ji)1≤i,j≤m este transpusa matricei A), pentru care matricea AtA este

simetrică şi pozitiv definită.

Se va lua σ ∈ (0, t) cu t = 2/D−1A∞ parcurgând intervalul cu pasul h = t/p,unde p ∈N∗ este dat.

Algoritm: Dacă A = (aij)1≤i,j≤m, a = (ai)1≤i≤m, B = D−1A = (bij)1≤i,j≤m,

b = D−1a = (bi)1≤i≤m, C σ = (cij )1≤i,j≤m, cσ = (ci)1≤i≤m, x(n) = (x(n)i )1≤i≤m, ∀ n ∈ N,atunci bij = aij /aii, bi = ai/aii, ∀ 1 ≤ i, j ≤ m, t = 2/( max

1≤i≤m

m j=1

|bij|). Se va luaσ ∈ (0, t) cu t = 2/D−1A∞ parcurgând intervalul cu pasul h = t/p, unde p ∈ N∗

este dat:

Pentru 1 ≤ k ≤ p − 1 se ia σ = k · h, se calculează cij = −σbij dacă i = j,cii = 1 − σbii, ci = σbi, ∀ 1 ≤ i, j ≤ m. Se atribuie iteratei ini̧tiale x(0) o valoareoarecare din Rm, iar calculul celorlalte iterate se face după formula:

x(n+1)i =

m j=1

cijx(n) j + ci, ∀ 1 ≤ i ≤ m, ∀ n ∈ N.

Se oprȩste calculul recursiv la iterata x(n+1) pentru care

x(n+1) − x(n)D = m

i=1

aii|x(n+1)i − x(n)i |2 ≤ ε.

La fiecare pas se rȩtine n numărul de iterate efectuat.Se determină parametrul optim de relaxare (este acela pentru care numărul de

iteraţii este minim).

27


28/39

Exemplul -1.16 Fie sistemul de ecuaţii liniare:

5x1 + 3x2 + 2x3 = 1

3x1 + 6x2 + 3x3 = 22x1 + 3x2 + 5x3 = 3

S ̆ a se arate c ̆ a se poate aplica metoda relax ̆ arii simultane. S ̆ a se determine parametrul

optim de relaxare. Luând x(0) = (0, 0, 0) s ̆ a se evalueze eroarea x − x(n).

Soluţie: Notăm cu A matricea sistemului. Se verifică că A este simetrică şi pozitiv

definită.

Fie D = diag(A). Atunci

D−1A =

1 3/5 2/5

1/2 1 1/2

2/5 3/5 1

şi det(D−1A − λI ) = 0 ⇐⇒ (1 − λ)3 − 19

25(1 − λ) + 6

25 = 0, de unde rezultă că valorile

proprii ale matricei D−1A sunt λ1 = 2 > λ2 = 3/5 > λ3 = 2/5. Parametrul optim de

relaxare este

σ = 2

λ1 + λ3=

5

6

căruia îi corespunde

q = λ1 − λ3λ1 + λ3

= 2

3.

Avem x(1) = C σx(0) + cσ = cσ = σD−1b = 5/6 · (1/5; 2/6; 3/5)t unde b = (1; 2;3)t estevectorul termenilor liberi din sistem. Atunci

x(1)2D =

Dx(1), x(1)

= 2

3 · 25

9

şi

x(n) − xD ≤ q n

1 − q x(1) − x(0)D = 5 ·

2

3

n+12

.

28


29/39

Metode relaxării succesive

Fie m ∈ N ∗, A ∈ M m(R) simetrică şi pozitiv definită şi b ∈ Rm.

Considerăm sistemul de ecua̧tii liniare Ax = b şi σ > 0 un număr real numit

parametru de relaxare. Notăm cu I matricea unitate din M m(R) şi cu D = diag(A).

Atunci D inversabilă. Dacă elementele matricei A sunt (aij)1≤i,j≤m, descompunem A

sub forma B = L + D + R, cu L = (lij)1≤i,j≤m, unde lij := aij, ∀ 1 ≤ j < i ≤ m şilij := 0 altfel. Atunci matricea σ−1D + L este inversabilă,iar sistemul de ecuaţii Ax = b

se transformă echivalent astfel:

Ax = b ⇔ (σ−1D + L)−1(L + D + R)x = (σ−1D + L)−1b ⇔

(I − (σ−1D + L)−1((σ−1 − 1)D − R))x = (σ−1D + L)−1b

Notând cu C σ := (σ−1D + L)−1((σ−1 − 1)D − R) şi cu cσ := (σ−1D + L)−1b rezultă că

Ax = b ⇔ x = C σx + cσ.

Pentru orice x(0)

∈ Rm definim şirul Jacobi (x(n))n∈N prin relaţia de recureņtă

x(n+1) = C σx(n) + cσ, ∀ n ∈ N

Atunci

x(n+1) = C σx(n) + cσ ⇔

⇔ x(n+1) = (σ−1D + L)−1((σ−1 − 1)D − R)x(n) + b) ⇔

⇔ σ−1

Dx

(n+1)

= −Lx(n+1)

+ ((σ

−1

− 1) − R)x(n)

+ b ⇔⇔ x(n+1) = (1 − σ)x(n) − σD−1(Lx(n+1) + Rx(n) − b) ⇔

x(n+1)i = (1 − σ)x(n)i −

σ

aii(−bi +

i−1 j=1

aij x(n+1) j +

m j=i+1

aijx(n) j ), ∀1 ≤ i ≤ m (16)

29


30/39

Dacă alegem σ astfel încât 0 < σ < 2, şi notăm q := C σA atunci q


31/39

Metoda lui Ritz

Este o metoda de calcul a inversei unei matrice simetrice şi poyitiv definite. Fie A ∈

M m(R) o matrice simetrică şi pozitiv definită. Not̆am cu ∗ opera̧tia de transpunere (aunui vector sau a unei matrice). Definim succesiv vectorii (wk)mk=0 ⊂ Rm, (vk)mk=1 ⊂ Rm

şi matricele (C k)mk=1, (Dk)mk=1 ⊂ M m(R) astfel:

w0 = 0, C 1 = w0w∗0

w∗0Aw0, D1 = I m − C 1A

iar pentru k = 1, m − 1:

Se alege vk astfel ca Dkvk = 0,wk = Dkvk.

C k+1 := C k + wkw∗kw∗kAwk

,

Dk+1 := I m − C k+1A,

Atunci C m = A−1 (inversa matricei A) şi Dm = 0m.

Exemplul -1.17 Fie A =

1 2 3 4

2 5 1 10

3 1 35 5

4 10 5 30

. Folosind metoda lui Ritz s ̆ a se cal-

culeze A−1.

Se verifică mai întâi că matricea A este simetrică şi pozitiv definita. Luăm w0 =

(1, 0, 0, 0)∗. Atunci w∗0

Aw0

= 1 şi

C 1 =

1 0 0 0

0 0 0 0

0 0 0 0

0 0 0 0

, D1 =

0 −2 −3 −40 1 0 0

0 0 1 0

0 0 0 1

.

31


32/39

Luăm v1 = (0, 1, 0, 0)∗. Rezultă că w1 = (−2, 1, 0, 0)∗ şi w∗1Aw1 = 1, de unde

C 2 =

5 −2 0 0

−2 1 0 00 0 0 0

0 0 0 0

, D2 =

0 0 −13 0

0 0 5 −20 0 1 0

0 0 0 1

.

Luăm v2 = (0, 0, 1, 0)∗. Rezultă că w2 = (−13, 5, 1, 0)∗ şi w∗2Aw2 = 1, de unde

C 3 =

174 −67 −13 0−67 26 5 0

−13 5 1 00 0 0 0

, D3 =

0 0 0 39

0 0 0 −17

0 0 0 −30 0 0 1

.

Luăm v3 = (0, 0, 0, 1)∗. Rezultă că w3 = (39, −17, −3, 1)∗ şi w∗3Aw3 = 1, de unde

C 4 =

1695 −730 −130 39−730 315 56 −17−130 56 10 −3

39 −17 −3 1

, D4 =

0 0 0 0

0 0 0 0

0 0 0 0

0 0 0 0

.

Pseudoinversa unei matrice

Pseudoinversa unei matrice este o extensie naturală a no̧tiunii de matrice inversabilă.

Se poate defini pseudoinversa atât pentru matrici pătratice (singulare sau nesingu-

lare - caz în care pseudoinversa coincide cu inversa) cât şi pentru matrici dreptunghi-

ulre (în care numărul de linii diferă de numărul de coloane). Pentru o matrice T ∈

M m,n(R),notăm cu T ∗

∈ M n,m(R) transpusa matricei T şi cu T +

∈ M n,m(R) pseudoin-versa matricei matricei T.

Prin defini̧tie T + este singura soluţie U ∈ M n,m(R) a sistemului de ecuaţii ma-triceale:

T U T = T, U T U = U, (T U )∗ = T U, (UT )∗ = U T. (17)

32


33/39

Teorema -1.9 Fie T ∈ M m,n(R) şi b ∈ Rm.a) x0 din Rn verific ̆ a egalitatea

T x0 − b = inf x∈Rn T x − b (18)

dac ̆ a şi numai dac ̆ a T ∗T x0 = T ∗b.

b) Elementul x0 := T +b verific ̆ a egalitatea (18) şi, pentru orice alt element x0 ce verific ̆ a aceeaşi egalitate, avem x0 ≤ x0.

Reciproc, T + este unica solu ̧tie U ∈ M n,m(R)a problemei: Ub satisface egalitatea (18) pentru orice b ∈ Rm, iar pentru orice alt element x0, care verific ̆ a aceea ̧si egalitate,

avem Ub ≤ x0.

Prin această teoremă, în cazul unui sistem de ecuaţii liniare T x = b compatibil

nedeterminat, rezultă că T +b este o soluţie a acestui sistem (anume cea mai mică soluţie

în normă), iar, în cazul unui sistem incompatibil, T +b este acel element x, minim în

normă, pentru care T x − b este cel mai aproape de 0.În continuare presupunem că rang T = l ≤ min(m, n). Cu R(A) am notăm imaginea

matricei A ∈ M m,n(R), adică muļtimea {Ax | x ∈ Rn}.Determinarea pseudoinversei unei matrice se poate face cu algoritmi cu un număr

de paşi mai mic sau egal cu l. În această categorie intră următorii algoritmi

• (Grigore) Definim succesiv vectorii (yk)lk=1 ⊂ X , (wk)lk=1 ⊂ Rn şi matricele(H k)lk=0 ⊂ M n,m(R) astfel:

H 0 = 0.

yk ∈ R(T ∗) (adică în imaginea transpusei), astfel ca yk − H k−1T yk = 0,

wk := yk − H k−1T yk şi

H k := H k−1 + wk(T wk)

∗

T wk2 , ∀k = 1, l.

33


34/39

Atunci H l = T + (pseudoinversa matricei T ).

Exemplul -1.18 Fie

T =

1 0 −10 1 0

1 1 −11 2 −1

cu rang (T ) = 2 şi H 0 = 0.

Luăm y1 = T ∗ ∗

1

00

0

= 1

0

−1 (avem y1 − H 0T y1 = y1 = 0. Atunci w1 =

y1 − H 0T y1 = y1 şi T w1 =

2

0

2

2

. Rezultă că T w12 = 12, iar w1(T w1)∗ =

2 0 2 2

0 0 0 0

−2 0 −2 −2

. Deci

H 1 = H 0 + w1(T w1)

∗

T w12 =

1/6 0 1/6 1/6

0 0 0 0

−1/6 0

−1/6

−1/6

.

Luăm y2 = T ∗ ∗

0

1

0

0

=

0

1

0

(avem y2 − H 1T y2 =

−1/21

1/2

= 0. Atunci

34


35/39

w2 = y2 − H 1T y2 şi T w2 =

−11

0

1

. Rezultă că T w22 = 3, iar w2(T w2)∗ =

1/2 −1/2 0 −1/2−1 1 0 1

−1/2 1/2 0 1/2

. Deci

H 2 = H 1 +

w2(T w2)∗

T w22 =

1/3 −1/6 1/6 0

−1/3 1/3 0 1/3−1/3 1/6 −1/6 0

În concluzie

T + = H 2 =

1/3 −1/6 1/6 0

−1/3 1/3 0 1/3−1/3 1/6 −1/6 0

• (Gramm-Schmidt) Fie o bază e1, e2, . . . , el în R(T ∗) şi fie f i = T ei, ∀ i = 1, l.Definim, succesiv, elementele (ei)

li=1, (xi)

li=1 ⊂ Rn, (f i )li=1(yi)li=1 ⊂ Rm, astfel:

x1 = 1

f 1e1 şi y1 = T x1,

iar pentru i = 2, l

ei = ei −i−1

j=1f i, y j x j, f i = T ei şi xi =

1

f i

ei, yi = T xi

Definim matricea U ∈ Mn,m(R) prin

U :=l

i=1

xiy∗i

Atunci U = T +.

35


36/39

Exemplul -1.19 Fie

T =

1 0 −1

0 1 0

1 1 −11 2 −1

cu dim R(T ∗) = 2

Luând e1 = (1;0; −1)∗, e2 = (0; 1;0)∗ (baz ̆ a în R(T ∗)) obţinem f 1 = (2;0;2;2)∗, f 2 =(0;1;1;2)∗. Atunci

x1 = 1

2√

3(1; 0;−1)∗, y1 = 1√

3(1;0;1;1)∗

În continuare

e2 = e2 − f 2, y1 x1 = 1

2(−1;2;1)∗ şi f 2 = T e2 = (−1;1;0;1)∗

Atunci

x2 = 1

2√

3(−1;2;1)∗, y2 = 1√

3(−1;1;0;1)∗

Rezult ̆ a c ̆ a

T + = x1y∗1 + x2y

∗2 =

1

6

2 −1 1 0

−2 2 0 2−2 1 −1 0

• (Stanica) Definim, succesiv, vectorii (uk)l−1k=0 ⊂ Rm, (vk)l−1k=0 ⊂ Rn, (wk)l−1k=0 ⊂ Rm

şi matricele (H k)lk=1 ⊂ M n,m(R) astfel:

H 0 = T ∗

.

vk ∈ R((I − T H k)∗T ), wk ∈ R(H k) astfel încît vk, T wk = 0,

uk := 1

vk, T wk(I − H kT )wk şi

H k+1 := H k + uk · v∗k, ∀k = 0, l − 1.

36


37/39

Atunci H l = T +.

Exemplul -1.20 Fie

T =

1 0 −10 1 0

1 1 −11 2 −1

cu rang (T ) = 2 şi H 0 = T ∗

Luând a1 =

1

0

0

, b1 =

1

0

0

0

ob̧tinem v0 := (I − T H 0)∗T a1 =

−5−3−8−11

,

w0 = H 0b1 =

1

0

−1

, u0 := 1v0, T w0 (I − H 0T )w0 =

5/48

1/8

−5/48

,

H 1 := H 0 + u0 · v∗0 =

23/48 −5/16 1/6 −7/48−5/8 5/8 0 5/8

−23/48 5/16 1/6 7/48

Luând a2 =

0

1

0

, b2 =

0

1

0

0

obţinem v1 := (I − T H 1)∗T a2 =

7/8

−7/80

−7/8

, w1 =

37


38/39

H 1b2 =

−5/165/8

5/16

, u1 := 1

v1, T w1(I − H 1T )w1 =

−1/61/3

1/6

, deci

T + = H 2 := H 1 + u1 · v∗1 =

1/3 −1/6 1/6 0

−1/3 1/3 0 1/3−1/3 1/6 −1/6 0

.Exemplul -1.21 Fie sistemul de ecua ̧tii liniare T x = b, unde

T =

1 0

−1

0 1 0

1 1 −11 2 −1

cu rang (T ) = 2 şi b =

0

1

1

2

(acest sistem este compatibil nedetreminat). Atunci

z = T +b = 1/3 −1/6 1/6 0

−1/3 1/3 0 1/3−1/3 1/6 −1/6 0

0

1

1

2

=

0

1

0

este o solu ̧tie a sistemului (compatibil nedeterminat) de ecua ̧tii liniare T x = b.

Exemplul -1.22 Fie sistemul de ecua ̧tii liniare T x = b, unde

T =

1 0

−1

0 1 0

1 1 −11 2 −1

cu rang (T ) = 2 şi b =

1

0

0

0

38


39/39

(acest sistem este incompatibil). Atunci

z = T +b = 1/3

−1/6 1/6 0

−1/3 1/3 0 1/3−1/3 1/6 −1/6 0

1

0

0

0

= 1/3

−1/3−1/3

are proprietatea c ̆ a

T z − b = inf x∈Rn

T x − b

.

39

Documents

sistemeliniare.pdf