wykład nr 3 - Poznan University of Technologyetacar.put.poznan.pl/albert.kubzdela/w_3-2014ns.pdf · Interpolacja wielomianowa Metody obliczeniowe - Budownictwo semestr 4 -3 wykład

Metody obliczeniowe

Metody obliczeniowe - Budownictwo semestr 4 - wykład nr 3 1

• wykład nr 3

– interpolacja i aproksymacja funkcji

– model regresji

Zadanie Interpolacji


Danych jest n+1 punktów (węzłowych) (x0,y0),…,(xn,yn)

poszukujemy takiej funkcji g(x)w obrębie funkcji pewnej ustalonej klasy dla której

g(xi)=yi (i=0,…,n),

mówimy wówczas iż funkcja g(x) interpoluje wartości yi w węzłach xi (i=0,…,n)

Jeśli yi= f(xi)(i=0,…,n) dla pewnej funkcji f(x) to mówimy iż funkcja g(x)

interpoluje funkcję f(x) w węzłach xi (i=0,…,n)

0

0,5

1

1,5

2

2,5

3

0 1 2 3 4 5 6

y

x

x0 x1 … xn

yn

y0

y1

…

(x1 , y1 )

Przybliżenie funkcji

skomplikowanej funkcją

„prostszą”

Interpolacja wielomianowa


Najprostszy przypadek

• interpolacja liniowa - zadanie interpolacji dla dwóch punktów (x0,y0),(x1,y1)

• rozwiązaniem w klasie wielomianów pierwszego stopnia jest funkcja liniowa, której wykres przechodzi przez punkty (x0,y0),(x1,y1)

0

0,5

1

1,5

2

2,5

3

3,5

4

4,5

0 1 2 3 4 5

(x0 , y0 )

(x1 , y1 )

(x , y )

Interpolacja wielomianowa


Wyznaczanie współczynników wielomianu interpolacyjnego poprzez rozwiązanie układu równań liniowych

n

n

nnn

n

n

n

n

yxaxaa

yxaxaa

yxaxaa

10

11110

00010

n

nn xaxaaxp ...)( 10

nn

n

nn

n

n

y

y

y

a

a

a

xx

xx

xx

......

...1

......

1

...1

1

0

1

0

11

00

0

0,5

1

1,5

2

2,5

3

0 1 2 3 4 5 6

y

x

x0 x1 … xn

yn

y0

y1

…

(x1 , y1 )

Interpolacja wielomianowa Zjawisko Rungego, wzrost stopnia wielomianu


0

0,5

1

1,5

2

2,5

3

3,5

4

0 1 2 3 4 5 6

0

0,5

1

1,5

2

2,5

3

3,5

4

0 1 2 3 4 5 6

Kubiczne funkcje sklejane


określenie funkcji sklejanych 3 stopnia (cubic spline)

x x0 x1 x2 x3 x4

f(x0)

f(x1)

f(x2)

f(x3)

f(x4) f(x)

wykresy wielomianów

stopnia co najwyżej 3 zachowana ciągłość

funkcji i jej pochodnych

do 2 stopnia włącznie

drugie pochodne

równe 0

Funkcje sklejane (spline)


Konstrukcja funkcji sklejanej • Danych n+1 punktów węzłowych (x0,f(x0)),…,(xn,f(xn))

• w każdym podprzedziale [xi-1,xi] (i=1,...,n) określamy wielomian si(x) stopnia k

• wartości w węzłach zewnętrznych spełniają warunek interpolacji :

• wartości drugich pochodnych w węzłach zewnętrznych spełniają warunek naturalności :

• w węzłach wewnętrznych wartości funkcji, wartości pierwszych pochodnych i wartości drugich pochodnych są równe są równe :

• gdy stopień wielomianu k =3 funkcje sklejane nazywać będziemy kubicznymi funkcjami sklejanymi. Wówczas

• do wyznaczenia łącznie 4n współczynników - niewiadomych

s x a b x x c x x d x x i ni i i i i i i i 2 3

0 1 1, ,...,

s x f x s x f xn n n0 0 0 1 ,

s x s xn n0 0 1 0,, ,,

s x s x f x i ni i i i i 1 1 2 1, ,...,

s x s x i ni i i i 1 1 2 1, , , , ..., s x s x i ni i i i 1 1 2 1,, ,, , , ...,

Kubiczne funkcje sklejane, a wielomiany


0

0,5

1

1,5

2

2,5

3

3,5

4

0 1 2 3 4 5 6

funkcja sklejana wielomian interpolujący

0

0,5

1

1,5

2

2,5

3

3,5

4

0 1 2 3 4 5 6

funkcja sklejana wielomian interpolujący

Interpolacja funkcji wielu zmiennych


Interpolacja dwuliniowa - rozszerzenie interpolacji liniowej. Interpolacja funkcji

dwóch zmiennych.

• złożenie dwóch interpolacji liniowych.

• przeprowadza się dwie interpolacje liniowe dla jednego kierunku (np. wzdłuż osi

OX w układzie kartezjańskim),

• następnie dla tak uzyskanych wartości przeprowadza się interpolację liniową dla

drugiego kierunku (osi OY). Interpolujemy wartość funkcji w punkcie P

• interpolacja liniowa wzdłuż osi OX:

• interpolacja liniowa wzdłuż osi OY:

Interpolacja funkcji wielu zmiennych


Interpolacja dwuliniowa - rozszerzenie interpolacji liniowej. Interpolacja funkcji

dwóch zmiennych.

Interpolacja

• powierzchnie 2-go stopnia (kwadryki)

• powierzchnie bikubiczne

• powierzchnie sklejane

Krzywe Béziera


Pierre Bézier - francuski inżynier firmy

Renault,

Paul de Casteljau - inżynier firmy Citroën.

Krzywe Béziera


• krzywa wielomianowa (Pierre Bézier 1972)

• powszechnie stosowane w programach

do projektowania inżynierskiego -

programach CAD-owskich

• Najczęściej używane są krzywe trzeciego stopnia leżące na płaszczyźnie.

• Definiując krzywą trzeciego stopnia określamy 4 punkty (tzw. punkty kontrolne) A, B, C i D, których położenie wyznacza przebieg krzywej.

– Krzywa ma swój początek w punkcie A i skierowana jest w stronę punktu B.

– Następnie zmierza w stronę punktu D dochodząc do niego od strony punktu C.

– Odcinek AB jest styczny do krzywej w punkcie A, natomiast odcinek CD jest styczny w punkcie D

• Krzywą Béziera trzeciego stopnia określa następujące równanie:

P(t)= A(1−t)3 +3Bt(1−t)2 + 3Ct2(1−t)+ Dt3 dla 0 ≤ t ≤ 1.

• Czyli:

Px(t)= A

x(1−t)3+ 3B

xt(1−t)2 + 3C

xt2(1−t) + D

xt3

Py(t)= A

y(1−t)3+ 3B

yt(1−t)2 + 3C

yt2(1−t) + D

yt3

• Krzywa ma swój początek w punkcie A (t = 0) i koniec w punkcie D (t = 1) .

Płaty Béziera


• definiowanie ogranicza się do

wskazania siatki punktów kontrolnych

• Każda siatka punktów kontrolnych

definiująca płat Bèziera posiada n

wierszy i m kolumn.

• Szczególnym przypadkiem płata

Bèziera jest postać bikubiczna (płat

jest 3 stopnia w obu kierunkach, mamy

16 punktów kontrolnych).

Zadanie aproksymacji funkcji


• dana jest funkcja (jednej zmiennej) f(x) określona na przedziale [a,b]

• funkcja f(x) może być zadana w postaci

– dyskretnej (zbioru punktów) {(xi,f(xi))}i=1,...,n

– wzoru analitycznego

xF

xF

xf

Zadanie aproksymacji: • należy dobrać taką funkcję aproksymującą F(x) spośród funkcji określonej

klasy tak aby funkcja F(x) możliwie dokładnie przybliżała przebieg funkcji (w oparciu o ustalone kryterium) aproksymowanej f(x) w określonym przedziale

Zadanie aproksymacji funkcji


x0 x1 x2

x3 x4

minimalizacja sumy

kwadratów tych

odległości

min||||0

22

m

i

ii xxff

f x

x

Metoda najmniejszych kwadratów


• Określamy współczynniki c0,...,cn tak, by wyrażenie:

– (przypadek dyskretny):

było jak najmniejsze

Metoda służąca rozwiązaniu zadania aproksymacji

średniokwadratowej – Metoda Najmniejszych Kwadratów

(Gauss – Legendre, 1806)

n

k

kkn xucccxg1

10 ,...,,

m

i

ii xgxfgf0

2

0

2

0

x f xi i i

m,

0

Mając dany zbiór funkcji bazowych {u1,…,un}

i siatkę punktów

przybliżamy funkcję f(x) funkcją aproksymującą

postaci

Układ równań

ma dokładnie jedno rozwiązanie jeśli {u1,…,un} jest liniowo niezależny

Dla dowolnych funkcji f(x),g(x) przy danej siatce węzłów {x1,…,xn} iloczynem skalarnym nazywać będziemy wyrażenie

Metoda najmniejszych kwadratów


njufuucn

i jjii ,...,1,,1

)()(:,0

i

m

i

i xgxfgf

nnnnnn

n

n

uf

uf

uf

c

c

c

uuuuuu

uuuuuu

uuuuuu

,

,

,

,,,

,,,

,,,

2

1

2

1

21

22212

12111

n

i iiucg10

Wyznaczenie funkcji aproksymującej jako kombinacji liniowej funkcji bazowych

sprowadza się do rozwiązania układu równań (wyznaczenia współczynników c1,…,cn)

Metoda najmniejszych kwadratów - przykład


• dane są wyniki pomiarów:

• należy znaleźć funkcję aproksymującą postaci: f(x)= c0 + c1x

(funkcje bazowe: 0 =1, 1 = x)

<f,0>=-2.1-0.9-0.6+0.6+0.9= -2.1

<f,1>=-2.1-0.9*3-0.6*4+0.6*6+0.9*7= 2.7

<0,0>= 5, <0,1>= 1+3+4+6+7= 21,

<1,1>= 12+32+42+62+72= 111

• otrzymujemy układ równań:

x

1

3

4

6

7

f(x)

-2.1

-0.9

-0.6

0.6

0.9

x

1

3

4

6

7

f(x)

-2.1

-0.9

-0.6

0.6

0.9

0(x)

1

1

1

1

1

1(x)

1

3

4

6

7

5053.0

5421.2

7.2

1.2

11121

215

1

0

1

0

c

c

c

c

y = 0,5053x - 2,5421

-2,5

-2

-1,5

-1

-0,5

0

0,5

1

1,5

0 2 4 6 8

Model regresji - wprowadzenie


• dane są dane eksperymentalne, wyniki pomiarów

• celem pomiarów wykrycie i opisanie za pomocą funkcji

analitycznych zależności y=f(x1,...,xn) miedzy

niezależnymi parametrami (zmiennymi objaśniającymi)

x1,...,xn oraz parametrem od nich zależnym y (zmienną

objaśnianą)

– wykrycie istnienia zależności – korelacja

– ustalenie postaci funkcji która ją opisuje – regresja

• zadanie wyznaczenia modelu regresji polega na

– wyznaczeniu konkretnej zależności funkcyjnej np.

• regresja jednowymiarowa: zależność funkcyjna y=f(x)

• jednowymiarowa regresja liniowa: zależność funkcyjna y= a0 +a1x

– zbadaniu narzędziami rachunku prawdopodobieństwa „jakości”

wyznaczonego modelu regresji



0

2

4

6

8

10

12

14

0 2 4 6 8 10 12 14

y

x

wykres rozrzutu

x y

1 1

2 2

3 3

4 4

5 5

6 5

7 7

8 8

9 8

10 10

11 11

12 11

13 13

• dane parametry x,y • poszukiwana

zależność funkcyjna: y= a0 + a1x

0

2

4

6

8

10

12

14

0 2 4 6 8 10 12 14

y

x

poszukiwany model regresji

• próbka nr 1

współczynnik korelacji 0,96



y = 0,967x współczynnik korelacji 0,96

0

2

4

6

8

10

12

14

0 2 4 6 8 10 12 14

y

x

wykres rozrzutu - empiryczna linia regresji

x y

1 1

2 2

3 3

4 4

5 5

6 5

7 7

8 8

9 8

10 10

11 11

12 11

13 13


zależność funkcyjna: y= a0 + a1x

• próbka nr 1




zależność funkcyjna: y= a0 +a1x

0

2

4

6

8

10

12

14

0 2 4 6 8 10 12 14

y

x

model regresji

• próbka nr 2 x y

1 3

2 9

3 5

4 4

5 10

6 6

7 7

8 2

9 8

10 10

11 1

12 5

13 10

0

2

4

6

8

10

12

0 2 4 6 8 10 12 14

y

x

wykres rozrzutu

współczynnik korelacji = 0,11




zależność funkcyjna: y= a0 +a1x

0

2

4

6

8

10

12

14

0 2 4 6 8 10 12 14

y

x

model regresji

• próbka nr 2 x y

1 3

2 9

3 5

4 4

5 10

6 6

7 7

8 2

9 8

10 10

11 1

12 5

13 10

y = 0,0879x + 5,5385 współczynnik korelacji = 0,11

0

2

4

6

8

10

12

0 2 4 6 8 10 12 14

y

x

wykres rozrzutu - empiryczny model regresji

Korelacja liniowa


Dane dwie zmienne losowe X, Y reprezentujące 2 parametry

współczynnik korelacji liniowej mierzy siłę zależności między

zmiennymi X, oraz Y tworzącymi dwuwymiarową zmienną losową

• przyjmuje wartości z przedziału [- 1,1]

• im wartość współczynnika bliższa krańcom przedziału, tym związek

korelacyjny silniejszy

• współczynnik Pearsona – współczynnik korelacji liniowej w próbie

(zależy od liczebności próby)

0

0,5

1

1,5

2

2,5

3

0 0,5 1 1,5 2 2,5

n

i i

ii

i

n

i

ii

n

i

n

i

n

i

iiii

yynxxn

yxyxn

r

1

22

1

22

1

2

1

2

1 1 1

Model regresji liniowej


Dwie 2 zmienne X,Y :

• poszukujemy zależności liniowej pomiędzy zmiennymi X i Y:

xbby 10

nixbby iii ,...,1,10

-0,5

0

0,5

1

1,5

2

2,5

0 0,5 1 1,5 2 2,5

Metoda najmniejszych kwadratów - metoda estymacji parametrów modelu regresji

– wyznaczenie takich parametrów b0, b1 że suma kwadratów odchyleń (SSE)

pomiędzy rzeczywistymi a teoretycznymi wartościami zmiennej Y jest

najmniejsza

min)())((1

2

10

1

2

n

i

ii

n

i

ii xbbyxyySSE

Regresja liniowa badanie jakości wyznaczonego modelu


współczynnik determinacji (R2) – informuje jaka część zmiennej Y jest wyjaśniona poprzez oszacowane równanie

regresji przez zaobserwowane w próbie zmiany wartości zmiennych objaśniających

– przyjmuje wartości z zakresu od 0 do 1, gdy

• R2=1 : dane leżą dokładnie na „linii" regresji (zmienność jest wyjaśniona w 100 %);

• R2=0 : regresja niczego nie wyjaśnia, dane są nieskorelowane;

• 0,9 R2 <1 : bardzo dobre,

• 0,8 R2 < 0,9 : dopasowanie dobre,

• 0,7 R2 < 0,8 : dopasowanie zadawalające w niektórych zastosowaniach.

Regresja liniowa


x y

1 1

2 2

3 3

4 4

5 5

6 5

7 7

8 8

9 8

10 10

11 11

12 11

13 13

Próbka 1

x y

1 2

2 3

3 4

4 5

5 5

6 7

7 8

8 8

9 10

10 11

11 11

12 11

13 13

Próbka 2

0

2

4

6

8

10

12

14

0 2 4 6 8 10 12 14y

x

linia regresji wyznaczona na podstawie próbki 1

Regresja liniowa


x y

1 1

2 2

3 3

4 4

5 5

6 5

7 7

8 8

9 8

10 10

11 11

12 11

13 13

Próbka 1

x y

1 2

2 3

3 4

4 5

5 5

6 7

7 8

8 8

9 10

10 11

11 11

12 11

13 13

Próbka 2

• teoretyczna linia regresji (odnosząca się do populacji generalnej):

• empiryczne równanie regresji (równanie regresji w próbce):

• aproksymując teoretyczną prostą regresji za pomocą empirycznego

równania, wyznaczamy współczynniki b0,b1 dla konkretnej próby

xbby 10

0

2

4

6

8

10

12

14

0 2 4 6 8 10 12 14y

x

linia regresji wyznaczona na podstawie próbki 2

Regresja liniowa


• weryfikacja statystyczna

– testy istotności dla parametrów regresji

– analiza reszt (reszty winny mieć

rozkład normalny)

0 1 2 3 4 5 6

-4

-2

0

2

4

6

8

10

12

14

16

18

20

22

y=3.1x-0.1

1-=0.80

1-=0.98

Y

X

• wyznaczenie obszaru (pasa) ufności

• przyjmując określony poziom ufności p=1- (np. p=0,95) obszarem ufności nazywamy obszar w którym z prawdopodobieństwem równym poziomowi ufności znajduje się nieznana teoretyczna linia regresji

Regresja liniowa - przykład


Dokonano analizy próbek gruntu, mierząc na różnych głębokościach procentową zawartość piasku – analiza przy użyciu MS Excel

0

10

20

30

40

50

60

70

80

0 20 40 60 80 100 120 140%

[cm]

Nr próbki głębokość [cm]

% zawartości

piasku w próbce

1 0 75

2 15 58

3 30 59

4 45 57

5 60 52

6 75 54

7 90 36

8 105 42

9 120 32

Regresja liniowa - przykład


Dokonano analizy próbek gruntu, mierząc na różnych głębokościach procentową zawartość piasku – analiza przy użyciu MS Excel

y = -0,2989x + 69,6 R² = 0,8627

0

10

20

30

40

50

60

70

80

0 20 40 60 80 100 120 140%

[cm]

Nr próbki głębokość [cm]

% zawartości

piasku w próbce

1 0 75

2 15 58

3 30 59

4 45 57

5 60 52

6 75 54

7 90 36

8 105 42

9 120 32

Regresja liniowa – przykład 2


Dokonano analizy próbek gruntu, badano zależność dwóch parametrów –

stopnia plastyczności i spójności gruntu (zależność wyznaczono w

oparciu 72 próby i 12 prób)

y = -32,478x + 35,799 R² = 0,825

y = 32,787x2 - 81,201x + 51,129 R² = 0,8926

-10

-5

0

5

10

15

20

25

30

35

40

0 0,2 0,4 0,6 0,8 1 1,2 1,4

stopień plastyczności - spójność

72 próby

Regresja liniowa – przykład 2


Dokonano analizy próbek gruntu, badano zależność dwóch parametrów –

stopnia plastyczności i spójności gruntu (zależność wyznaczono w

oparciu 72 próby i 12 prób)

y = -44,623x + 43,103 R² = 0,3408

15

20

25

30

35

40

0,2 0,25 0,3 0,35 0,4 0,45 0,5 0,55 0,6

stopień plastyczności - spójność

12 prób

Funkcje SciLaba


• interp() – obliczenie wartości interpolującej funkcji sklejanej

• interp2d(), interp3d() – interpolacja funkcjami sklejanymi

• interpln() – rozwiązanie zadania interpolacji liniowej na płaszczyźnie

• lsq() – rozwiązanie równania postaci AX=B metodą najmniejszych kwadratów

• lsq_spline() – aproksymacja średniokwadratowa sześcienną funkcją sklejaną

• linear_interpn() – rozwiązanie zadania n-wymiarowej interpolacji liniowej

• splin(), splin2d(), splin3d() – obliczenie współczynników funkcji sklejanej, interpolującej podane punkty węzłowe

• reglin(), regress() – wyznaczenie współczynników regresji liniowej

Podsumowanie

Aproksymacja i interpolacja, pojęcie modelu regresji


• Zadanie interpolacji • interpolacja wielomianowa

• wzór Lagrange’a, postać macierzy Lagrange’a, • wzór Lagrange’a dla węzłów równoodległych, • wzór Interpolacyjny Newtona.

• Funkcje sklejane • własności funkcji sklejanych 3 stopnia (cubic spline)

• Krzywa Béziera • Aproksymacja – ogólna postać zadania aproksymacji. • Zadanie aproksymacji liniowej

• pojęcie funkcji bazowych, • postać rozwiązania • układ równań liniowych nadokreślony • wygładzanie funkcji

• Zadanie aproksymacji średniokwadratowej: • metoda najmniejszych kwadratów

• iloczyn skalarny funkcji, • funkcje ortogonalne, • własności wielomianów Czebyszewa.

• Zadanie aproksymacji jednostajnej: • sformułowanie zadania • Twierdzenie Weierstrassa

Podsumowanie

Aproksymacja i interpolacja, pojęcie modelu regresji


• Model regresji • opisanie problemu, • podstawowe pojęcia statystyki: populacja generalna, jednostka statystyczna, cechy

statystyczne, próbka, badanie częściowe, • pojęcie zmiennej losowej i jej realizacji, • teoretyczna linia regresji, a empiryczne równanie regresji, • badanie korelacji na podstawie realizacji próby,

• sposób wyznaczenia równania regresji metodą najmniejszych kwadratów • miary jakości przyjętego modelu regresji

• wariancja resztkowa • współczynnik determinacji

• weryfikacja statystyczna przyjętego modelu regresji • obszary ufności i predykcji

• Modele nieliniowe regresji – sprowadzanie do modelu liniowego

Documents

wykład nr 3 - Poznan University of Technologyetacar.put.poznan.pl/albert.kubzdela/w_3-2014ns.pdf · Interpolacja wielomianowa Metody obliczeniowe - Budownictwo semestr 4 -3 wykład