Jerzy Mieścicki, Wstęp do Informatyki, część 3 1

Dwie sprawy wymagające wyjaśnienia:

• Czy obliczenie musi koniecznie przebiegać w jakichś krokach ?

Model obliczeń sekwencyjnych,

Maszyna Turinga, Hipoteza Churcha-Turinga,

Analogowa i cyfrowa reprezentacja informacji,

Obliczenia analogowe i cyfrowe.

• Jeżeli już istotnie przebiega ‘krokowo’, to jakie elementarne kroki są dopuszczalne?

Wstęp do Informatyki, część 3

Dr inż. Jerzy MieścickiInstytut Informatyki PW

Analogowa i cyfrowa reprezentacja informacji

Jerzy Mieścicki, Wstęp do Informatyki, część 3 3

Informatyka

Reprezentowanie informacji

Potrzeby:

• Zapisywanie, przechowywanie, wyszukiwanie, odtwarzanie,

• Przesyłanie, rozpowszechnianie,

• Przetwarzanie.

Stąd:

• Metody,

• Nośniki, kanały,

• Urządzenia.

Analogowe (ciągłe, proporcjonalne)

Cyfrowe(nieciągłe, dyskretne)

Jerzy Mieścicki, Wstęp do Informatyki, część 3 4

Reprezentacja analogowa (ciągła, proporcjonalna)

Mierzalna wielkość fizyczna

Inna wielkość fizyczna

Inna wielkość fizyczna

Oryginał Analog Liniowe

odwzorowanie

Przechowywanie,przetwarzanie,przesyłanie itd.

Przechowywanie,przetwarzanie,przesyłanie itd.

Wynikowawielkośćfizyczna

Wynik (analogowy

Wynik (analogowy

proporcjonalność

Odwzorowanieodwrotne

odtwarzanie

Jerzy Mieścicki, Wstęp do Informatyki, część 3 5

‘Nie-elektroniczne’ obliczenia analogowe w życiu codziennym

• Domowe pomiary i obliczenia przy użyciu sznurka,

• Szkolne techniki typu ‘cyrkiel + linijka’,

• Mapa, globus,

• Waga uchylna (lub szalkowa bez odważników),

• Różne wykresy i nomogramy,

• Pantograf (powiększanie rysunków),

• Suwak logarytmiczny,

• ....

Jerzy Mieścicki, Wstęp do Informatyki, część 3 6

Wynalazek Edisona jako reprezentacja analogowa

Zmienne w czasie ciśnienie akustyczne

Głębokość rowka

Postulowana proporcjonalnoś

ć (liniowość)

...ideał osiągalny w praktyce jedynie w przybliżeniu

Oryginał

Analog

Jerzy Mieścicki, Wstęp do Informatyki, część 3 7

Analogowe przesyłanie dźwięku (Alexander G. Bell)

Sygnał akustyczn

y

Sygnał elektryczny

Sygnał akustyczn

y

Wzmacniacz Wzmacniacz

• Te same typowe problemy Jakie fizyczne zasady przekształcania ? Jak zapewnić dokładność przekształcania (czułość, szum) ? Jak zapewnić liniowość odwzorowania ?

Jerzy Mieścicki, Wstęp do Informatyki, część 3 8

Analogowy pomiar prędkości obrotowej

min

maxWał obrotowy

maszyny parowej

Jerzy Mieścicki, Wstęp do Informatyki, część 3 9

Analogowa regulacja prędkości obrotowej (James Watt)

min

max

Dopływ pary

Silnik parowySilnik

parowy

Sprzężenie zwrotne, zagadnienie stabilności

Jerzy Mieścicki, Wstęp do Informatyki, część 3 10

Sygnały i analogowa elektronika

Nieelektryczne: Prędkość, Masa, Temperatura, Wilgotność, Ciśnienie, Stężenie (pewnej

substancji) Itd.

Sygnały: zmienne w czasie wielkości fizyczne:

• Elektryczne: Napięcie, natężenie

prądu, Oporność,

pojemność, ... Natężenie pola

elektromagn. itd. Sygnały biomedyczne, radarowe,

geo- i astrofizyczne, itd.

Czujniki(sensory)

Napięcie,Natężenie prądu,Natężenie polaIndukcja magn. Itd.

Analogowe wielkości elektryczne:

Elementy wykonawcze

Jerzy Mieścicki, Wstęp do Informatyki, część 3 11

Sygnały i analogowa elektronika

Nieelektryczne: Prędkość, Masa, Temperatura, Wilgotność, Ciśnienie, Stężenie (pewnej

substancji) Itd.

Sygnały: zmienne w czasie wielkości fizyczne:

• Elektryczne: Napięcie, natężenie

prądu, Oporność,

pojemność, ... Natężenie pola

elektromagn. itd.

Czujniki(sensory)

Napięcie,Natężenie prądu,Natężenie polaIndukcja magn. Itd.

Analogowe wielkości elektryczne:

Elementy wykonawcze

Wspólna baza koncepcyjna i

technologiczna

Jerzy Mieścicki, Wstęp do Informatyki, część 3 12

Analogowa elektronika

Uniwersalne metody i układy do celów:

• Rejestracji (zapamiętywanie i odtwarzanie),

• Przesyłania,

• Wizualizacji,

• Przetwarzania: Wzmacnianie Sumowanie Całkowanie Różniczkowanie Modulacja i demodulacja Automatyczna regulacja ....

Typowe, wspólne problemy:

•dokładność,•szum,•liniowość,•stabilność, a także: •szybkość, •niezawodność, •pobór mocy

Jerzy Mieścicki, Wstęp do Informatyki, część 3 13

Reprezentacja cyfrowa (nieciągła, dyskretna)

• Określony jest alfabet danego sposobu reprezentacji, Alfabet ::= co najmniej dwuelementowy, skończony zbiór

symboli, Symbole – atomowe (elementarne, niepodzielne),

• Wszelkie informacje (dane, wyrażenia, instrukcje, ...) są ciągami (sekwencjami) złożonymi z symboli tego alfabetu,

• Przetwarzanie ::= przekształcanie sekwencji symboli w nowe sekwencje symboli. Ponieważ dane są ciągami – przetwarzanie również ma

postać ciągu kroków.

Jerzy Mieścicki, Wstęp do Informatyki, część 3 14

Przykłady alfabetów

• {0, 1, 2, ...., 9, + -, .} – trzynastoelementowy alfabet do reprezentowania liczb arabskich,

• {I, V, X, L, C, D, M} – do liczb rzymskich,

• 26 – literowy alfabet łaciński (antiqua, duże litery),

• (2 x 35) – literowe ‘abecadło’ polskie (litery duże i małe),

• 123 – znakowy (wliczając spację, ale nie znaki sterujące) alfabet polskiej klawiatury PC,

• Alfabet pisma klinowego, hieroglificznego egipskiego, cyrylica, alfabet hebrajski, gruziński, tajski ... i zapewne parę tysięcy innych,

Jerzy Mieścicki, Wstęp do Informatyki, część 3 15

Przykłady alfabetów

• Ale także pełnoprawnymi alfabetami są:

{ |, >, * } – alfabet do przedstawiania stopni podoficerskich i oficerskich w polskim wojskach lądowych, np.

| | - kapral, > - sierżant, * * * | | - pułkownik, itd.

{czerwone, żółte, zielone} – do sygnalizacji ulicznej, np.

‘wyrazy’ poprawne ‘wyrazy’ niepoprawne

Jerzy Mieścicki, Wstęp do Informatyki, część 3 16

.... I oczywiście reprezentacja dwójkowa (binarna)

• Najprostszy alfabet np. {0, 1}, {L, H}, {tak, nie}, {+, -},

• Najmniejsza niepewność przy zapamiętywaniu i odtwarzaniu informacji,

• Najprostsza realizacja techniczna (elementarne układy dwustanowe, a nie wielo-stanowe),

• Gotowe i czekające od stuleci koncepcyjne narzędzie do opisu, analizy i syntezy: logika dwuwartościowa. Arystoteles – V wiek p.n.e, W średniowieczu i czasach nowożytnych – nauka o

zasadach poprawnego formułowania myśli i poprawnego wnioskowania,

George Boole: 1856 – algebra Boole’a Claude Shannon: 1938 – o zastosowaniu algebry Boole’a do

syntezy układów przekaźnikowych, (Później, w 1948 r., wspólnie z Christopherem Weaverem – matematyczna ‘teoria komunikacji’).

Jerzy Mieścicki, Wstęp do Informatyki, część 3 17

Alfabet, składnia, semantyka

• Oprócz alfabetu muszą być określone są: Składnia (reguły rządzące budową poprawnych sekwencji), Semantyka (reguły określające znaczenie poprawnych

sekwencji).

• Np.

• A – alfabet łaciński (ze spacją), ‘Ala ma kota’ – ciąg składniowo poprawny (w języku polskim), ‘Ala ma kota’ – ciąg składniowo niepoprawny (w języku angielskim), ‘Ala am kota’ – ciąg niepoprawny (w języku polskim),

(Względy leksykalne) ‘Ala ma siedzi’ – ciąg niepoprawny (w języku polskim),

(Względy składniowe)

Jerzy Mieścicki, Wstęp do Informatyki, część 3 18

Dalsze przykłady

leksykalnie poprawne leksykalnie niepoprawne

Poprawna ‘wypowiedź’ świateł ulicznych

cykl cykl

‘wypowiedź’ składniowo niepoprawna

Jerzy Mieścicki, Wstęp do Informatyki, część 3 19

Zbiór A*, język, gramatyka

• Dany pewien alfabet A,

• A* - zbiór nad alfabetem A,

• A* jest zbiorem wszystkich możliwych (skończonych) ciągów, które dają się utworzyć z symboli należących do A,

• A* jest zbiorem nieskończonym, przeliczalnym,

A*

L

• Każdy podzbiór L A*, jest językiem,

• ... być może nieskończonym,

Jak przy pomocy skończonej liczby reguł opisać zasady• generowania poprawnych sekwencji,• rozpoznawania, czy dana sekwencja jest poprawna.

gramatyka

Lingwistyka matematyczna

Jerzy Mieścicki, Wstęp do Informatyki, część 3 20

Sygnały i analogowa elektronika

Nieelektryczne: Prędkość, Masa, Temperatura, Wilgotność, Ciśnienie, Stężenie (pewnej

substancji) Itd.

Sygnały: zmienne w czasie wielkości fizyczne:

• Elektryczne: Napięcie, natężenie

prądu, Oporność,

pojemność, ... Natężenie pola

elektromagn. itd.

Czujniki(sensory)

Napięcie,Natężenie prądu,Natężenie polaIndukcja magn. Itd.

Analogowe wielkości elektryczne:

Elementy wykonawcze

Wspólna baza koncepcyjna i

technologiczna

Jerzy Mieścicki, Wstęp do Informatyki, część 3 21

Cyfrowe przetwarzanie sygnałów

Nieelektryczne

Sygnały: zmienne w czasie, ciągłe wielkości

fizyczne:

Elektryczne

Czujniki(sensory)

Elementy wykonawcze

Analogowe wielkości

elektryczne

Konwersja AC

Konwersja AC

Konwersja CA

Konwersja CA

Cyfrowe przetwarzanie

sygnałów

Cyfrowe przetwarzanie

sygnałów

Jerzy Mieścicki, Wstęp do Informatyki, część 3 22

Konwersja A-C (ang. A-D, Analog to Digital)

• Konieczna dyskretyzacja: w czasie = próbkowanie

(sampling), co stały czas , na osi wartości – z założoną

dokładnością.

• Tutaj – sekwencja:

5, 6, 7, 8, 8, 7, 5, 3, 3,....

z dokładnością ±10%

t

u(t)

9876543210

umin

umax

Jerzy Mieścicki, Wstęp do Informatyki, część 3 23

Potencjalne zniekształcenie konwersji

• Odtworzony z powrotem sygnał

5, 6, 7, 8, 8, 7, 5, 3, 3,....

• Trzeba zapewnić właściwą dyskretyzację zarówno ‘w pionie’, jak ‘w poziomie’.

t

u(t)

9876543210

umin

umax

Jerzy Mieścicki, Wstęp do Informatyki, część 3 24

Dyskretyzacja ‘w pionie’ i ‘w poziomie’

• ‘W pionie’: zejść poniżej progu dokładności źródła sygnału lub czułości odbiorcy sygnału, Podział na 1000 poziomów – dokładność 0.1%, Konwersja 8 - bitowa – dokładność 1/256 = ok. 0.4%, Konwersja 16–bitowa – dokładność 2-16 = ok. 0.0015 % , Itd.

• ‘W poziomie’ – próbkowanie – okazuje się, że

Przy odpowiednio małym czasie próbkowania można nie ponieść dokładnie żadnej straty informacji.

Twierdzenie o próbkowaniu (Shannona – Kotielnikowa)

Jerzy Mieścicki, Wstęp do Informatyki, część 3 25

Sinusoida

y(t) = a*sin(2*f*t + )

Czas [s], zmienna niezależna

Amplituda

Częstotliwość [1/s], [Hz]Okres T=1/f [s]

Przesunięcie fazy [stopnie]

Jerzy Mieścicki, Wstęp do Informatyki, część 3 26

0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1-0.5

-0.4

-0.3

-0.2

-0.1

0

0.1

0.2

0.3

0.4

0.5

czas w milisekundach

Dwie sinusoidy

Chw

ilow

a w

ielk

osc

sygn

alu

Sumowanie sinusoid

1

2

1

a f

[Hz]

[stop]

1 0.5 1000 0

2 0.2 5000 0

Jerzy Mieścicki, Wstęp do Informatyki, część 3 27

Sumowanie dwóch sinusoid

0 0.2 0.4 0.6 0.8 1 1.2 1.4 1.6 1.8 2-0.8

-0.6

-0.4

-0.2

0

0.2

0.4

0.6

0.8

czas w milisekundach

Chw

ilow

a w

ielk

osc

sygn

alu

Suma dwoch sinusoid

Jerzy Mieścicki, Wstęp do Informatyki, część 3 28

Sumowanie sinusoid, c.d.

0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1-0.8

-0.6

-0.4

-0.2

0

0.2

0.4

0.6

0.8

czas w milisekundach

Szesc sinusoid

Jerzy Mieścicki, Wstęp do Informatyki, część 3 29

Suma sześciu sinusoid

0 0.2 0.4 0.6 0.8 1 1.2 1.4 1.6 1.8 2-1.5

-1

-0.5

0

0.5

1

1.5

czas w milisekundach

Chw

ilow

a w

ielk

osc

sygn

alu

Suma szesciu sinusoid

Jerzy Mieścicki, Wstęp do Informatyki, część 3 30

Przekształcenie Fouriera (J. B. Joseph Fourier, 1768 -- 1830)

• Każdy przebieg okresowy da się przedstawić jako suma (być może nieskończona) przebiegów sinusoidalnych),

Przebieg okresowy

Przekształcenie(Transformata)

Fouriera

‘Wykaz’‘uczestniczących’

sinusoid

• FFT - Fast Fourier Transform,

• DFT – Discrete Fourier Transform, Widmo (spectrum)

Jerzy Mieścicki, Wstęp do Informatyki, część 3 31

Widmo modułu i fazy (zasada)

Częstotliwość f

Częstotliwość f

Moduł a

Przesunięcie fazy

aJedna

sinusoida

f

a

y(t) = a*sin(2*f*t + )

-1800

+1800

log

log f

log f

Jerzy Mieścicki, Wstęp do Informatyki, część 3 32

Twierdzenie o próbkowaniu (Shannon – Kotielnikow)

• Jeśli najszybciej zmienna sinusoidalna składowa sygnału ma

częstotliwość fmax,

• To przy próbkowaniu z częstotliwością nie mniejszą niż 2fmax

nie ponosi się straty informacji (na skutek próbkowania),

• Inaczej: czas próbkowania

1/(2fmax)

• Np. ludzkie ucho słyszy dźwięki z zakresu częstotliwości

20 – 20 000 Hz,

Przyjmuje się częstotliwość próbkowania 46000 Hz.

Jerzy Mieścicki, Wstęp do Informatyki, część 3 33

Przykładowy przebieg prostokątny

0 0.2 0.4 0.6 0.8 1 1.2 1.4-3

-2

-1

0

1

2

3

czas [s]

wie

lkos

c sy

gnal

u

Przykladowy przebieg prostokatny

Jerzy Mieścicki, Wstęp do Informatyki, część 3 34

Widmo modułu (liniowa skala częstotliwości !)

0 10 20 30 40 50 60 70 80 90 1000

0.5

1

1.5

2

2.5

3

3.5

4Widmo modulu przebiegu prostokatnego

numery kolejnych harmonicznych

Jerzy Mieścicki, Wstęp do Informatyki, część 3 35

Widmo modułu w skali loglog

100

101

102

10-2

10-1

100

101

Widmo modulu przebiegu prostokatnego (skala loglog)

czestotliwosc [Hz]

Jerzy Mieścicki, Wstęp do Informatyki, część 3 36

Widmo modułu i fazy

100

101

102

10-2

10-1

100

101

Widmo modulu przebiegu prostokatnego (skala loglog)

ampl

ituda

100

101

102

180

182

184

186

188

190Widmo fazy przebiegu prostokatnego (skala semilog)

czestotliwosc [Hz]

prze

suni

ecie

faz

y w

sto

pnia

ch

Jerzy Mieścicki, Wstęp do Informatyki, część 3 37

Pierwsza składowa sinusoida przebiegu prostokątnego

0 0.2 0.4 0.6 0.8 1 1.2 1.4-4

-3

-2

-1

0

1

2

3

4

czas [s]

wie

lkos

c sy

gnal

u

Odtwarzanie przebiegu prostokatnego

Jerzy Mieścicki, Wstęp do Informatyki, część 3 38

Suma pierwszych dwóch składowych

0 0.2 0.4 0.6 0.8 1 1.2 1.4-4

-3

-2

-1

0

1

2

3

4

czas [s]

wie

lkos

c sy

gnal

u

Odtwarzanie przebiegu prostokatnego

Jerzy Mieścicki, Wstęp do Informatyki, część 3 39

... Pierwszych pięciu składowych

0 0.2 0.4 0.6 0.8 1 1.2 1.4-4

-3

-2

-1

0

1

2

3

4

czas [s]

wie

lkos

c sy

gnal

u

Odtwarzanie przebiegu prostokatnego

Jerzy Mieścicki, Wstęp do Informatyki, część 3 40

... Pierwszych dziesięciu składowych itd.

0 0.2 0.4 0.6 0.8 1 1.2 1.4-4

-3

-2

-1

0

1

2

3

4

czas [s]

wie

lkos

c sy

gnal

u

Odtwarzanie przebiegu prostokatnego

Jerzy Mieścicki, Wstęp do Informatyki, część 3 41

0 0.2 0.4 0.6 0.8 1 1.2 1.4-3

-2

-1

0

1

2

3

czas [s]

wie

lkos

c sy

gnal

u

Przykladowy przebieg prostokatny

Sygnał w dziedzinie czasu i w dziedzinie częstotliwości

2048 próbek

1024 1024

FFT

Widmo sygnału:‘wykaz’

amplitud i faz1024 sinusoid

Time domain Frequency domain

Dyskretna, ‘szybka’

Jerzy Mieścicki, Wstęp do Informatyki, część 3 42

Dyskretyzacja sygnału

0 0.2 0.4 0.6 0.8 1 1.2 1.4 1.6 1.8 2-1.5

-1

-0.5

0

0.5

1

1.5

czas w milisekundach

Chw

ilow

a w

ielk

osc s

ygnalu

Suma szesciu sinusoid

• Była to suma sześciu sinusoid,

• fmax= 15 000 Hz, stąd częstość próbkowania > 30 000 razy na sekundę,

33 s,

• Przyjmijmy, że dyskretyzacja ‘w pionie’ jest 12-bitowa (212 = 4096 wartości, dokładność 0.024%,

Jerzy Mieścicki, Wstęp do Informatyki, część 3 43

Dyskretyzacja sygnału

0 0.2 0.4 0.6 0.8 1 1.2 1.4 1.6 1.8 2-1.5

-1

-0.5

0

0.5

1

1.5

czas w milisekundach

Chw

ilow

a w

ielk

osc s

ygnalu

Suma szesciu sinusoid

Okres T=1 ms 30 s

110....101 101....011 110....101

Ponad 30 liczb 12-bitowych na jeden okres T

Strumień bitów do rejestracji i przetwarzania

.... ....

Jerzy Mieścicki, Wstęp do Informatyki, część 3 44

High = 5 V

Low = 0 V

u(t)

t

Np.

Pewien paradoks cyfrowej reprezentacji sygnału ciągłego

....1 1 0 1 0 1.....Ciąg bitów, np. ..... ... też musi mieć jakąś fizyczną reprezentację

1 okres zegara

Pomiędzy sąsiednimi próbkami musi się zmieścić

co najmniej 12 okresów zegara

Jerzy Mieścicki, Wstęp do Informatyki, część 3 45

Inne formy fizycznej reprezentacji sygnałów dwójkowych

‘0’‘1’ Modulacja amplitudy

u(t)

t

‘0’ ‘1’

Modulacja częstotliwości

u(t)

t

‘0’

‘0’ ‘1’

Modulacja fazy

u(t)

t

‘0’

Jerzy Mieścicki, Wstęp do Informatyki, część 3 46

Paradoks cyfrowej reprezentacji sygnału

0 0.2 0.4 0.6 0.8 1 1.2 1.4 1.6 1.8 2-1.5

-1

-0.5

0

0.5

1

1.5

czas w milisekundach

Chw

ilow

a w

ielk

osc s

ygnalu

Suma szesciu sinusoid

Równie ‘fizyczny’ przebieg, dodatkowo o znacznie większej częstotliwości zmian

Konwersja AC

?

Jerzy Mieścicki, Wstęp do Informatyki, część 3 47

... w zamian – korzyści:

• Większa odporność na szum i zakłócenia,

• Możliwość wykorzystania gotowych metod i algorytmów, opracowanych wcześniej dla potrzeb telekomunikacji i informatyki (np. detekcja i korekcja błędów, złożone struktury danych, itd.)

• Ogromne możliwości algorytmicznego (nie zaś ‘układowego’) przetwarzania, np.: Filtrowanie, Kompresja, Wizualizacja i edycja, Rozpoznawanie, ....

Warunek: odpowiednia szybkość konwersji i

przetwarzania.

• Specjalizowane układy i systemy: Karty graficzne, Karty dźwiękowe, Procesory sygnałowe, ...