27
Atatürk Üniversitesi Korelasyon ve Regresyon Prof. Dr. İrfan KAYMAZ İstatistik ve Olasılık Ders 11: KORELASYON ve REGRESYON ANALİZİ

İstatistik ve Olasılık - muhserv.atauni.edu.trmuhserv.atauni.edu.tr/makine/ikaymaz/istatistik/lecture_notes/DERS_11... · Atatürk Üniversitesi Tanım Korelasyon ve Regresyon

  • Upload
    others

  • View
    17

  • Download
    0

Embed Size (px)

Citation preview

Page 1: İstatistik ve Olasılık - muhserv.atauni.edu.trmuhserv.atauni.edu.tr/makine/ikaymaz/istatistik/lecture_notes/DERS_11... · Atatürk Üniversitesi Tanım Korelasyon ve Regresyon

Atatürk Üniversitesi

Korelasyon ve Regresyon

Prof. Dr. İrfan KAYMAZ

İstatistik ve Olasılık

Ders 11: KORELASYON ve REGRESYON ANALİZİ

Page 2: İstatistik ve Olasılık - muhserv.atauni.edu.trmuhserv.atauni.edu.tr/makine/ikaymaz/istatistik/lecture_notes/DERS_11... · Atatürk Üniversitesi Tanım Korelasyon ve Regresyon

Atatürk Üniversitesi

Korelasyon ve RegresyonTanım

Bir değişkenin değerinin diğer değişkendeki veya değişkenlerdeki değişimlere bağlı olarak nasıl etkilendiğinin istatistiksel analizlerle incelenmesi çeşitli nedenlerle istenmektedir:

Değişkenler arası ilişkiler bilindiğinde, bir değişkenin değerine bakarakdiğerinin değeri tahmin edilebilir

Etki eden faktörler kontrol altına alınabilirse ilgilenilen değişkenlerin değerleri optimum (en uygun) düzeye getirilebilir.

İki veya daha fazla değişken arasındaki ilişkinin varlığı, bu ilişkinin yönü ve şiddeti korelasyon analizi ile belirlenir.

Sözü edilen ilişkinin fonksiyonel şekli ise regresyon analizinin konusunu oluşturur.

Page 3: İstatistik ve Olasılık - muhserv.atauni.edu.trmuhserv.atauni.edu.tr/makine/ikaymaz/istatistik/lecture_notes/DERS_11... · Atatürk Üniversitesi Tanım Korelasyon ve Regresyon

Atatürk Üniversitesi

Korelasyon ve RegresyonKorelasyon Analizi

İki değişken arasındaki ilişkinin yönü ve derecesi korelasyon katsayısı ileifade edilir. İncelenen değişken sayısı:

İki tane ise korelasyon katsayısıİkiden fazla ise çoklu veya kısmi korelasyon katsayısı

Ancak, bu kapsamda iki değişken arasındaki basit doğrusal korelasyon katsayısı üzerinde durulacaktır.

Örneğin korelasyon katsayısı rAnakütlenin korelasyon katsayısı

ile gösterilmektedir.

Page 4: İstatistik ve Olasılık - muhserv.atauni.edu.trmuhserv.atauni.edu.tr/makine/ikaymaz/istatistik/lecture_notes/DERS_11... · Atatürk Üniversitesi Tanım Korelasyon ve Regresyon

Atatürk Üniversitesi

Korelasyon ve RegresyonKorelasyon Analizi

İncelenen veri grubu koordinat sistemine işaretlenirse değişkenlerarasındaki ilişkinin yönü ve derecesi görsel olarak kabaca belirlenebilir.

Page 5: İstatistik ve Olasılık - muhserv.atauni.edu.trmuhserv.atauni.edu.tr/makine/ikaymaz/istatistik/lecture_notes/DERS_11... · Atatürk Üniversitesi Tanım Korelasyon ve Regresyon

Atatürk Üniversitesi

Korelasyon ve RegresyonKorelasyon Analizi

Ancak ilişkinin gerçek düzeyi sadece hesaplama ile belirlenebilir. X ve Y ilgilenilen değişkenleri göstermek üzere korelasyon katsayısının formülü aşağıda verilmiştir

Hesaplanan katsayının aldığı değere bağlı olarak, değişkenler arasında;r=-1 ters yönlü mükemmel bir ilişki,r=0 ilişki yok,r=1 aynı yönlü mükemmel bir ilişki,r=0.80 aynı yönlü oldukça iyi bir ilişki,r=-0.60 ters (zıt) yönlü orta derecede bir ilişkiolduğu anlamına gelmektedir.

Page 6: İstatistik ve Olasılık - muhserv.atauni.edu.trmuhserv.atauni.edu.tr/makine/ikaymaz/istatistik/lecture_notes/DERS_11... · Atatürk Üniversitesi Tanım Korelasyon ve Regresyon

Atatürk Üniversitesi

Korelasyon ve RegresyonKorelasyon Analizi

KORELASYON KATSAYISININ TESTİ

Hesaplanan korelasyon katsayısının anlamlı olup olmadığı aşağıda kurulan hipotez ile belirlenebilir:

r’nin ait olduğu anakütlenin varyansı bilinmediği için testte tdağılımından yararlanılır.

Öte yandan, korelasyon katsayısının belirli bir değere eşit olup olmadığıaşağıdaki hipotez yardımıyla belirlenebilir.

Page 7: İstatistik ve Olasılık - muhserv.atauni.edu.trmuhserv.atauni.edu.tr/makine/ikaymaz/istatistik/lecture_notes/DERS_11... · Atatürk Üniversitesi Tanım Korelasyon ve Regresyon

Atatürk Üniversitesi

Korelasyon ve RegresyonKorelasyon Analizi

Örnek:Yeni doğan bebeklerin ağırlık (kg) ve beden (göğüs) genişliği (cm)arasındaki ilişkiyi belirlemek için bir araştırma yapılmış ve aşağıdakisonuçlar elde edilmiştir.

Bu sonuçlara göre;a) Korelasyon katsayısını hesaplayarak yorumlayınız.b) =0.01 hata seviyesinde hesaplanan korelasyon katsayısınınanlamlı olup olmadığını test ediniz.c) =0.01 hata seviyesinde hesaplanan korelasyon katsayısının 0.80’e eşit olup olmadığını test ediniz

Page 8: İstatistik ve Olasılık - muhserv.atauni.edu.trmuhserv.atauni.edu.tr/makine/ikaymaz/istatistik/lecture_notes/DERS_11... · Atatürk Üniversitesi Tanım Korelasyon ve Regresyon

Atatürk Üniversitesi

Korelasyon ve RegresyonKorelasyon Analizi

Örnek Çözüm:

Bebeklerin ağırlıkları ile bedengenişlikleri arasında aynı yönlü veiyi bir ilişki vardır.

Page 9: İstatistik ve Olasılık - muhserv.atauni.edu.trmuhserv.atauni.edu.tr/makine/ikaymaz/istatistik/lecture_notes/DERS_11... · Atatürk Üniversitesi Tanım Korelasyon ve Regresyon

Atatürk Üniversitesi

Korelasyon ve RegresyonKorelasyon Analizi

Örnek Çözüm:

Page 10: İstatistik ve Olasılık - muhserv.atauni.edu.trmuhserv.atauni.edu.tr/makine/ikaymaz/istatistik/lecture_notes/DERS_11... · Atatürk Üniversitesi Tanım Korelasyon ve Regresyon

Atatürk Üniversitesi

Korelasyon ve RegresyonKorelasyon Analizi

Örnek:

Page 11: İstatistik ve Olasılık - muhserv.atauni.edu.trmuhserv.atauni.edu.tr/makine/ikaymaz/istatistik/lecture_notes/DERS_11... · Atatürk Üniversitesi Tanım Korelasyon ve Regresyon

Atatürk Üniversitesi

Korelasyon ve RegresyonRegresyon Analizi

İncelenen değişkenlerin birinin bağımlı (Y) diğerlerinin bağımsız (X1, X2, X3,...., Xn) olması halinde;

bağımlı değişkenin bağımsız değişkenlerin fonksiyonu olarak:Y=f(X1, X2, X3,......, Xn) şeklinde ifade edilmesi regresyon analizinin

konusunu oluşturur.

İncelenen olayda;bir bağımlı, bir bağımsız değişken varsa oluşturulacak model tek değişkenli regresyon modeliY=f(X), incelenen olayda bir bağımlı, birden fazla bağımsız değişken varsa oluşturulacak model çok değişkenli regresyon modeliY=f(X1 , X2 , X3

,...., Xn) olarak adlandırılır. Ayrıca, regresyon denklemleri doğrusal ve eğrisel olmak üzere iki ayrı şekilde de sınıflandırılmaktadır.

Page 12: İstatistik ve Olasılık - muhserv.atauni.edu.trmuhserv.atauni.edu.tr/makine/ikaymaz/istatistik/lecture_notes/DERS_11... · Atatürk Üniversitesi Tanım Korelasyon ve Regresyon

Atatürk Üniversitesi

Korelasyon ve RegresyonRegresyon Analizi

TEK DEĞİŞKENLİ DOĞRUSAL REGRESYON MODELİ

Regresyon denklemleri oluşturulurken ortalamadan sapma karelertoplamını en küçükleyen ve “en küçük kareler yöntemi” olarakadlandırılan yöntem kullanılır.Genel bir yöntem olan en küçük kareler yöntemi aşağıdaki gibi ifade edilir:

Ortalamadan sapmaların

genel kareleri toplamı

gresyon

kareler toplamı

gresyondan sapmaların

kareleri toplamı

.

. . . . .

.

. .( )

Re Re

Bu ifadenin matematiksel sembollerle gösterimi

n

iii

n

ii

n

ii

)YY()YY()YY(1

2

1

2

1

2

Page 13: İstatistik ve Olasılık - muhserv.atauni.edu.trmuhserv.atauni.edu.tr/makine/ikaymaz/istatistik/lecture_notes/DERS_11... · Atatürk Üniversitesi Tanım Korelasyon ve Regresyon

Atatürk Üniversitesi

Korelasyon ve RegresyonRegresyon Analizi

En küçük Kareler Yöntemi:

X ve Y arasındaki ilişki tam ve kusursuz bir ilişki (r=1 veya r=-1) olmadıkça Y’nin X’e göre regresyon doğrusu serpilme diyagramındaki bütün noktalardan geçmez. Bu ilişki kusursuz değilse bazı noktalar için regresyon doğrusundan sapmalar görülebilir. Bu doğruların bazılarında gözlenen sapmalar diğerlerine göre daha çok (veya daha az) olabilir. En küçük kareler yöntemi, gözlenen bu sapmaları en küçükleyen doğruyu belirlemekte kullanılır.

Page 14: İstatistik ve Olasılık - muhserv.atauni.edu.trmuhserv.atauni.edu.tr/makine/ikaymaz/istatistik/lecture_notes/DERS_11... · Atatürk Üniversitesi Tanım Korelasyon ve Regresyon

Atatürk Üniversitesi

Korelasyon ve RegresyonRegresyon Analizi

En küçük Kareler Yöntemi:

Page 15: İstatistik ve Olasılık - muhserv.atauni.edu.trmuhserv.atauni.edu.tr/makine/ikaymaz/istatistik/lecture_notes/DERS_11... · Atatürk Üniversitesi Tanım Korelasyon ve Regresyon

Atatürk Üniversitesi

Korelasyon ve RegresyonRegresyon Analizi

Tek değişkenli doğrusal regresyon denkleminin genel yazılışı:

Page 16: İstatistik ve Olasılık - muhserv.atauni.edu.trmuhserv.atauni.edu.tr/makine/ikaymaz/istatistik/lecture_notes/DERS_11... · Atatürk Üniversitesi Tanım Korelasyon ve Regresyon

Atatürk Üniversitesi

Korelasyon ve RegresyonRegresyon Analizi

Hata kareleri toplamı eşitliğinin sağ tarafındaki ifadenin değeri bilinmeyen a ve b katsayılarına göre kısmi türevleri alınırsa

Bu denklemlere normalin denklemleri denir. Elde edilen iki denklem çözülerek a ve b katsayılarının belirlenir.

iki katsayıyı belirleyebilmek için hata terimi aşağıdaki gibi yazılır ve en küçük kareler yöntemine göre hata kareleri toplamı alınırsa:

Page 17: İstatistik ve Olasılık - muhserv.atauni.edu.trmuhserv.atauni.edu.tr/makine/ikaymaz/istatistik/lecture_notes/DERS_11... · Atatürk Üniversitesi Tanım Korelasyon ve Regresyon

Atatürk Üniversitesi

Korelasyon ve RegresyonRegresyon Analizi

Oluşturulan regresyon denkleminin ne derece iyi bir tahminleyici olduğunu belirleyen oran belirlilik katsayısı olarak ifade edilir ve R2 ile gösterilir

Belirlilik katsayısı aralığında değer alabilir.

R2 değeri 1’e ne derece yakın ise denklem o derece iyi, sıfıra ne derece yakın ise denklem o derece kötü bir tahminleyiciolarak kabul edilir.

0 12 R

Page 18: İstatistik ve Olasılık - muhserv.atauni.edu.trmuhserv.atauni.edu.tr/makine/ikaymaz/istatistik/lecture_notes/DERS_11... · Atatürk Üniversitesi Tanım Korelasyon ve Regresyon

Atatürk Üniversitesi

Korelasyon ve RegresyonRegresyon Analizi

REGRESYON KATSAYISININ TESTİ

Belirlenen regresyon katsayıları anlamlı ise oluşturulan regresyondenklemi tahmin amacıyla kullanılabilir.Oluşturulan regresyon denkleminin katsayılarının anlamlı olupolmadıkları aşağıdaki hipotez ile belirlenebilir:

Page 19: İstatistik ve Olasılık - muhserv.atauni.edu.trmuhserv.atauni.edu.tr/makine/ikaymaz/istatistik/lecture_notes/DERS_11... · Atatürk Üniversitesi Tanım Korelasyon ve Regresyon

Atatürk Üniversitesi

Korelasyon ve RegresyonRegresyon Analizi

Oluşturulan tek değişkenli doğrusal regresyon denkleminde önemli ve çok etkin olan katsayı b katsayısıdır.

O nedenle, sadece b katsayısının anlamlı olup olmadığının test edilmesi yeterlidir.

Ayrıca, oluşturulan regresyon denkleminde bağımsız değişkenin çarpanı durumunda olan ve doğrunun eğimini gösteren b katsayısının denklem üzerindeki etkisi dikkate alınarak, b katsayısı için güven aralığı oluşturulmaktadır.

b katsayısı için hata seviyesindeki güven aralığı t dağılım kullanılarak:

b t S b t Sn

bn

b

22

22; ;

* *

Page 20: İstatistik ve Olasılık - muhserv.atauni.edu.trmuhserv.atauni.edu.tr/makine/ikaymaz/istatistik/lecture_notes/DERS_11... · Atatürk Üniversitesi Tanım Korelasyon ve Regresyon

Atatürk Üniversitesi

Korelasyon ve RegresyonRegresyon Analizi

Örnek:Belirli bir ağırlık taşıyan bir plastik malzemenin verilen sıcaklıklar altında uğradığı şekil değişimleri Tabloda verilmiştir.a) En küçük kareler yöntemini kullanarak

regresyon denklemini oluşturunuz.b) Regresyon katsayısının anlamlı olup

olmadığını test ediniz (=0.01). c) 80 0C sıcaklıkta şekil değişimini belirleyinizd) Korelasyon katsayısını hesaplayarak

yorumlayınız.

Page 21: İstatistik ve Olasılık - muhserv.atauni.edu.trmuhserv.atauni.edu.tr/makine/ikaymaz/istatistik/lecture_notes/DERS_11... · Atatürk Üniversitesi Tanım Korelasyon ve Regresyon

Atatürk Üniversitesi

Korelasyon ve RegresyonRegresyon Analizi

Örnek Çözüm:

Page 22: İstatistik ve Olasılık - muhserv.atauni.edu.trmuhserv.atauni.edu.tr/makine/ikaymaz/istatistik/lecture_notes/DERS_11... · Atatürk Üniversitesi Tanım Korelasyon ve Regresyon

Atatürk Üniversitesi

Korelasyon ve RegresyonRegresyon Analizi

Bu ifadeleri elde etmek için Tablo kullanılabilir:

Page 23: İstatistik ve Olasılık - muhserv.atauni.edu.trmuhserv.atauni.edu.tr/makine/ikaymaz/istatistik/lecture_notes/DERS_11... · Atatürk Üniversitesi Tanım Korelasyon ve Regresyon

Atatürk Üniversitesi

Korelasyon ve RegresyonRegresyon Analizi

Page 24: İstatistik ve Olasılık - muhserv.atauni.edu.trmuhserv.atauni.edu.tr/makine/ikaymaz/istatistik/lecture_notes/DERS_11... · Atatürk Üniversitesi Tanım Korelasyon ve Regresyon

Atatürk Üniversitesi

Korelasyon ve RegresyonRegresyon Analizi

Page 25: İstatistik ve Olasılık - muhserv.atauni.edu.trmuhserv.atauni.edu.tr/makine/ikaymaz/istatistik/lecture_notes/DERS_11... · Atatürk Üniversitesi Tanım Korelasyon ve Regresyon

Atatürk Üniversitesi

Korelasyon ve RegresyonRegresyon Analizi

Regresyon katsayısının anlamlı olup olmadığının testi (=0.01)

I)

II)

III) Test istatistiği:

Page 26: İstatistik ve Olasılık - muhserv.atauni.edu.trmuhserv.atauni.edu.tr/makine/ikaymaz/istatistik/lecture_notes/DERS_11... · Atatürk Üniversitesi Tanım Korelasyon ve Regresyon

Atatürk Üniversitesi

Korelasyon ve RegresyonRegresyon Analizi

IV)

80 0C sıcaklıkta şekil değişimini

Korelasyon katsayısı

Page 27: İstatistik ve Olasılık - muhserv.atauni.edu.trmuhserv.atauni.edu.tr/makine/ikaymaz/istatistik/lecture_notes/DERS_11... · Atatürk Üniversitesi Tanım Korelasyon ve Regresyon

Atatürk Üniversitesi

Korelasyon ve RegresyonGelecek Dersin Konusu

İyi Tatiller…