١

الخطي البسیط االنحدارمقدمة في م ن الحج وائیة م ة عش رض عین ة nبف أزواجممثل اھدات ب المش

}n,...,2,1i);y,x{( ii . یم ع xلعینات متكررة فإننا سوف نأخذ بالضبط ق ونتوق)y,x(في الزوج المرتب iyوعلى ذلك قیمة . yتغیر في قیم ii تمثل قیمة لمتغیر

وائي ذھا. iYعش ي یأخ ة الت دة iYأي أن النتیج ر مؤك ن وال uncertainغی یمكیطرة اعلیالس ث ھ طة الباح رف . بواس وف نع وائي x|Yس ر عش ل متغی Yلتمث

ة ة ثابت ل قیم الرمز ، xیقاب الرمز x|Y ونعرف متوسطة ب ھ ب 2وتباینx|Y . ن م

ixxعندما ھالواضح أن فإن الرمزix|Y یمثل المتغیر العشوائيiY بمتوسط

ix|Y 2وتباینx|Y i

.

ا x|Yالخطي البسیط یعني أن االنحدارأن رتبط خطی ـت ة انحدار xب بمعادل : المجتمع التالیة

x10x|Y

10 االنحدارحیث معامالت , ، یمثالن معلمتین مطلوب تقدیرھما من مشاھداتث ة 0bالعینة حی دیر للمعلم ة 1bو 0تق دیر للمعلم در . 1تق ا نق x|Yأي أنن

:المقدر التالي االنحدارمن انحدار العینھ أو خط yـب. xbby 10

راالنتشا شكل

ل دء تحلی د لب ات ب االنحداراألسلوب المفی ل البیان ا یعرف یاھو تمثی وھو م ا نیة المشاھدات scatter plotشكل االنتشارب ك من فئ وذل n1,2,...,i ),,( yixi .

ي( xللحصول على شكل االنتشار یخصص محور ر للمستقل ) المحور األفق للمتغیابع ) المحور الرأسي ( yور بینما یخصص مح من )y,x(لكل زوج .للمتغیر الت

ي عددھا ى الرسم nأزواج المشاھدات الت ع نقطة عل وم بتوقی ر من . نق وفر كثی تتي ب اآلل رامج الحاس اھزةب ة الج دارب والخاص امج االنح ل برن و SPSSمث

Statistica وMinitab ارللح كال االنتش ى أش د .صول عل كل یفی ار ش االنتش :فیما یلي

فیما إذا كانت ھناك عالقة ظاھرة بین المتغیرین أم ال ) أ ( .یوضح عموما .عند وجود عالقة یوضح شكل االنتشار فیما إذا كانت العالقة خطیة أم ال ) ب(

ا إ) ج ( ح فیم ار یوض كل االنتش إن ش ة ف ة خطی ت العالق البة إذا كان ت س ذا كان ).طردیھ( أو موجبة) عكسیة(

مثال

في إحدى التجارب وزن قرون عدد من الغزالن المختلفة األعمار وكانت النتائج ي ا ھ اةكم ي معط دول الف الىج كل . الت د ش ار وتحدی كل االنتش م ش وب رس المطل

. العالقة بین المتغیرین

العمر 20 22 30 34 42 43 46 53 55 69 70x

الوزن 0.08 0.10 0.15 0.20 0.26 0.25 0.30 0.35 0.40 0.48 0.49y

الحل ى خط مستقیم التالىیتضح من شكل ع عل . أن النقط عموما ، لیس بالضبط ، تق

ي( ھذا یجعلنا نقترح أن العالقة بین المتغیرین یمكن وصفھا ب أول ة ) كتقری بمعادل .خط مستقیم

الخطي البسیط نحداراالنموذج

ومتغیـــر xواحــد مســتقل الخطــي البســیط حیــث یوجــد متغیــر االنحــدارحالــة فــي المشـاهدات فـإن البیانـات تمثـل بـأزواج Yتـابع n1,2,...,i ),,( yixi .نعرف سـ

iiكــل متغیــر عشــوائي x|YY بنمــوذج إحصــائيStatistical model وذلــككـل المتوسـطات تحـت فـرض أن

ix|Y تقـع علــى خـط مسـتقیم كمـا هـو موضـح فــيــالى شــكلال بنمــوذج انحــدار بســیط هیمكــن وصــف iYكــل متغیــر فــإن لــى ذلــكعو .الت

:كالتالي )١-١ (, xY ii10ix|Yi i

.النموذج ، البد أن یكون له متوسط یساوي صفر أ، خط iحیث المتغیر العشوائي

وذج 1تشیر المعلمة ي نم ي و() ١-١( االنحدارف ل خط يھالت )االنحدارمیابع ي Yإلى التغیر في متوسط التوزیع االحتمالي للمتغیر الت ادة ف . xلكل وحدة زی

وإذا احتوى مدى النموذج . االنحدارفتمثل التقاطع الصادي لخط 0 معلمة أما الة ى القیم 0xعل ان ر 0ف الي لمتغی ع االحتم ط التوزی ي متوس Yتعط

دما 0xعن . ة یس للمعلم وذج 0ول ي نم ل ف د منفص ا كح اص بھ یر خ أي تفس0xالقیمة الھجمإذا لم یتضمن االنحدار .

وذج ال عن النم ر ) ١-١(یق ي المتغی الم وخطي ف ي المع ھ بسیط وخطي ف ان

ي ال. المستقل ھ فھو بسیط ألنھ یستخدم متغیرا مستقال واحدا فقط، وخطي ف الم ألن معر المستقل أيال تظھر ي المتغی ھ أخرى، وخطي ف معلمھ كأس أو مضروبة بمعلم

ألس الواحد ر إال مرفوعا ل ر ال یظھ ذا المتغی وذج . الن ھ ) ١-١(أیضا یعرف النم : التاليالبسیط بالنموذج من الرتبة األولى والذي یختلف عن النموذج

i2

10i xY ر والذي یكون خطي ذا المتغی ر المستقل الن ھ ي المتغی ر خطي ف الم وغی ي المع ف .xمن الرتبة الثانیة في في المعالم ویمثل نموذج خطي و 2یظھر مرفوعا لألس

)y,x(كل مشاھدة ii عینة عشوائیة من الحجم فيn تحقق العالقة: *ii10i exy

ث *حیie ر قی ة للمتغی ة مفترض دما iم ة iYعن ذ القیم ابقة . iyتأخ ة الس المعادل

رده اھده مف وذج لمش ا كنم ر إلیھ كل ، . iyینظ نفس الش تخدامب ط باس ة خ معادل :المقدرة فإن االنحدار

,exbby ii10i

iiiحیث yye الباقيتسمى residual وذج ق النم والذي یصف خطأ في توفی*و ie الفرق بین. iعند نقطة المشاھدة رقم

ie یوضح .التالىشكل الو موضح فية التالىشكل ال ات والمسمى الخط المقدر من فئ xbbyالبیان 10 االنحداروخط

ي x10x|Yالحقیق . الطبع 10اآلن ب , ومتین ر معل ین غی ر .معلمت یعتبھ أن .x|Yالخط المقدر تقدیر للخط ا یجدر اإلشارة إلی ا، یمكن مال ie ومم حظتھ

*أماie فال یمكن مالحظتھا ألن الخطx|Y مفترض وغیر معروف.

الخطي البسیط االنحدارفروض نموذج

د الخطأ ) ١– ١( االنحدارلتقدیر معالم نموذج ة لح روض التالی iتوضع الف

Gauss-Markov. وس ـ ماركوففروض جا والمسماة

, 0)(E i

0) (E ji , 22i )(E

jiحیث لكلn,...,1j,i أي أنij , غیر مرتبطتین.

:وعلى ذلك

.)Y(Var ,x)Y(E 2ii10i

اج روض ھناك فروض أخرى نحت ارات ف ة واختب رات ثق د إجراء فت ا عن لھ10تخص المعلمتین , وھي أنi این ع الطبیعي بمتوسط صفر وتب ع التوزی یتب

2، أي أن:

. ),0(N~ 2i

. التالىشكل الموضح في iتوزیع

طریقة المربعات الصغرىThe method of least squares

إال ,10بالرغم من وجود العدید من الطرق للحصول على تقدیرات للمعلمتین ترجع ھذه الطریقة إلى عالم .أن أفضل ھذه الطرق ھي طریقة المربعات الصغرى

ا أن . Carl Friedrich Gaussالریاضیات األلماني كارل فریدریكس جاوس وبمة ذلك من المناسب أن یكون الخط من الدق ؤ ل الخط المطلوب یكون ألغراض التنب

والمقصود ھنا بأخطاء التقدیر الفروق بین القیم . ةصغیر تقدیربحیث تكون أخطاء الدیر . على الخط المستقیم)البواقي( iyوالقیم المناظرة iyالمشاھدة أي أن أخطاء التق

ي )n1,2,...,i, )y - yھ ii . ي حھ ف دیر موض اء التق كل الأخط أجزاء a bش بوق الخط . الخطوط الراسیة التي تصل بین النقاط والخط المستقیم ة ف النقطة الواقع

واحد من . موجب والنقطة الواقعة تحت الخط تعطي خطأ سالب) باقي(تعطي خطأ رق ل الط و جع اء ھ ل األخط لتقلی

n

1iii yy ن ن ، ولك ا یمك ل م أق

جعل

n

1iii yyفي شكلف .اقل ما یمكن ال یعني الحصول على توفیق جیدa ة ثالث

أخطاء واحد موجب واآلخرین سالبین حیث 0yyn

1iii

في ھذه الحالة بتقلیل .

. ق یبدو جیدالخطأ فإننا حصلنا على توفی

كل ى ش النظر إل ط bاآلن ب إن خ دارف ل االنح ى جع أدى إل

0yyn

1ii

ق ردئ ح أن التوفی ك یتض ن ذل الرغم م د . وب دث عن اذا یح اآلن م

ل ذي یجع در ال اد الخط المق ارة وإیج ال اإلش إھم

n

1iii yyا یمك ل م رة نأق ؟ م

ي ل التالىشكالفي . لم نضمن أن الخط یمثل أفضل توفیقأخرى یتضح أن الخط ف)a( أفضل من الخط في )b (بالرغم من أن الخط في )b( جعل

n

1iii yy أقل من

)a(

یة و ة الریاض ي المعالج ف با یس مناس ة ل یم المطلق تخدام الق د أن اس ك نج ى ذل عل

تالفیھا بأن نطلب أن یكون مجموع مربعات األخطاء ولذلك فإن ھذه الصعوبة یمكن

بقدر اإلمكان ات . صغیرا ى أقصى حد مجموع مربع ل إل ي تقل ذه الت الم ھ یم المع قة نظر اط المشاھدة من جھ ق النق األخطاء تحدد ما یعرف بأفضل خط مستقیم یوف

ق أن طریقة المربعات الصغرى لتوف ھومما یجدر اإلشارة إلی. المربعات الصغرى ییم ت ق ا سواء كان اط یمكن تطبیقھ أو xخط مستقیم لمجموعھ من النق بقا حددت مس

وائي، ر عش یم لمتغی ل ق ثالن أيتمث ابع یم ر الت تقل والمتغی ر المس ان المتغی إذا كوائیة رات عش ق . متغی غرى إذا تحق ات الص ة المربع ق طریق ة تطب ذه الحال ي ھ وف -:الشرطان التالیان

رطیة .١ ات الش ة التوزیع رات التابع أن iYللمتغی ا ب ل ixعلم اة تمث معطi10توزیعات طبیعیة مستقلة لھا متوسط شرطي x 2وتباین شرطي.

الي ھي متغیرات عشوائیة مستقلة وتوزیعھا االح iXالمتغیرات .٢ تم ixg ال10على المعالم يیحتو

2 , , .

ى المربعات الصغرى بالمثال التالي طریقةاآلن سوف نوضح دخول ف وبدون ال كیفیة الحصول على تقدیرات المربعات الصغرى

مثال ا ین مصاریف اإلعالن لسلعة م ة ب م دراسة العالق x(000£)نفرض أنھ ت

. التالىجدول ال فيوالبیانات موضحة Y(m£)للسلعة والمبیعات

x y 2x y x 100 9 10000 900105 8 11025 84090 5 8100 45080 2 6400 16080 4 6400 32085 6 7225 51087 4 7569 34892 7 8464 64490 6 8100 54095 7 9025 66593 5 8649 46585 5 7225 42585 4 7225 34070 3 4900 21085 3 7225 255

7072 117532 78 1322 10یمكن حساب قیمة السابقجدول الومن b,b باتباع الخطوات التالیة :

.20.51578

n

yy , 133.88

151322

n

xx

n

1ii

n

1ii

Yوالمتغیر التابع xالحسابي للعینة للمتغیر المستقل یرمزان للوسط y,xحیث

. على التوالي

:كالتالى 1bیمكن حساب

SXXSXYb1

:حیث

2

i2i

i ii i

xSXX x ,

nx y

SXY x y ,n

0 1b y b x ,

:سوف نحسب القیم التالیة 1b ،0bلحساب

n

yxyxSXY ii

ii

6.19715

7813227072

nxxSXX

2i2

i

73.101915

13221175322

.8781.111333.88193776.02.5xbyb

,193776.073.10196.197

SXXSXYb

10

1

:المقدرة سوف تكون االنحداروعلى ذلك معادلة

x19378.08781.11y

..ة بسیطةأو بصور

.x19.09.11y

والموضحة . مع شكل االنتشار التالىشكل الفي بیانیا

دار ة انح مى معادل ى yوتس ق xعل دما ننف ك عن ى ذل ى £ 75000 وعل عل

األلف( x=75اإلعالن فإننا نرغب في التنبؤ بالمبیعات وذلك بوضع ة ) ب ي معادل ف :أي أن االنحدار

. 2656900 £6569.21938.0758781.11y

75000ماذا یعني ھذا التنبؤ ؟ من الواضح أن ھذا ال یعني أنة في كل مرة ننفق ات في ا2656900£ على اإلعالن سوف نبیع بالضبط £ دیر للمبیع ان التق ة ف لحقیق

xالمقدرة من القیم المشاھدة لـ االنحدارعندما یتم إیجاد معادلة . یمثل قیمة متوسطةثم نستخدم المعادلة المقدرة في حساب £ 105000و 70.000 £والتي تتراوح بین

ا ات قیمتھ اق إعالن ن إنف اتج م ات الن ان . 75000£مستوى المبیع ة ف ذه الحال ي ھ فالقیمة للمتغیر المستقل في ھذه الحالة تقع في مدى القیم المشاھدة وتسمى العملیة في

ین ع ب ة تق اذا (.placing between) اوinterpolation ھذه الحال السؤال اآلن م :£ 120000عن القیم المقدرة لمبیعات من إنفاق على اإلعالنات یساوي

. 11377900 1201938.08781.11y

ة . خارج مدى القیم المشاھدة xھنا استخدمنا قیمة لـ ذه الحال تسمى العملیة في ھع خارج( دیرین یتعرضان .extrapolated) أو placing outside تق كال التق

أ ولكن التقدیر الذي یقع خارج مدى القیم المشاھدة یكون أقل كفاءة من الذي یقع لخطاھدة یم المش دى الق ن . داخل م اھدة م یم المش دى الق ذا یرجع ألن داخل م ا xھ فإنن

أما خارج مدى المشاھدات ، نعرف سلوك البیانات وكیف یمكن توفیق الخط المستقیمالخط المستقیم توفیق جید لتلك نلة قد ال یكوفال نعرف سلوك البیانات وفي ھذه الحا

والذي یجعلنا نتخذ الحذر عند لتالىشكالالوالمثال على ذلك موضح في . xالقیم من . x الحصول على تقدیرات خارج المدى لقیم

االنحدار خالل نقطة االصل

Regression through the orign

ب حذف ات یتطل ر من التطبیق ي كثی دار 0ف ، أي أن )١-١(من نموذج االنح

ي مجال . x=0 , y=0الخط یمر خال ل ات ف ل البیان د تحلی ق عن ة تطب ذه الحال ھھ ، على سبیل المثال. الكیمیاء أو في العملیات الصناعیة ھ كیمیائی االستجابة في عملی

ة النم. تساوي صفر عندما تشغل العملیة عند درجة حرارة صفر ذه الحال ي ھ وذج ف :ویأخذ الشكل التالي yال یكون لھ جزء مقطوع من المحور الرأسي

.iii xY

)٢-١( )n,...,2,1i; )y,xمن أزواج المشاھدات nنفرض أن لدینا ii 00وبما أن

:ووعلى ذلك تقدیر المربعات الصغرى للمیل ھ

.

n

1i

2i

n

1iii

1x

yxb

:ونموذج االنحدار المقدر یأخذ الشكل التالي

.xby 1

مثال

ھ ة لمخطوط ات الطباع دد لوح ي ع ا یل حیح ) x(فیم دوالر لتص ة بال ة الكلی والتكلفة اء المطبعی ات الح) y( األخط ن الطلب وائیة م ھ عش ك لعین دتھا وذل ي تعھ ة الت دیث

د Yوبما أن . شركھ متخصصة في مخطوطات تقنیھ الیف فق ر تك ینطوي على متغیل ھ األص ر نقط دار عب وذج االنح ان نم ا إذا ك د م ي تحدی ث ف ب باح ) ٢ -١(رغ

. التالىجدول الوالبیانات معطاة في . مالئما لدراسة العالقة بین المتغیرین

xy2x y x

6 107 36 6424 75 16 30010 177 100 177018 324 324 583225 457 625 1142530 540 900 1620025 446 625 1115014 250 196 350010 178 100 178010 191 100 191012 213 144 25567 128 49 896

57961

3215

3086

171

الحـل

: نحصل على السابقجدول المن البیانات في

.0283.18321557961

x

yxb

n

1i

2i

n

1iii

1

ومعادلة االنحدار المقدرة سوف تكون,x0283.18y

.ل االنتشارمع شك التالىشكل الوالممثلھ بیانیا في

5 10 15 20 25 30 35 40x

100

200

300

400

500

600y

ر ل السابقشكالیتضح من درة تم ھ االنحدار المق د أن معادل أن شكل االنتشار یؤك

.بنقطة األصل

معامل التحدید

:فإن معامل التحدید یأخذ الشكل التالي ) ١-١(للنموذج

.)yy()yy(R 2

i

2i2

:ي یأخذ الشكل التال فإن معامل التحدید) ٢-١(فى حالة النموذج

. y

yR n

1i

2i

n

1i

2i

20

اء 2اإلحص0R تالف بة االخ ح نس ر(یوض ل ) التغی ھ األص ول نقط 0,0)(ح

. والناتج من االنحداررات ة وفت تحت فرض االعتدال لحد الخطأ فإن یمكن الحصول على فترات ثق

.ي على الجزء المقطوع تنبؤ واختبارات فروض لنموذج االنحدار الذي ال یحتو