תרגול חזרה לבחינה

לבחינה חזרה תרגולמלאכותית ) לבינה (236501מבוא

, טכניון המחשב מדעיגייגר עומר2012חורף

לוקאלי חיפוש

( מדעי המחשב- 236501מבוא לבינה מלאכותית )2013טכניון. עומר גייגר חורף

- , סביר לא כאשר גדולים מצבים במרחבי חיפוש אלגוריתמי . בזכרון מהמצבים ניכר חלק לשמור

באיזור - קטן מצבים מספר או יחיד מצב לגבי מידע שומרים " התקדמות י ע המצב ערך את לשפר ושואפים החיפוש

. המצב ערך את משפרים אשר שכנים למצבים-. עצמו המצב את רק אלא מסלול שומרים לא כלל בדרךערך - את לשפר מבקשים בהם אופטימיזציה לבעיות מתאים

התועלת.סופיים - מצבים מחפשים בהם לבעיות להתאים גם יכול

. , יוריסטי בערך שימוש תוך מסויים בתנאי שעומדים

לוקאלי לחיפוש אלגוריתמים


Steepest Ascent Hill Climbing (SAHC)את המשפר העוקב למצב ומתקדם ההתחלתי במצב מתחיל

ערך עם שכן אין שממנו למצב או סופי למצב הגעה עד הערך .) הערך ) עם העוקבים המצבים מבין לוקלי אופטימום יותר טוב

. , באקראי מהם לאחד להתקדם בוחרים ביותר הטוב

SAHC with sideway steps , השומרים צעדים מתיר משפרים עוקבים מצבים ואין במקרה

" " . הצידה הצעדים כמות של מגבלה להציב יכול ערך אותו על. כלשהו ממצב החל ברציפות שמבוצעים

Stochastic Hill Climbing . יכול השיפור התפלגות לפי בוחר העוקבים המצבים כל מתוך

. מרעים צעדים גם להתיר או המשפרים מבין לבחור

לוקאלי לחיפוש אלגוריתמים


First Choice Hill Climbingהעוקב במצב ובוחר האופרטורים בחירת על סדר מגריל

. הערך את משפר אשר הראשון

Simulated Annealingלגודל ההפוכה מסוימת בהסתברות מרעים צעדים מתיר

. הולך הטמפרטורה פרמטר טמפרטורה ולפרמטר ההרעההחיפוש בתחילת לאפשר ומטרתו בחיפוש ההתקדמות עם ויורד

צעדי צעדי Explorationיותר יותר .Exploitationובהמשך

לוקלי מאופטימום היחלצות שיטות.1RandomRestart – אקראי ממצב החיפוש של מחדש אתחול

. האיטרציות כל מבין ביותר הטוב המצב שמירת תוךנניח ) 2. אקזוסטיבי .BFSחיפוש לשיפור( הגעה עד

לוקלי – חיפוש ממבחן 1שאלה


'2011-12חורף א, מועד



של קבוצות תתי מייצגים במרחב " Nהמצבים באורך בינאריים וקטורים י ע .Nהאיברים. המצב של הבחירה בוקטור ביט שינוי הן זה במרחב הטבעיים האופרטורים

: להשוות רוצים.1. הצידה צעדים עם טיפוס.2. מחדש אתחול עם הצידה צעדים בלי טיפוס.3. סטוכסטי טיפוס

: " ל הנ האלגוריתמים כל עבור זה למרחב מתאימה פונקציה

זהה 1עבור ערך עם המטרה מצב בסביבת יחסית גדול משטח יש בו מקרה ליצור נרצהלו.

: אפשרי פתרון . המטרה מצב בסביבת שטוח מישור נוצר כך

)1( . עיוור באופן המישור פני על יחפש ואז למישור יצעד)2(. המטרה למצב בדיוק הגיע לא אם מחדש יתחיל ואז למישור יצעדשיתרחק )3( יתכן ואז ישירה בצורה לא אך המישור לכיוון כללי באופן יתקדם

מהמישור.



.1. הצידה צעדים עם טיפוס

.2. מחדש אתחול עם הצידה צעדים בלי טיפוס

.3. סטוכסטי טיפוס

... 2עבור . לוקליים אופטימומים מספר יש בו מקרה ליצור נרצה

: אפשרי פתרוןדמה , . מטרה מצבי נגדיר

)1(. הדמה ממטרות באחת הנראה ככל יתקע)2(. למטרה הגעה עד מחדש ויאתחל דמה במטרת יתקעהמטרה )3( לכיוון לנוע ויתקשה דמה שרובם מטרות בסביבת להישאר יעדיף

האמיתית.

: המוצע הפתרון

? מדוע... בעייתי- ה " .0ממצבי האיבר הוספת י ע יותר טובים למצבים ינוע



.1. הצידה צעדים עם טיפוס

.2. מחדש אתחול עם הצידה צעדים בלי טיפוס

.3. סטוכסטי טיפוס

...3עבור בגרסה ונשתמש למטרה בדרך מרע למצב לעבור חייבים בו מקרה ליצור נרצה

. מרעים צעדים שמאפשרת

. " שאלגוריתם " מובטח כך המטרה סביב חפיר יצירת ידי על זאת להשיג לא 1,2ניתן כלל . אלגוריתם מרעים צעדים מאפשרים אינם שהם כיוון למטרה להגיע להגיע, 3יוכלו יעדיף

. , " " למטרה להתקדם מכן לאחר יעדיף לתוכו לצעוד ויבחר ובמקרה חפיר ה לסביבת

הביטוי ? את להחליף ניתן במה - מ ממש הקטן ערך כל



א, 2008-9חורף מועד

נתונים:-. ) וידוע ) יחיד גלובלי מינימום אופטימום-. כיווניות דו קשתות עם מרחבידוע – - המרחב .Nגודלחיפוש - .SAHCאלגוריתם מחדש , אתחול עם הצידה צעדים ללא

? " מחדש האתחולים מספר תוחלת מה מקדים עיבוד י ע נחשב איך

? . זאת נעשה איך המטרה למצב ימשיך האלגוריתם מצבים מכמה למצוא רוצים

הפוך – בכיוון צעדים לפי סריקה ונבצע המטרה מצב לנו הידוע היחיד מהמצב נתחיל. , האלגוריתם יתקדם בו המקסימלי השיפור לכיוון



הפוך – בכיוון צעדים לפי סריקה ונבצע המטרה מצב לנו הידוע היחיד מהמצב נתחיל. , האלגוריתם יתקדם בו המקסימלי השיפור לכיוון

" : י ע החיפוש קשתות את נגדיר ראשון ניסיון...? פה הבעיה מה

- השיפור יהווה לא שהוא שיתכן כיוון ל יתקדם האלגוריתם שממצב מובטח לא. ממנו המקסימלי

. : שני ניסיון

סריקת נבצע , BFSכעת נסמנו מגיעים אליהם הצמתים מספר את .Kונספורהראשונה , , ההתחלה את נחסיר תוחלתו עם גאומטרי משתנה הינו ההתחלות מספר

ונקבל . מחדש אתחול מהווה שאינה

אופטימלי יוריסטי חיפוש


תזכורת::Aאלגוריתם אלגוריתם* שני של שילוב מהווה

-Greedy Best Search. למטרה מרחק של יוריסטיקה פי על פועל-Uniform Cost Search תוך ביותר הקרובים למצבים המתקדם עיוור אלגוריתם הינו

. במסלול מצטברות עלויות סכום המהווה בפונקציה שימושA. " ל* הנ של הסכום פונקציית פי על פועל

משפחת של פרטיים מקרים מהווים אלה הבאה Best Firstכל הצומת את הבוחרת. ביותר הנמוך פונקציה ערך עם כמועמד לפיתוח

חיפוש* IDAאלגוריתם ערך DFS-fמבצע לפי המוגבל עומק חיפוש הינו פעם. fאשר בכל- ה חסם של הגדלה תוך שכזה נוסף חיפוש מבצע .fשנתקע

המועמדים A*-epsilonאלגוריתם קבוצת מתוך לפיתוח הבאה הצומת את , FOCALבוחר- ה ערך .fבהם המינימלי הערך כפול עד הינו

A* , IDA* - 3שאלה



A . למטרה* , אופטימלי מסלול על הנמצאים הצמתים הם אלו ערך בעלי צמתים יפתח , . הצמתים כל את לפתח שיצטרך יתכן הגרוע במקרה ידוע לא ביניהם הפיתוח סדר

: הבא במקרה למשל

) אחיד ) המחיר כאשר

*? ...IDAואלגוריתם - . ה ערך אותו רק ויפתח האופטימליים המסלולים באחד יישאר fיבחר זה מסלול לאורך

. - לא האלגוריתם החסם ערך על בלבד אחת איטרציה תתבצע ולפיכך ל ושווה קבוע , . צמתים מחפש אינו הוא כמוכן לעומק עובד שהוא כיוון אלטרנטיביים מסלולים יפתח

הנתונים -OPENבמבני .CLOSEDו זמן חוסך ובכך

...

I

g




, אחת פעם היותר לכל יפותח צומת כל לכן חיובי הקשתות ומחיר עץ המרחב- מ) צמתים מחזיר -CLOSEDהאלגוריתם את OPENל המשפר מסלול שנמצא במקרה רק

ממש(. קטן ערך בעלי הצמתים כל את יפתח האלגוריתם ביותר הטוב במקרה ערכם. המטרה צומת את כך ואחר האופטימלי מהערך

: . הינו החסם לפיכך ערך אותו בעלי הצמתים כל בנוסף יפותחו הגרוע במקרה




: הבא באופן ערכים של ממש עולה מונוטונית סדרה נגדיר

. מ יותר גבוה ערך אליהם במסלול אין אשר בתחום צמתים של ערכי אוסף הינם

באיטרציה : שיפותחו הצמתים כמספר את נגדיר

. צמתים יפותחו הטוב במקרה

יהיה החסם ואז האחרונה האיטרציה של הצמתים כל יפותחו הגרוע במקרה

שאלה - 5משחקים



, ערכי של משוקלל סכום כלומר הסתברותיים בצמתים תוחלת מחשב -RBהאלגוריתםExpectimax. השונות ההסתברויות לפי

שלאחר מבטיח ההבטחה הערך Dמשפט לפחות הוא היוריסטי הערך בו למצב נגיע צעדיםהמוחזר.

, במקום ביותר הנמוך הערך את ההסתברותיים בצמתים לבחור צריך זאת להבטיח מנת על. , נוספים. מינימום כצמתי ההסתברותיים לצמתים להתייחס כלומר התוחלת

התוצאות עבור הגרוע המקרה את מניח שהוא כיוון פחדני באופן ישחק זה שחקןהחשש בגלל טובות תוצאות יניבו הסיכויים שברוב ממהלכים ימנע וכך ההסתברותיות

. . המקורי מהאלגוריתם טובה פחות בצורה ישחק השחקן הנראה ככל הגרוע מהמקרה




הינה . עץ פיתוח של הזמן סיבוכיות לעומק עד חיפוש לבצע ניתן זמן שב נתון- ב , העומק שהגדלת כך לפי ומתנהגת . 1אקספוננציאלית בעומק חיפוש לאחר זמן פי תיקח

. מידיות תהינה בהן ההחלטות ולכן הבאים המהלכים ליתר זמן יוותר לא זה

.




מהצומת עץ תת וכן ערך מהשגרה להחזיר צורך יש כנלמד אסטרטגיה עץ לשמור מנת עלהנבדק:

. בודד - צומת מחזירים מהעליםבאופן - המחושבים העצים תתי כל הינם והבנים שורש מהווה הצומת מינימום מצמתי

רקורסיבי.שנבחר - - העץ תת יחיד בן ולהשאיר העצים תתי כל את להשמיט ניתן מקסימום מצמתי

. מקסימלי ערך כבעל. הקשתות על המקודדות הפעולות את גם לשמור צורך יש

. צעדים כל של הראשון בצעד מתבצעת העץ של הבניהוניתן נמצאים אנו בעץ צומת באיזה לזכור צורך יש כאשר הצמתים ביתר נעשה בעץ השימוש

. המהלך את ב למצוא המקס שחקן יכול כך שלו העץ בתת שאינו מה כל את להשמיט. הצומת - של היחיד הבן לביצוע




, מתקבל שהיה לזה השקול האופטימלי הצעד את מחזיר האלגוריתם צעד בכל כעת . ב בסעיף המצב לעומת זאת הנותר לעומק מינימקס מידי 1באלגוריתם באופן צעד מוחזר בו

. שנשמר ידע כל ללא

. יותר מושכל מהלך יבצע המשופר האלגוריתם הראשון בצעד. המהלך אותו את יבצעו האלגוריתמים שני השני בצעד

)( , יוחזר ה במהלך פחות מושכל מהלך יחזיר המשופר האלגוריתם הבאים המהלכים בכל , מהלכים . בסוף מחזיר המשופר שהאלגוריתם נקבל כאשר כלומר עומק לפי מהלך

שרירותיים. , מניצחון במרחק שנמצא במצב אך עדיף יהיה הרגיל האלגוריתם המצבים ברוב לפיכך

. עדיף, יהיה המשופר האלגוריתם מובטח

שאלה, - עצים 7למידה



. של טיבו את להעריך נוכל איך בדיקה לקבוצת דוגמאות להפריש נרצה לא דוגמאות במיעוטעץ?

של בעקרון (. Occam's Razorנשתמש לפיכך ) העלים מספר לפי קטנים עצים שנעדיף שאומר. שנמצא ביותר הקטן העץ את ונזכור זמן לנו יש עוד כל הלמידה אלגוריתם את נריץ

Occam's Razor (Wikipedia): "among competing hypotheses, the one that makes the fewest assumptions should be selected."

. בגדלים אימון קבוצות נגריל מבחן כקבוצת דוגמאות קבוצת להפריש ניתן זה במקרההם, המבחן קבוצת על הפגיעה שאחוזי האלגוריתם את ונזכור האלגוריתם את נפעיל משתנים , . מבוססות הגדולות בעוד יותר קטנות היפוטיזות ויתנו יתכן קטנות אימון קבוצות ביותר הטובים

ויבצעו יתכן אך .Overfittingיותרלבצע: אפשר אי ?...Cross-Validationהערה מדוע,

. אחד עץ להחזיר וצריך חלוקה לכל שונים עצים מוחזרים

Documents

תרגול חזרה לבחינה