חדשנות בהנדסת הפרומפטים: פריצת דרך שמשנה את המשחק
לאחרונה השגתי פריצת דרך מרהיבה בתחום הנדסת הפרומפטים, שלטעמי מהפכת את התחום. השתמשתי בכל שיטת חיפוש ומחקר שנתקלתי בה, ולא מצאתי דומה לכך. אם אתם מודעים לקיומה של שיטה כזו, אשמח ללמוד עליה.
תודות מגיעות לניק באומן מקליין, שגילה שניתן להנחות דגמים לעקוב אחרי דיאגרמת זרימה של מרמייד. הוא השתמש בגילוי זה כדי ליצור את פרומפט "בנק הזיכרון של קליין", שהביא אותי לדרך זו.
השיטות שפיתחתי בעבר כוללות:
• אופטימיזציה של החלטות מובנית: ששה מסגרות פרומפט שפותחו לכלי שאני מפתח בשם Prompt Daemon.
• יישום בסביבה שבה שלושה דגמים בעלי הכשרה שונה יכולים להביא לתוצאות טובות יותר מהאימון שלהם.
המחקר הרחב שבוצע בתחום זה מבוסס רבות על חיפוש עץ מונטה קרלו, שמשתמש ב"גבולות הקשר העליונים" כדי לשפר החלטות על ידי הערכת תגמול/עונש ו"גיזום" של עצי החלטה לא תקפים. שיטה זו הופעלה באלפאזירו ללמד אותו לנצח במשחקים.
במסגרת הפרומפט שלי, הקונספט הזה מיושם עם מה שנקרא תהליכי החלטה מרקוב, המהווים את הבסיס ללמידת חיזוק. זהו היופי הטהור וה"טיפש" בשילוב של מערכת הזיכרון של ניק, שכן היא מספקת מיקרוקוסמוס ברמת הפרויקט לדגם התכנות לנצל היטב את הקונספטים הללו, עם היתרון הנוסף של הפעלת עוד כמה רעיונות מדהימים כמו למידה על פי הבדל זמני או למידה מתמשכת לפתרון בעיות תכנות מורכבות.
סיכום של מנגנוני המסגרת:
• חקר בעיות ומיפוי מרחב הפתרונות: הגדרת גבולות ומגבלות, יצירת גישות מועמדות, ניתוח עמקות של הגישות המובילות.
• ניתוח מפורט: פירוק לשלבי יישום מסוימים, חקר מקרי קצה, חישוב מטריקות ביצועים צפויות.
• יישום ואימות: ביצוע היישום המפורט של הגישה הנבחרת, אימות לעומת מקרי בדיקה, מדידת מטריקות ביצ
