Michael Johnsonב־29 באוקטובר עדכנה OpenAI את Model Spec — תיאור פומבי של האופן שבו החברה רוצה לאמן את המודלים שלה להתנהג. המהדורה החדשה מארגנת את ההמלצות סביב חמישה ערכים ומרחיבה את הכללים למצבים שבהם מודלים משתמשים בהקשר ופועלים באמצעות כלים. עבור מפתחים, זהו בראש ובראשונה מסמך על ההתנהגות הרצויה של מודלים, ולא הכרזה על API חדש או על תכונה מוכנה.
ב־מהדורה המעודכנת של Model Spec מפורטים נאמנות לכוונות האדם, מזעור נזק, כנות ושקיפות, תמיכה בעצמאות המשתמש ודאגה. OpenAI אומרת שעקרונות אלה אמורים לסייע למודלים לקבל החלטות מתאימות יותר כאשר הוראה מסוימת אינה מתארת את כל הנסיבות.
הקשר ופיקוח נעשים חלק מהכללים
השינוי המעשי נוגע לאופן שבו המודל אמור להביא בחשבון את היסטוריית האינטראקציה ומידע אחר על המשתמש. כדוגמה, OpenAI מציינת השוואה בין הצעות עבודה: המודל עשוי להתחשב בהעדפה שהמשתמש ציין בעבר ללוח זמנים צפוי, להבהיר שזו הנחה ולאפשר לאדם לתקן אותה. המסמך כולל גם הנחיות מפורשות יותר בנוגע לפיקוח אנושי, לעצמאות המשתמש ולהשלכות של פעולות המודל.
OpenAI מתארת את המפרט כמערכת של גבולות וברירות מחדל שניתן לשנות במידה רבה: מפתחים יכולים לקבוע את התנהגות היישומים שלהם בתוך המסגרת הזאת, ומשתמשים יכולים להנחות את פעולת המודל. עבור צוותי מוצר, זהו מדריך שימושי לתכנון הוראות מערכת ובדיקות: יש לקבוע איזה הקשר מותר להביא בחשבון, כיצד המודל מדווח על הנחות ומתי נדרשת מעורבות אנושית בהחלטה.
פחות הנחיות סגנוניות
באותה מהדורה הודיעה OpenAI שהיא מסירה את מרבית ההנחיות המפורטות לגבי סגנון. החברה מסבירה שסגנון צריך להתאים להעדפות האנשים, לשפות ולהקשר; דרישות בסיסיות יותר, כמו מענה אובייקטיבי לשאלות, נותרות יציבות. כך המפרט מעביר את הדגש ממערכת אחידה של כללי סגנון לערכים ולדרכים ליישב מצבים עמומים.
OpenAI גם כותבת שהיא חוקרת שיטות אימון שנועדו לסייע למודלים ליישם את העקרונות האלה טוב יותר, ומבטיחה לשתף תוצאות בעדכונים עתידיים. עם זאת, החברה מבהירה שהמפרט מתאר את ההתנהגות הרצויה: המודלים הנוכחיים עדיין אינם עומדים בו במלואם. לכן, בעת שילוב המודלים במוצר, כדאי לצוותים להשתמש במסמך כבסיס לדרישות ולבדוק תרחישים ספציפיים באמצעות בדיקות משלהם, במשימות, בהקשר ובכלים של היישום.
המסקנה המעשית העיקרית לצוותים היא לבחון מחדש הוראות ובדיקות לא רק מבחינת ציות מדויק לבקשה, אלא גם מבחינת האופן שבו המודל משתמש בהקשר, חושף הנחות ומשמר את השליטה בידי האדם. העדכון פורסם ב־29 באוקטובר; בהודעה הזאת OpenAI לא הכריזה על השקת מודל נפרד או על ממשק חדש.
