Michael Johnsonהערכת סיכונים חיצונית של בינה מלאכותית תלויה במידע הזמין לחוקרים: החברה מכירה בדרך כלל את הבדיקות הפנימיות, האימון ומנגנוני ההגנה טוב יותר ממעריכים חיצוניים. ב-15 באוקטובר 2026 הודיעה Anthropic כי החלה להעניק לצוות METR גישה לכלים ולמערכות הפנימיים שלה. שישה מעובדי הארגון ללא מטרות רווח קיבלו ציוד ומקומות עבודה של החברה; METR תוכל לפרסם באופן עצמאי את תוצאות הערכות הסיכונים שלה.
לפי תיאור ההסכם של Anthropic, הגישה של הקבוצה דומה בקירוב לזו של צוותי הערכת הסיכונים הפנימיים של החברה. עובדי Anthropic התבקשו לחלוק מידע עם משתתפי METR כפי שהם חולקים אותו עם עמיתים שעובדים על הערכת סיכונים. כך אפשר לבדוק לא רק את התנהגות המודלים, אלא גם מידע על האימון, תהליכי ההערכה ומנגנוני ההגנה שלהם.
מה METR תוכל לבדוק
METR תוכל לפרסם ניתוחים של רמות סיכון, תקריות ונהלים של Anthropic. החברה מצהירה שאינה יכולה להטיל וטו על פרסום, אך רשאית לדרוש עריכה של מידע מקטגוריות שהוגדרו מראש, כגון נתוני לקוחות, חומרים המוגנים בחיסיון עורך דין–לקוח ומידע על ארכיטקטורת המודלים. ההחלטה אם קטע מסוים נכלל בחריגים אלה נותרת בידי Anthropic. METR, מצדה, שומרת לעצמה את הזכות לתאר את היקף הגישה שקיבלה ואת המידע שנמסר לה.
המשמעות היא שהערכה עצמאית תשלב גישה לחומרים פנימיים עם מגבלות על חשיפת מידע מסוים. עבור הקוראים, חשובים גם ממצאי METR וגם תיאור החומרים שהקבוצה יכלה לבדוק והמגבלות שהשפיעו על הפרסום. Anthropic מסבירה כי בחרה במודל שיתוף הפעולה הזה כדי לצמצם את הפער בין הידע של מעריכים חיצוניים לזה של המעבדה עצמה.
כיצד מוגדרת רמת הגישה
Anthropic מגדירה את ההסכם עם METR כרמה השלישית בתוכנית הגישה שלה למעריכים. רמה זו מעניקה גישה הדומה לזו של צוותי הערכת הסיכונים הפנימיים, וזכויות פרסום הדומות לאלה של הרמה השנייה. עם זאת, העבודה מוגבלת לקבוצה קטנה של METR, הפועלת בכפוף להסכמים מחייבים; שאר עובדי הארגון, לרבות מי שעוסקים בפרויקטים אחרים עם Anthropic, מופרדים מהעבודה הזו.
החברה מסרה שהיא משתפת פעולה עם METR במשך כשנה, בין היתר בבדיקת דוחות סיכונים. שותפויות אחרות נמצאות בשלבים מוקדמים יותר: SecureBio בוחנת את הפרק על נשק כימי וביולוגי בדוח של Anthropic מאוגוסט; החברה שוקלת להרחיב את הגישה לאחר השלמת העבודה. עם Accenture ו-Faculty מפתחת Anthropic שיתופי פעולה נפרדים להערכת מודלים, לבדיקות red teaming ולבדיקת מנגנוני הגנה. עם ארגונים אחרים, ובהם Hugging Face, החברה מקיימת שיחות ראשוניות.
מה המשמעות עבור חברות
עבור ארגונים המטמיעים מודלים בתהליכים רגישים, הערך המעשי של התוכנית יתברר מתוך ההערכות שיפורסמו: אילו סיכונים נבדקו, אילו נתונים נבחנו ואילו מגבלות השפיעו על המסקנות. הודעת Anthropic עצמה מתארת את תנאי הגישה והפרסום, אך אינה מדווחת על תוצאות חדשות של הערכת מודל. לכן, על רוכשים עסקיים לראות בחומרים העתידיים של METR עדויות לבדיקות מסוימות, ולא מסקנה כוללת על בטיחותם של כל מודלי החברה.
האירוע מ-15 באוקטובר משנה את גישתם של מעריכים חיצוניים למידע פנימי ומבטיח ל-METR אפשרות לפרסם את ממצאיה, בכפוף לחריגים שנקבעו. תוכן ההערכות הבאות ובהירות התיאור של תנאיהן יראו עד כמה התוכנית מועילה לבדיקה עצמאית של סיכוני בינה מלאכותית.