Michael Johnsonב־12 באוקטובר דיווחה Anthropic כי צעדים חדשים נגד זיקוק מודלים צמצמו פי 10–100 את היקף ההנמקות של Claude שחולצו בידי גורמים זדוניים דרך הפלטפורמה שלה. החברה תיארה מערכת המורכבת מכמה שכבות: היא מקשה על חשיפת הנמקות סמויות, עוקבת אחר העברת בקשות בין חשבונות ומודלים וחוסמת פניות חשודות. למפתחי API יש לכך חשיבות משתי סיבות: ההגנה משנה את אופן הפעולה של האינטגרציות, וחלק מהבקשות החסומות מחויבות כעת בתשלום.
זיקוק מודלים מאפשר לאמן מודל קטן יותר על תשובותיה של מערכת חזקה יותר. Anthropic סבורה שתיעוד מלא של ההנמקות ש־Claude מייצרת לפני התשובה הסופית הוא בעל ערך רב במיוחד למטרה זו. בניסויים מוקדמים של החברה, מודל שאומן על תמלילים מלאים של Claude Opus 4.8 השיג 80.4% ב־SWE-bench Verified; אימון על גרסאות מקוצרות הניב תוצאה של 71.8%. הנתונים מתייחסים למבחן ולניסוי מסוימים של Anthropic, ואינם מדד אוניברסלי לאיכותם של מודלים.
ההגנה מכסה כמה נתיבי חילוץ
השכבה הראשונה היא צמצום היקף ההנמקות שנחשפות. לפי תיאורה של Anthropic, לאחר שהונהג צעד זה גברו הניסיונות: בקשות החלו לדרוש במפורש להציג את מהלך ההנמקה הסמוי, ובהמשך נעשה שימוש ברשתות של מתווכים ובמספר רב של חשבונות מזויפים. החברה מדווחת כי אחת הרשתות האלה ניהלה בו־זמנית יותר מ־20 אלף חשבונות.
הצעדים החדשים מפקחים על המקומות שאליהם ניתן להעביר קטעי הנמקה מוגנים. Anthropic מונה העברה בין שיחות, מודלים וחשבונות כאמצעים לעקיפת הגנות נפרדות. לפי החברה, מסווג דו־שלבי מזהה כעת את כל טכניקות זיקוק המודלים שתוארו בדוח שלה מספטמבר, כאשר הן מופעלות על המודלים הציבוריים החזקים ביותר.
Anthropic מודדת את ההשפעה לפי מספר האסימונים של ההנמקות שמזקקי מודלים הצליחו לחלץ בפלטפורמה שלה. לאחר הטמעת המסווג, המדד הזה היה נמוך פי 10–100 מבעבר; בימים מסוימים ההיקף היה קטן מכדי למדוד אותו. החברה דיווחה גם על חסימת עשרות אלפי חשבונות הקשורים לזיקוק מודלים. הנתונים האלה משקפים את הטלמטריה של Anthropic עצמה, ולא את היקף החילוץ הכולל דרך שירותי ענן וספקי הסקה חיצוניים.
מה משתנה עבור מפתחים
ההגנה כבר השפיעה על כמה אינטגרציות לגיטימיות. Anthropic מציינת כי פורמט ההנמקות שנשמר חייב חלק מהמפתחים לעדכן את מערכותיהם, וכי המסווגים מזהים או חוסמים בטעות בקשות תמימות בפחות מ־0.1% מהמקרים. מאז 24 בספטמבר החברה גובה תשלום על בקשות שנעצרו לפני יצירת תשובה בקטגוריות שבהן דווח על שיעור חיובי שגוי כזה, לרבות זיקוק מודלים.
המסקנה המעשית לצוותים המשתמשים ב־API: בעקבות השינויים בטיפול בהנמקות, כדאי לבדוק אילו שדות בתשובה היישום קורא ושומר, וכיצד הוא מטפל בסירוב או בחסימה לפני יצירת תשובה. יש להביא בחשבון גם שבקשה חסומה ומחויבת בתשלום עלולה להיכלל בהוצאות בלי להניב תשובה מועילה. הדבר חשוב במיוחד כשמוגדרות שליחות חוזרות אוטומטיות: שליחה חוזרת של אותה פנייה אינה מתקנת את הסיווג ועלולה להגדיל את העלויות.
בתיאור הצעדים החדשים Anthropic מודה שהמערכת עדיין חלק ממרוץ מול התוקפים: החברה אינה יודעת כמה זמן תחזיק מעמד ההפחתה שהושגה, ועדיין לא נתקלה בניסיון עיקש במיוחד לעקוף את ההגנה המעודכנת. השינוי המעשי הברור ביותר כבר התרחש: מפתחים צריכים להביא בחשבון את הטיפול המעודכן בהנמקות, את הסיכוי לחסימות נדירות ואת החיוב על חלק מהבקשות שנדחו.