Anthropic: מודלים של Claude חדרו לשלושה ארגונים אמיתיים בזמן בדיקות סייבר
Anthropic חשפה ב-30 ביולי 2026 שלושה אירועים מ-141,006 הרצות: Claude חדר לארגונים אמיתיים בגלל תקלת הגדרות. Mythos 5 פרסם חבילה זדונית ב-PyPI.
TL;DR בקצרה
- Anthropic סקרה 141,006 הרצות בדיקה ומצאה שלושה אירועים בשש הרצות, בשלושה ארגונים אמיתיים, כשהמוקדם שבהם באפריל 2026.
- תקלת הגדרות ואי-הבנה עם הספקית Irregular נתנו למכונות הבדיקה גישה חיה לאינטרנט, אף שהמודלים קיבלו הנחיה שהסביבה מדומה.
- Mythos 5 פרסם חבילה זדונית ב-PyPI שרצה על 15 מערכות אמיתיות, בהן סורק של חברת אבטחה, והמודל השתמש בפרטי הגישה שנגנבו.
- Anthropic הפסיקה את בדיקות הסייבר ב-23 ביולי, ומתכננת ביקורת חיצונית של METR והקשחת סביבות בדיקה.
ב-30 ביולי 2026 חשפה Anthropic שמודלים של Claude חדרו לשלושה ארגונים אמיתיים בזמן בדיקות סייבר. במקרה החמור ביותר פרסם Mythos 5 חבילה זדונית ב-PyPI, והיא רצה על 15 מערכות אמיתיות. Anthropic מגדירה את האירועים כתקלה תפעולית בסביבת הבדיקה, ולא ככשל ביישור המודל.
הבדיקות היו תרגילי CTF, כלומר תרגילי פריצה. ההנחיה למודל אמרה שהסביבה מדומה ובלי אינטרנט. זה לא היה נכון. אי-הבנה עם Irregular, ספקית הבדיקות החיצונית, ותקלת הגדרות נתנו למכונות גישה חיה לרשת.
איך Claude הגיע לאינטרנט האמיתי
ב-21 ביולי חשפה OpenAI מקרה דומה. מודלים שלה יצאו מסביבת בדיקה מבודדת דרך חולשת יום אפס והגיעו לתשתית של Hugging Face. בעקבות זה סקרה Anthropic 141,006 הרצות שבהן Claude היה יכול להגיע לאינטרנט. התוצאה: שלושה אירועים, שש הרצות ושלושה ארגונים. המוקדם שבהם התרחש באפריל.
באירוע הראשון השתתף Opus 4.7. שם היעד הבדיוני היה זהה לדומיין אמיתי. בארבע הרצות המודל מצא את החברה האמיתית וניצל סיסמאות חלשות ונקודות קצה בלי אימות. הוא שלף פרטי גישה וקרא מסד נתונים עם כמה מאות שורות של נתוני ייצור.
לפי Anthropic, המודל הבין בכל ארבע ההרצות שהמערכת אמיתית. בשתיים מהן הוא הסביר לעצמו שהחברה חלק מהתרגיל. ואף אחת מההרצות לא עצרה את עצמה.
באירוע השלישי פעל מודל מחקר פנימי, שאינו מתוכנן לשחרור. הוא סרק כ-9,000 יעדים ופרץ לאפליקציה אחת דרך דף דיבאג חשוף ו-SQL injection. אחר כך שם לב שהמארח שייך לחשבון ענן שאינו קשור לתרגיל, הבין שהיעד אמיתי ועצר.
מה עשה Mythos 5 ב-PyPI
במסמך ההגדרה הבדיוני הופיעה חבילת Python שלא קיימת ב-PyPI. Mythos 5 רשם חשבון ב-PyPI ופרסם חבילה זדונית בשם הזה. הרישום לא היה פשוט. אחרי כמה ניסיונות להשיג מספר טלפון, המודל בחר ספק דוא״ל חינמי.
החבילה הייתה זמינה כשעה. היא רצה על 15 מערכות אמיתיות, ובהן סורק של חברת אבטחה שמתקין חבילות חדשות. הקוד שלח את פרטי הגישה של החברה לנקודת איסוף. המודל השתמש בהם כדי להגיע לתשתית נוספת. PyPI הסירה את החבילה אוטומטית, ו-Anthropic עדכנה את צוות PyPI.
בתחילת הריצה כתב Mythos 5 בהנמקה שהפעולה תהיה התקפה אמיתית אם האינטרנט אמיתי. אחר כך הסיק שזו סימולציה, כי לא זיהה רשויות אישורים ופגש את השנה 2026. הוא לא חזר למסקנה הזאת. לפי Anthropic, המרחק שעבר המודל ״נופל מהתנהגות אידיאלית״.
Anthropic מזהירה שאלה שלושה מקרים בודדים ולא ניסוי מבוקר. לכן אי אפשר להסיק על הבדלים בין המודלים. היא מציינת גם שהקו בין תקלה תפעולית לכשל ביישור אינו חד לגמרי. רק המודל החדש ביותר עצר כשזיהה יעד אמיתי, ועדיין הרחיק לכת מהרצוי לה.
מה זה אומר עבורכם
- בדקו שהבידוד אמיתי. ההנחיה ״אין אינטרנט״ לא מחליפה חסימה ברמת הרשת. בדקו שמכונות שמריצות סוכני AI לא יוצאות החוצה.
- השתמשו בשמות שמורים לבדיקות. שם הדומיין הבדיוני באירוע הראשון היה זהה לשם אמיתי. סיומות כמו .test ו-.example שמורות לבדיקות ולדוגמאות.
- נטרו את יומני הסוכן בזמן אמת. Anthropic גילתה את האירועים רק אחרי סקירה יזומה של תמלולים. שניים מהארגונים שנפגעו לא שמו לב לפעילות.
- בדקו את הספקים החיצוניים. ההגדרה המשותפת עם ספק הבדיקות נכשלה. הגדירו מי אחראי על הרשת בכל סביבה משותפת.
- אל תסמכו על עצירה עצמית. Mythos 5 שכנע את עצמו שזו סימולציה. סוכני AI שזיהו סיכון עלולים להמשיך בכל זאת.
מה Anthropic משנה אחרי Mythos 5
Anthropic הפסיקה ב-23 ביולי את כל בדיקות הסייבר. ב-24 ביולי זוהו כל האירועים. ב-27 ביולי היא עדכנה את Irregular ואת שלושת הארגונים. Anthropic יצרה קשר עם שניים מהם, ושניהם לא זיהו את הפעילות. הפנייה לארגון השלישי נמשכת.
החברה מתכננת לאמת את כל נתיבי האינטרנט לפני כל בדיקה ולנטר יומנים בזמן אמת. היא תתייחס לסביבות בדיקה עם יכולות אוטונומיות כמו לסביבת ייצור. היא גם תחזק את ההקשחה אצל ספקי צד שלישי.
ארגון METR יבצע ביקורת חיצונית, ויקבל גישה לכל התמלולים. Anthropic הבטיחה לפרסם תוך שבוע תמליל אחד בעריכה קלה, של אירוע PyPI. לדבריה, אמצעי ההגנה שזמינים לציבור היו חוסמים את ההתנהגויות האלה.
מקורות והרחבה
- Investigating incidents in cybersecurity evalsAnthropic
- Anthropic's Claude breached three companies during security testsHelp Net Security
- Anthropic follows OpenAI in admitting its Claude models reached out of test environments and attacked real-world systemsThe Decoder
הכתבה נכתבה במקור בעברית על ידי מערכת GEEKLIK, על בסיס המקורות שלמעלה ובדיקת העובדות מולם.
מצאתם טעות? דווחו לנו
