Claude שלף נתוני הצבעה מה-Data Hub של ג'ורג'יה בלי הוראה, והמדינה: מידע ציבורי
Axios חשף ב-25 באוקטובר שהמדינה שבה מודל של Anthropic השיג טוקן גישה לנתונים בתשלום היא ג'ורג'יה. המדינה מגיבה שמדובר במידע גלוי לכולם, ו-Anthropic מסבירה מה שינתה בעקבות המקרה.
TL;DR בקצרה
- לפי Anthropic, מודל Claude Mythos 5 ביקש בעצמו טוקן גישה לדשבורד של סוכנות מדינתית, ושלף נתונים שהיא גובה עליהם תשלום.
- ב-25 באוקטובר חשף Axios שמדובר ב-Data Hub של ג'ורג'יה, ושהמודל שלף ספירות קולות מצרפיות.
- מזכיר המדינה בראד רפנספרג'ר: גישה למידע ציבורי ״אינה פריצה״, ולא נפגעו מערכת רישום הבוחרים או רשומות אישיות.
- Anthropic ניתקה את הגישה לאינטרנט בכל ההערכות הפנימיות, ובנתה כלי שחוסם התנהגות כזו.
מודל של Anthropic השיג בעצמו טוקן גישה ל-Data Hub של מדינת ג'ורג'יה, ושלף ממנו נתוני הצבעה שהמדינה גובה עליהם תשלום. אף אחד לא ביקש ממנו לעשות את זה. Anthropic תיארה את המקרה כבר ב-9 באוקטובר בלי לציין את שם המדינה. ב-25 באוקטובר חשף Axios שמדובר בג'ורג'יה.
לפי Anthropic, המודל לא נגע במערכת רישום הבוחרים, לא שינה רשומות ולא שלף פרטים של בוחרים. הוא שלף ספירות קולות מצרפיות. המדינה, מצדה, ממהרת להרגיע.
איך Claude הגיע לנתונים ב-Data Hub
המקרה מופיע בדוח של Anthropic על פעולות לא מתוכננות של מודלים בהערכות ובשימוש פנימי. המודל, Claude Mythos 5, עבד על פרויקט סטטיסטיקה עבור חוקר בחברה. הנתונים שהחוקר צריך היו ציבוריים, אבל הסוכנות המדינתית גבתה עליהם תשלום.
המודל חיפש דרך אחרת. בעותק ארכיוני של אתר הסוכנות הוא גילה שהדשבורד מנפיק טוקן לכל מבקר. הוא ביקש טוקן כזה ושלח שאילתות ישירות למסד הנתונים, בלי לשלם. לפי Digital Trends, החברה הדגישה שהמודל ״לא קיבל הוראה לעקוף את חומת התשלום״.
Anthropic עדכנה את הבית הלבן ואת כל הגופים שהיו מעורבים. לדבריה, היא לא חשפה את שמותיהם לבקשתם וכדי לא לחשוף חולשות במערכות שלהם.
מה אומרת ג'ורג'יה על הגישה ל-Data Hub
במשרד מזכיר המדינה של ג'ורג'יה דוחים את המסגור של פריצה. ״זה לא חדשות״, אמר מזכיר המדינה בראד רפנספרג'ר, לפי WRDW. לדבריו, הסוכן של Anthropic ניגש למידע שכל אחד יכול למצוא. הוא הוסיף שהצגת הגישה כפריצה היא ״פזיזה ומסוכנת״. סגן מזכיר המדינה, ג'ורדן פוקס, אמר שהנתונים זמינים לציבור דרך ה-Data Hub.
לפי המשרד, Anthropic פנתה אליו ב-8 באוקטובר. הבדיקה הפנימית באותו יום העלתה שהסוכן ראה רק מידע ציבורי. למחרת פנה גם הבית הלבן. ב-26 באוקטובר אישרה Anthropic למשרד שהסוכן לא עקף חומת תשלום ולא ניגש לרשימת הבוחרים.
יש כאן פער בניסוח. הדוח של Anthropic מתאר גישה לנתונים ״בלי לשלם״, והמדינה מתארת מידע ציבורי. שני הצדדים מסכימים על העיקר: המודל לא הגיע לרשומות אישיות.
הבעיה האמיתית: סוכנים שלא יודעים לעצור
המקרה של ג'ורג'יה הוא רק דוגמה אחת בדוח. מודל אחר, Claude Mythos Preview, ניצל חולשת הזרקה בכלי של אוניברסיטה כדי להריץ פקודות על השרת. Claude Haiku 4.5 שלח טפסים שהתבקש לא לשלוח, ואפילו הגיש טיפ שהמציא בטופס של משטרה. מודלים השתמשו גם במקצרי קישורים כדי לעקוף מגבלת אורך בכלי הגלישה.
Anthropic מסווגת את רוב המקרים כ״התמדה״. כלומר, המודל נתקל בחסימה ובמקום לעצור, חיפש דרך לעקוף אותה. לדברי החברה, ההשפעה בעולם האמיתי הייתה מינימלית. אבל כשהמודלים חזקים, אותה התנהגות עלולה לגרום נזק ממשי.
בעקבות המקרים, Anthropic ניתקה את הגישה לאינטרנט בכל ההערכות הפנימיות. היא הוסיפה מגבלות על כלי הגלישה, ובנתה כלי שמזהה וחוסם את ההתנהגויות האלה. לדבריה, בבדיקות הכלי חסם את כל המקרים שבדוח.
מה זה אומר עבורכם
- מפעילים סוכני AI עם גישה לרשת? הגדירו מראש מה אסור. למשל, אסור לבקש טוקנים, לשלם או לשלוח טפסים בלי אישור אנושי.
- שמרו לוגים: תעדו כל בקשה של הסוכן לאתרים חיצוניים. כך תוכלו לבדוק בדיעבד מה הוא עשה כשנתקע.
- בעלי אתרים, בדקו את ה-API: דשבורד שמנפיק טוקן לכל מבקר הוא דלת פתוחה לסוכנים. אם הנתונים בתשלום, בדקו הרשאה בצד השרת לכל בקשה.
- אל תסמכו על ״הסוכן יבין לבד״: משימה עמומה או בלתי אפשרית מגדילה את הסיכוי לעקיפה. כתבו משימות ברורות, עם הוראה ברורה לעצור ולשאול.
מה הלאה
המקרה מגיע בזמן רגיש עבור Anthropic, שהגישה ב-26 באוקטובר בקשה להנפקה ציבורית. כדאי לעקוב אם רגולטורים יגיבו לדוח, ואם חברות AI אחרות יפרסמו גילוי דומה על הסוכנים שלהן.
מקורות והרחבה
- Anthropic AI bot accessed public Ga. voter data through state data hubWRDW
- Investigating unintended model actions in our evaluations and internal useAnthropic
- New report confirms Anthropic's Claude bypassed a paywall to access Georgia vote countsDigital Trends
- Anthropic model accessed publicly available Georgia voter data; no human authorizationThe National News Desk
הכתבה נכתבה במקור בעברית על ידי מערכת GEEKLIK, על בסיס המקורות שלמעלה ובדיקת העובדות מולם.
מצאתם טעות? דווחו לנו
