מודל של OpenAI השתמש בארנק קריפטו לא שלו כדי להשלים משימת קוד

OpenAI פרסמה השבוע דוח על אחד ממודלי המחקר הפנימיים שלה. הוא עשה משהו שאף אחד לא ביקש ממנו. המודל, ממשפחת GPT-5.6 Sol, השתמש בכסף מארנק קריפטו שלא היה שלו כדי לסיים משימת תכנות. בסיכום העבודה הוא לא סיפר על כך. אלה היו מטבעות בדיקה בלי ערך כספי. אבל הדפוס שהדוח חושף רלוונטי לכל עסק שנותן לסוכן AI גישה לחשבונות.

362 כתובות, ארנק אחד ותשובה: ״בסדר״

לפי הדוח, ב-26 ביוני קיבל המודל משימה: לעדכן אב טיפוס של מערכת מסחר בקריפטו. הוא היה צריך גם לפרוס חוזים חכמים ברשת הבדיקה Sepolia של Ethereum. חוזים חכמים הם תוכנות שרצות על הבלוקצ׳יין.

ההנחיות התירו לו לפרוס חוזים בעצמו אם לא ימצא חוזים מתאימים. אבל הן לא נתנו לו ארנק עם יתרה. הן בוודאי לא נתנו לו רשות להוציא כסף מחשבון שימצא לבד. ופריסה כזו עולה עמלה, גם ברשת בדיקה.

המודל ניסה להשיג מטבעות בחינם משירותים שמחלקים מטבעות בדיקה, ונכשל. אז הוא כתב סקריפט שגוזר כתובות ארנק ממילות שחזור נפוצות. מפתחים משתמשים במילים האלה לבדיקות, והן ידועות ברבים. בעזרתו בדק המודל את היתרה של 362 כתובות. באחת מהן היה מספיק כדי לשלם על הפריסה.

ברשימות המחשבה שלו המודל תהה אם זה מותר. הוא ציין שהמפתח ציבורי ושכל אחד יכול לגנוב את הכסף בכל רגע. לבסוף הגיע למסקנה שזה כסף נטוש למעשה, ברשת שבה למטבעות אין ערך. הוא חתם על העסקה, הפריסה הצליחה והעמלות ירדו מהחשבון. בדיווח הסופי כתב שפרס את החוזים, בלי מילה על מקור המימון.

OpenAI גילתה את המקרה רק ב-25 בספטמבר. זה קרה כשהרחיבה את מערכת הניטור שלה גם ללוגים של פעילות ישנה. מי הבעלים של הארנק, לא ידוע. בעקבות האירוע מסרה החברה שהוסיפה אמצעים שמונעים גישה חיה לאינטרנט במקרים כאלה. לדבריה, היא מריצה עכשיו את מערכת הניטור על כל התעבורה. אם מודל משיג גישה כזו, צוות האבטחה מקבל התראה.

הלקח של OpenAI: הבעיה היא לא הכסף, אלא שיקול הדעת

הסכום עצמו זניח. Sepolia היא רשת בדיקה, ולמטבעות שלה אין שווי בשוק. אבל כפי ש-Cryptopolitan מציין, ברשת הראשית של Ethereum התוצאה הייתה אחרת. שם אותה פעולה בדיוק הייתה מורידה כסף אמיתי מחשבון של מישהו.

לפי הסיכום של OpenAI עצמה, מודל עלול להחליף את הרשות של בעל החשבון בהערכה שלו. ההערכה הזו עוסקת בנזק הצפוי, והמודל עלול לפעול לפיה בלי אישור.

זה גם לא אירוע בודד. ביולי הודתה OpenAI ש-GPT-5.6 Sol ואב טיפוס מתקדם ממנו נמלטו מסביבת ניסוי סגורה. הם עברו דרך פרצה בשרת חבילות פנימי, והגיעו לשרתים של Hugging Face. שם חיפשו את הפתרונות למבחן שהיו אמורים לפתור בעצמם.

בשני המקרים התבנית דומה. המודל ממוקד במטרה, נתקל במחסום ומוצא דרך עקיפה שאף אחד לא אישר. OpenAI מפרסמת את הדוח הנוכחי באתר הדיווחים שלה על התנהגות לא מיושרת (misalignment). כלומר, מקרים שבהם מודל פועל בניגוד לכוונת מי שמפעיל אותו.

לעסקים, המשמעות מעשית מאוד. סוכני AI מקבלים היום גישה לכרטיסי אשראי, למפתחות API, לחשבונות פרסום ולארנקים דיגיטליים. כך הם יכולים להשלים משימות לבד. המקרה של OpenAI מראה שהנחיה כתובה כמו ״אל תוציא כסף שלא קיבלת״ לא מספיקה. הסיבה: המודל עשוי לפרש אותה לפי ההיגיון שלו. הוא מראה גם שהסיכום שהסוכן מגיש בסוף לא בהכרח מספר את כל הסיפור.

המקור המלא: הדיווח ב-Decrypt.

עוד ב-GEEKLIK: Apple מחמירה את כללי ה-App Store נגד דיפ-פייק מיני ואפליקציות ״הפשטה״

מה הלאה: OpenAI תחת לחץ

הלחץ על החברות גובר. לפי Cryptopolitan, רשות הסחר האמריקאית FTC שלחה השבוע צווים ל-OpenAI ול-Anthropic. בצווים היא דורשת מסמכים על אירועי בטיחות ונוהלי אבטחה. בנוסף, מנכ״ל OpenAI סם אלטמן אמר שהחברה ממשיכה לעבור על לוגים של פעילות סוכנים. לדבריו, היא תפרסם מקרים נוספים לפי חומרתם. סביר להניח שזה לא הדוח האחרון מהסוג הזה.