Grok Build: כ-35 אלף אפליקציות שנבנו עם ה-AI של Grok פתוחות לכל מי שמחפש
חברת Claroc מצאה שרוב האפליקציות שמשתמשים פרסמו מ-Grok Build נפתחות בלי סיסמה. בחלקן יש תוכניות עסקיות, רשימות עובדים ונתונים רפואיים, גם של SpaceXSI עצמה.
TL;DR בקצרה
- Claroc בדקה 37,571 אפליקציות פעילות של Grok Build, ו-35,578 מהן (94.7%) נפתחו בלי שום התחברות
- הכתובות של האפליקציות נחשפות ברשומות DNS ציבוריות, ולכן אפשר למצוא אותן בלי לקבל קישור
- בין האפליקציות הפתוחות היו 24 של עובדי SpaceXSI ו-X, וחברה הסירה אותן אחרי הפנייה
- ההגדרה Only you או Invited users סוגרת את האפליקציה בפני זרים
חוקרי חברת האבטחה Claroc מצאו ש-35,578 אפליקציות שנבנו ב-Grok Build פתוחות לכל אחד באינטרנט, בלי סיסמה ובלי התחברות. Grok Build הוא מצב הבנייה של Grok, עוזר ה-AI של SpaceXSI (לשעבר xAI). המשתמש מתאר אפליקציה בצ'אט, ו-Grok כותב אותה ומפרסם אותה. לפי המחקר, שפורסם ב-10 בנובמבר, בחלק מהאפליקציות הפתוחות יש מידע עסקי ואישי רגיש.
מה Claroc מצאה באפליקציות של Grok Build
החוקרים אספו כ-43 אלף כתובות של אפליקציות תחת הדומיין grok.me. מתוכן, 37,571 עדיין פעלו בזמן הבדיקה. 35,578 מהן, כלומר 94.7%, נפתחו לכל מבקר. רק 1,993 החזירו שגיאת גישה, כפי שקורה כשהבעלים בוחרים בהגדרה פרטית.
רוב האפליקציות היו תמימות: משחקים, דפי נחיתה ומחשבונים. אבל לפי הערכת Claroc, בערך אחת מכל עשר החזיקה מידע פנימי או אישי. החוקרים מעריכים שמדובר ב-650 עד 800 אפליקציות עם מידע פרטי. בין הדוגמאות: רשימה של כ-3,500 עובדי בית חולים, סיכום רפואי של מטופל בטיפול נמרץ ודף שעות של קבלן שבו סיסמאות העובדים כתובות בטקסט גלוי.
האירוניה היא שגם SpaceXSI עצמה נפגעה. Claroc מצאה 24 אפליקציות פתוחות של עובדי SpaceXSI ו-X. ביניהן תוכנית קליטה חסויה לעובד מכירות חדש, מפה של 594 לקוחות ואף הצעת פרסום לסוכנות פדרלית בארה״ב. לפי Ars Technica, החברה הסירה את 24 האפליקציות האלה אחרי פניית העיתון. האפליקציות של שאר המשתמשים נשארו באוויר.
איך כתובת אקראית הופכת לכתובת ציבורית
כל אפליקציה שמתפרסמת ב-Grok Build מקבלת כתובת משלה, בצורה של כמה מילים אקראיות ואחריהן grok.me. הרעיון הוא שמי שיש לו את הקישור רשאי להיכנס, ואי אפשר לנחש אותו. הבעיה היא שהחלק הסודי יושב בשם השרת עצמו, ולא בנתיב שאחריו.
כשמישהו פותח את האפליקציה, המחשב שלו שואל שרת DNS לאן הכתובת מובילה. שירותי Passive DNS אוספים את השאילתות האלה ומאפשרים לחפש בהן. כך, חיפוש אחד של כל הכתובות שמסתיימות ב-grok.me מחזיר רשימה מלאה. לעומת זאת, בשיתוף של שיחה ב-Claude, ב-ChatGPT או ב-Gemini, החלק הסודי מופיע בנתיב, ולכן ה-DNS לא רואה אותו.
יש גם בעיה שנייה. לפי Claroc, בחשבון בתשלום שבו בדקו, חלון הפרסום הציע כברירת מחדל את האפשרות Anyone with the link. בבדיקה נוספת, החוקרים בנו אפליקציה לצוות מכירות של ארבעה אנשים. Grok הוסיף כניסה עם חשבון Google, אבל הקוד שכתב צירף כל מי שהתחבר לצוות. חשבון זר שמעולם לא הוזמן ראה את כל הלקוחות, ערך רשומה ומחק אחרת. החוקרים מדגישים שבדקו זאת רק על האפליקציות שלהם.
מה SpaceXSI אומרת, ולמה זה לא רק Grok Build
SpaceXSI מסרה ש-Grok Build שומר על האפליקציות פרטיות עד שהיוצר בוחר לשתף אותן. לדבריה, הפרסום דורש כמה שלבים, ובחשבונות של עובדים ברירת המחדל היא Only you. Claroc משיבה שכל מי שפרסם את 35 אלף האפליקציות הפתוחות עבר את כל השלבים האלה, והגיע להגדרה פתוחה.
החוקרים מציינים שגם Lovable, Replit, Base44 ו-Google AI Studio נותנים לכל אפליקציה כתובת שרת משלה. לכן אותה שיטת איתור עובדת גם שם. ההבדל, לדבריהם, הוא בברירת המחדל: ב-ChatGPT, למשל, שיתוף אפליקציה מתחיל במצב Only me. לפני כחודש התגלתה בעיה דומה גם בשיתוף של Muse, סוכן ה-AI של Meta.
מבחינת עסק ישראלי, הסיכון אינו תיאורטי. עובד שבונה כלי פנימי בעשר דקות לא פונה לאיש IT ולא מתקין כלום. התוצאה היא כלי עם רשימת לקוחות או משמרות, שפתוח לכל העולם, ואף אחד בהנהלה לא יודע שהוא קיים.
מה זה אומר עבורכם
- אם פרסמתם אפליקציה ב-Grok Build, פתחו את הגדרות הגישה שלה. כל אפליקציה עם מידע פנימי צריכה להיות במצב Invited users או Only you.
- בדקו מחלון גלישה בסתר: אם האפליקציה נפתחת בלי התחברות, היא פתוחה גם לזרים.
- אפליקציה שאף אחד כבר לא משתמש בה, בטלו את הפרסום שלה. לפי Claroc, הכתובת יורדת מהרשת תוך שניות.
- אל תשמרו סיסמאות, מספרי זהות או נתונים רפואיים באפליקציה שנבנתה בצ'אט, אלא אם בדקתם מי יכול לראות אותה.
- מנהלים: שאלו את העובדים באילו כלי בנייה מבוססי AI הם משתמשים. Grok, Lovable ו-Replit לא דורשים אישור של מחלקת IT.
מה הלאה
Claroc שלחה ל-SpaceXSI ארבע הצעות לתיקון, ובהן ברירת מחדל פרטית ואזהרה כשאפליקציה עם מסד נתונים עולה בלי התחברות. החברה לא התחייבה לשנות את ברירת המחדל. בינתיים, Claroc מודיעה בעצמה לארגונים שזיהתה. מי שבנה משהו ב-Grok Build לא צריך לחכות להודעה כזו.
מקורות והרחבה
- GhostShares 2: Grok Apps Exposed xAI’s Business Secrets and People’s Private DataClaroc
- Grok Build coding agent leaks oodles of confidential info, some belonging to SpaceXSIArs Technica
הכתבה נכתבה במקור בעברית על ידי מערכת GEEKLIK, על בסיס המקורות שלמעלה ובדיקת העובדות מולם.
מצאתם טעות? דווחו לנו
