רשת של 400 אפליקציות AI תמימות הסתירה מחולל דיפ-פייק מיני, ו-Apple הסירה 19 מהן
תחקיר של WIRED חשף רשת שמציגה אפליקציות לתמונות של חיות מחמד או ללימוד שפות, אבל טוענת מחולל דיפ-פייק מיני למי שהגיע ממודעה בפייסבוק או באינסטגרם.
TL;DR בקצרה
- WIRED וחוקרים מ-AI Forensics ומ-Infoblox קישרו מעל 400 אפליקציות ודומיינים לאותה רשת
- האפליקציות שואלות שרת מרוחק אם להציג את הגרסה התמימה או את מחולל הדיפ-פייק
- Apple הסירה 19 אפליקציות, ו-27 אפליקציות קשורות צברו ב-Google Play מעל 350 אלף הורדות
- Meta פעלה נגד 11,600 חשבונות מודעות וחסמה 209 אפליקציות מפרסום
תחקיר של WIRED חשף רשת של מעל 400 אפליקציות ודומיינים שנראים כמו כלי AI תמימים, אבל מסתירים כלי ליצירת דיפ-פייק מיני. לפי התחקיר, הרשת קשורה למפתחים דוברי סינית ולחברה רשומה בהונג קונג בשם KeLing Technology Limited. אחרי פניית העיתונאים, Apple הסירה 19 אפליקציות מה-App Store.
כך האפליקציות של KeLing עקפו את בדיקת החנויות
על פני השטח, אלה אפליקציות רגילות. אחת מהן, Viefur, מציעה להפוך תמונות של חיות מחמד לדיוקנאות משעשעים. אחרות מתחזות לשיעורי שפה או למאמן כושר מבוסס AI. אבל אחרי ההתקנה, האפליקציה פונה לשרת חיצוני ושולחת לו פרטים. ביניהם שפת המשתמש, המקור שממנו הגיע ומזהה ייחודי.
השרת מחליט מה להציג. משתמש שהוריד את האפליקציה מהחנות יראה בדרך כלל רק את הפיצ'ר המוצהר. לעומת זאת, משתמש שהגיע ממודעה ב-Facebook או ב-Instagram עשוי לקבל ממשק אחר לגמרי. בממשק הזה אפשר להעלות תמונה של אדם אמיתי ולייצר ממנה תמונות וסרטונים מיניים. את התשלום גובים דרך Apple Pay ו-Google Pay.
החוקר Paul Bouchaud מהארגון AI Forensics פירק את הקוד של האפליקציות. החוקר Maël Le Touz מחברת האבטחה Infoblox זיהה כמעט 500 דומיינים קשורים. לדבריהם, בקובץ JavaScript באתרי הרשת הופיעה רשימה של כל האפליקציות והדומיינים, יחד עם מפתחות הצפנה ותגי מעקב של Facebook.
ההיקף של רשת KeLing: מאות אלפי הורדות ועשרות אלפי מודעות
לפי המחקר של Bouchaud, האפליקציות התחילו להופיע בסוף 2025, עם זינוק באביב. בשיא, הרשת רשמה כ-30 אפליקציות ואתרים חדשים בשבוע. בספטמבר היו ב-Google Play עשרים ושבע אפליקציות קשורות. הן צברו מעל 350 אלף הורדות, ורבות מהן קיבלו דירוג שמתאים לכל הגילאים. אחת הפופולריות, DiffAI, עברה את רף 100 אלף ההורדות.
המודעות שהובילו לאפליקציות רצו בפלטפורמות של Meta תחת שמות משלמים מזויפים ועמודים בלי עוקבים. Bouchaud ספר עשרות אלפי מודעות כאלה מתחילת השנה. אחרי ש-WIRED העבירה את רשימת הדומיינים, Meta דיווחה על פעולה נגד 11,600 חשבונות מודעות ומעל 4,700 עמודים עסקיים. החברה גם חסמה 209 אפליקציות מפרסום. לדבריה, את KeLing עצמה היא חסמה מפרסום עוד ב-2025.
למה בדיקה מראש של החנות לא מספיקה
Apple טוענת שהאפליקציות עמדו בכללים בזמן הבדיקה. לדברי הדובר Adam Dema, המפתחים החליפו אחר כך את האתר שממנו האפליקציה שואבת את התוכן. זו בדיוק נקודת התורפה. אפליקציה שמציגה דף אינטרנט חיצוני יכולה לשנות את התוכן שלה בלי לשלוח גרסה חדשה לבדיקה. Apple אומרת שבשנה האחרונה השעתה עשרות אלפי אפליקציות בגלל שיטת ״פיתיון והחלפה״ כזו.
Google הסירה את רוב האפליקציות עוד לפני ש-WIRED פנתה אליה, אבל לא הגיבה לתחקיר. לפי WIRED, גם בזמן סיום התחקיר המשיכו לעלות מודעות ואפליקציות דומות. כלומר, ההסרות לא עצרו את הרשת.
מה זה אומר עבורכם
- הורים: דירוג גיל בחנות לא מבטיח כלום. בדקו אילו אפליקציות AI מותקנות אצל הילדים, במיוחד כאלה שעובדות עם תמונות.
- אל תעלו תמונות של אנשים אחרים לאפליקציות עריכה לא מוכרות. את התמונה מקבל שרת שאינכם יודעים מי מפעיל.
- ראיתם מודעה בפייסבוק או באינסטגרם שמקדמת יצירת תמונות עירום? דווחו עליה דרך תפריט המודעה.
- מישהו יצר תמונה מזויפת שלכם? שמרו צילומי מסך וקישורים, דווחו לפלטפורמה ופנו לגורמי האכיפה.
מה הלאה
Katie Paul מארגון Tech Transparency Project אומרת שהחברות צריכות להסביר לאן הולך הכסף, ואיך הרשתות האלה עוקפות שוב ושוב את מנגנוני הפיקוח. המקרה מראה שהבדיקה צריכה להימשך גם אחרי האישור, ולא רק לפניו. כדאי לעקוב אחרי צעדים של רגולטורים. לפי WIRED, המודעות האלה כבר הובילו לחקירות במדינות שונות.
מקורות והרחבה
- Hundreds of Mundane AI Apps Are Hiding Sexually Abusive Deepfake FeaturesWIRED
- Hundreds of AI apps were part of a network hiding sexually abusive deepfake toolsAppleInsider
הכתבה נכתבה במקור בעברית על ידי מערכת GEEKLIK, על בסיס המקורות שלמעלה ובדיקת העובדות מולם.
מצאתם טעות? דווחו לנו
