Apple מחמירה את כללי ה-App Store נגד דיפ-פייק מיני ואפליקציות ״הפשטה״
ההנחיות החדשות מחייבות מפתחים למנוע ולהסיר באופן יזום תמונות אינטימיות שנוצרו בלי הסכמה, גם ב-AI, ומוסיפות כלל נגד אפליקציות שמסתירות פיצ׳רים בזמן הבדיקה ומפעילות אותם אחרי האישור.
TL;DR בקצרה
- Apple עדכנה ב-16 באוקטובר את סעיף 1.2: אפליקציות עם תוכן גולשים, כולל כלי AI ליצירת תמונות, חייבות למנוע ולהסיר תמונות אינטימיות שנוצרו בלי הסכמה.
- סעיף 2.5.19 החדש מאיים בהסרה מהחנות ומתוכנית המפתחים על אפליקציות שמוסיפות אחרי האישור פיצ׳רים שלא הוצגו בבדיקה.
- לפי Apple, בשנה שעברה היא מנעה מיותר מ-150 אלף אפליקציות בעייתיות להגיע ללקוחות וסגרה יותר מ-193 אלף חשבונות מפתחים.
- העדכון מגיע אחרי שנה של תחקירים ולחץ, כולל דרישה של התובע העירוני בסן פרנסיסקו והפרשה סביב Grok.
כללי ה-App Store מחמירים נגד דיפ-פייק מיני. Apple עדכנה ב-16 באוקטובר את ההנחיות לבדיקת אפליקציות. מעכשיו מפתחים חייבים במפורש למנוע ולהסיר תמונות אינטימיות בלי הסכמה של מי שמופיע בהן. החובה חלה גם על תמונות שנוצרו בכלי AI.
לצד זה Apple הוסיפה כלל חדש נגד אפליקציות שמסתירות את ייעודן האמיתי בזמן הבדיקה ומפעילות אותו רק אחרי האישור. התרגיל הזה מכונה Bait and Switch.
העדכון פונה בעיקר לאפליקציות ״Nudify״, או בעברית אפליקציות ״הפשטה״. אלה אפליקציות שמקבלות תמונה רגילה של אדם אמיתי ומייצרות ממנה תמונה עירומה מזויפת. ב-Apple מזכירים שתוכן פורנוגרפי אסור בחנות כבר שנים. מה שמשתנה הוא שהאחריות עוברת בצורה ברורה מבעבר אל המפתחים. בנוסף, החברה מפרטת מה יקרה למי שמנסה לעקוף את המערכת.
שלושה שינויים ב-App Store, מחיר אחד: הרחקה מהחנות
סעיף 1.2 עוסק בתוכן שמשתמשים יוצרים ומשתפים. הוא מזכיר עכשיו במפורש תמונות אינטימיות בלי הסכמה, לצד הפרת זכויות יוצרים ובריונות אנונימית. הוא מתייחס גם לאפליקציות שמאפשרות לייצר תוכן, כלומר כלי AI.
לפי Apple, אפליקציות כאלה צריכות למנוע ולהסיר את התוכן הזה באופן יזום. Apple עשויה לראות במפתח שלא מטמיע אמצעי הגנה מתאימים, או שלא מתקן הפרה אחרי התראה, מפר של קוד ההתנהגות למפתחים. היא עשויה גם להרחיק אותו מהחנות.
סעיף 2.5.19 החדש עוסק באפליקציות שמציגות דבר אחד לצוות הבדיקה ומשהו אחר למשתמשים. למשל, אפליקציה שמוסיפה אחרי האישור פיצ׳רים שלא היו בגרסה שהמפתח שלח לבדיקה. העונש: הסרה מה-App Store והרחקה מתוכנית המפתחים של Apple.
לפי 9to5Mac, Apple חידדה גם את הסעיף הקיים על הסתרת פיצ׳רים (2.3.1). כעת הוא מזכיר במפורש ערפול קוד (Obfuscation). זו שיטת הסתרה שמובילה להסרת האפליקציה ולסגירת חשבון המפתח.
סעיף 5, שעוסק בהיבטים המשפטיים, זכה להבהרה אף הוא. Apple תסיר מה-App Store אפליקציות שמסייעות לסחר בבני אדם או לניצול ילדים. היא תחסום אותן גם בערוצי ההפצה החלופיים.
״אנחנו לא מהססים להסיר אפליקציות ולהרחיק את המפתחים שעומדים מאחוריהן כשהם מפרים את ההנחיות״, כך מסרה Apple בהודעה למפתחים. החברה מסרה שבשנה שעברה מנעה ממעל 150 אלף אפליקציות עם בעיות בטיחות להגיע ללקוחות. היא גם סגרה מעל 193 אלף חשבונות מפתחים בגלל הונאה ושימוש לרעה.
לדבריה, חלק מההפרות מגיעות מגורמים זדוניים, לפעמים מבצעי הונאה מאורגנים. הם מסתירים תוכן מזיק שמתחיל לפעול רק אחרי אישור האפליקציה.
שנה של לחץ ציבורי
העדכון לא מגיע בחלל ריק. בינואר זיהה ארגון הפיקוח Tech Transparency Project עשרות אפליקציות הפשטה ב-App Store. באפריל הוא פרסם תחקיר המשך. לפי התחקיר, גם הצעות החיפוש והמודעות בחנות הפנו משתמשים לאפליקציות כאלה.
ביולי שלח התובע העירוני של סן פרנסיסקו מכתבי התראה ל-Apple ול-Google. הוא דרש להסיר 13 אפליקציות להחלפת פנים, שמונה מהן ב-App Store. לטענתו, האפליקציות שימשו להפשטת תמונות של אנשים אמיתיים. Apple מסרה אז שהסירה שלוש מהן ושהיא בקשר עם המפתחים של ארבע נוספות.
ברקע עומדת גם פרשת Grok, הצ׳טבוט של xAI, ששימש ליצירת תמונות מיניות מזויפות. לפי MacRumors, מוקדם יותר השנה Apple הבהירה ל-xAI שהיא תסיר את האפליקציה אם הדבר ימשיך. היא אישרה גרסה מעודכנת רק אחרי ש-xAI הטמיעה אמצעי הגנה.
תרגיל ההסוואה חורג מדיפ-פייק. ביולי חשף 9to5Mac עשרות אפליקציות שדמו למשחקים וכלים תמימים. הן הציגו פלטפורמות הימורים כשפתחו אותן מכתובת IP ברזילאית.
למה כללי ה-App Store חשובים גם לעסקים בישראל
אם אתם מפתחים אפליקציה, או מזמינים אחת מחברת פיתוח, הכללים החדשים חלים עליכם. זה נכון כשיש בה יצירת תמונות או וידאו ב-AI, העלאת תמונות של משתמשים או צ׳אט פתוח. Apple כבר לא מסתפקת בכך שהתוכן אסור בתקנון. היא מצפה למנגנון סינון, דיווח וחסימה שעובד בפועל. היא מצפה גם לטיפול מהיר אחרי התראה.
גם השיטה של שליחת גרסה מצומצמת לבדיקה והוספת יכולות אחר כך עומדת עכשיו תחת זכוכית מגדלת.
ולמי שאינו מפתח: דיפ-פייק מיני הוא כבר כלי לסחיטה, להשפלה ולפגיעה במוניטין. הוא פוגע גם בעובדים ובמנהלים. המהלך של Apple לא יעלים את התופעה. אבל כל צעד שמקשה לייצר תמונות כאלה בכמה הקשות בטלפון מצמצם את הנזק.
מה זה אומר עבורכם
- מפתחים עם תכנים שיוצרים גולשים או AI: ודאו שיש סינון לתוכן מיני של אנשים אמיתיים וכפתור דיווח. ודאו גם שיש חסימת משתמשים ונוהל לטיפול מהיר בהתראה מ-Apple. תעדו את כל אלה.
- מה שנבדק הוא מה שעולה: אם אתם מפעילים יכולות מרחוק אחרי האישור, ודאו שהצגתם ותיארתם אותן בבדיקה. אל תסתמכו על ערפול קוד כדי להסתיר פיצ׳ר.
- עובדים עם חברת פיתוח חיצונית? הכניסו לחוזה התחייבות לעמידה בהנחיות של Apple. אם Apple תסגור את חשבון המפתח, הוא שלכם.
- נתקלתם באפליקציה כזו? דווחו עליה דרך reportaproblem.apple.com. בדקו גם אילו אפליקציות עריכת תמונות יש במכשירים של הילדים.
- הכינו נוהל לעובדים: אם תמונה מזויפת של עובד או מנהל מתפשטת ברשת, מתעדים. מדווחים לפלטפורמה ולמשטרה. לא נכנעים לדרישות של סוחטים.
מה הלאה
המבחן האמיתי יהיה באכיפה. Apple ו-Google כבר הסירו בעבר גלים של אפליקציות הפשטה אחרי שחוקרים הצביעו עליהן. בכל זאת, תחקיר ההמשך של TTP מצא שהצעות החיפוש והמודעות ב-App Store עדיין הפנו אליהן.
Apple מבטיחה לשפר את הכלים שלה כדי לזהות מהר תוכן שמתחיל לפעול רק אחרי האישור. נראה בקרוב אם הדוחות הבאים של ארגוני הפיקוח יראו שינוי.
מקורות והרחבה
- New App Store Rules Target AI Deepfakes and Nudify AppsMacRumors
- Strengthening App Review Guidelines against nonconsensual intimate imagery and bait-and-switch appsApple Developer
- Apple's new App Store rules crack down on AI nudification and 'bait-and-switch' apps9to5Mac
- Apple and Google Hit With Demand to Pull AI 'Nudify' AppsMacRumors
הכתבה נכתבה במקור בעברית על ידי מערכת GEEKLIK, על בסיס המקורות שלמעלה ובדיקת העובדות מולם.
מצאתם טעות? דווחו לנו
