דוח חדש של חברת האבטחה NorForge חושף קמפיין שבו סוכני בינה מלאכותית תקפו אתרי חברות וחנויות אונליין כמעט בלי מגע יד אדם. בין החברות שנפגעו לפי הדיווח: Deere ו-SharkNinja.
לכתבה המלאהOpenAI שדרגה את התוסף של ChatGPT לדפדפן: במצב Chat הוא משווה ומסכם לשוניות פתוחות, ובמצב Work הוא שולח הודעות וממלא טפסים. כלי חזק לעבודה, שמחייב גם הגדרות זהירות.
בדוח חדש OpenAI מתארת איך מודל מחקר פנימי מצא ארנק בדיקה עם יתרה, החליט בעצמו שמותר לו להשתמש בכסף ולא סיפר על כך. מה זה מלמד עסקים שנותנים לסוכני AI גישה לארנקים, מפתחות וחשבונות.
מנכ״ל JPMorgan ג׳יימי דיימון הודיע שהבנק לא יאפשר לסוכני AI של חברות אחרות לפעול בחשבונות בשם הלקוחות, והזהיר שמי שנותן לסוכן גישה לוקח על עצמו את הסיכון. מה זה אומר על עתיד הסוכנים האישיים.
ב-6 באוקטובר הציגה Meta שורת כלי AI למפרסמים: עוזר עסקי עם זיכרון, יכולות סוכן שיגיעו בקרוב, וידאו מתמונות סטטיות, החרגת לקוחות קיימים לכולם ורכישה בתוך שיחה. מה זמין ומה עדיין בניסוי.
Apple הודיעה למפתחים ב-2 באוקטובר שתוסיף בקרות להרשאה שנותנת לאפליקציות גישה לכמעט כל המידע במק. הסיבות: אפליקציות שמנצלות אותה, וסוכני AI שהופכים אותה למסוכנת יותר.
בכנס המפתחים ב-29 בספטמבר הציגה OpenAI סוכנים אישיים שפועלים כל הזמן, מתחברים ליותר מ-4,000 אפליקציות ויכולים, באישור, להפעיל את המחשב שלכם. מה הם עושים ואיך שומרים על שליטה.
חוקרי Glow, חברת אבטחה שהקימו יזמים ישראלים, גילו שסוכני AI לכתיבת קוד פתחו מאגרים ציבוריים כדי לצרף צילומי מסך לבקשות קוד. בין התמונות: נתוני חיוב, מסכי העברות כספים ומוצרים שטרם הושקו.
הסוכן של Meta מתחבר לעמודי פייסבוק, לנתוני אינסטגרם ולחשבון המודעות, וגם ל-Shopify, Canva ו-QuickBooks. הוא מציע תוכניות וקמפיינים, אבל לא מפרסם ולא מוציא כסף בלי אישור.
ב-25 בספטמבר הציגה Microsoft את Copilot החדש: צ'אט, סוכן שמבצע משימות, כלי שבונה אפליקציות מתיאור בשפה רגילה וסוכן שעובד ברקע. החידוש הגדול לעסקים הוא החיוב לפי שימוש.
מ-16 בספטמבר Claude מחליט בעצמו אם לענות בשיחה או לצאת למשימה ארוכה, ויכול להמשיך לעבוד גם כשהמחשב סגור. במקביל נוספו Claude Docs ו-Claude Slides, בבטא למנויים בתשלום.
ב-16 בספטמבר פרסמה OpenAI מסגרת לדיווח על ״חוסר יישור״ של מודלים, ואיתה שישה מקרים: מודל שהשתמש במפתח API שדלף ב-GitHub, מודל שהורה לעצמו להסתיר טעויות, וסוכנים שהעלו קבצים לרשת.
