Opera משיקה את WebAI: מודלי AI שרצים בתוך הדפדפן, בלי ענן ובלי מנוי
Opera הציגה ב-27 באוקטובר תקן מוצע בשם WebAI, שמאפשר לאתרים ולתוספים להשתמש במודל AI שרץ על המחשב של המשתמש. התכונה כבויה כברירת מחדל, והיא בתצוגה מקדימה ב-Opera One.
TL;DR בקצרה
- WebAI מאפשר לאתרים ולתוספים להשתמש במודל AI מקומי, דרך שלושה ממשקים: Prompt, Decision ו-Semantic Embeddings.
- המודלים כוללים את Gemma של Google, ובמחשבי Mac תואמים גם את המודל המקומי של Apple.
- התכונה כבויה כברירת מחדל, ושום מודל לא יורד למחשב לפני שהמשתמש מפעיל אותה.
- לפי Opera, Google ו-Microsoft תומכות בתקן המוצע. אין עדיין גוף תקינה שאישר אותו.
Opera הציגה ב-27 באוקטובר את WebAI, תקן מוצע שמאפשר לאתרים ולתוספים להפעיל מודל AI שרץ על המחשב שלכם, ולא בענן. התכונה זמינה בתצוגה מקדימה ב-Opera One, ובהמשך תגיע גם ל-Opera GX ול-Opera Neon. היא כבויה כברירת מחדל. לפי Opera, Google ו-Microsoft תומכות ברעיון.
המשמעות פשוטה: אתר יכול להוסיף יכולות AI בלי לשלם על כל בקשה לספק ענן. המשתמש מקבל את היכולות בלי מנוי ובלי לשלוח את הנתונים שלו לשרת חיצוני.
מה WebAI עושה ואיך מפעילים אותו
לפי ההודעה של Opera, WebAI כולל שלושה ממשקים למפתחים. Prompt מייצר טקסט. Decision מסווג מידע. Semantic Embeddings מזהה קשרים בין פיסות מידע, למשל בין מסמכים דומים. המודלים הם מודלים פתוחים ש-Opera מספקת דרך מנוע ההרצה שלה. אפשר להשתמש גם במודלים תואמים שכבר יושבים על המכשיר.
לפי TechCrunch, Opera מציינת את Gemma של Google כדוגמה. במחשבי Mac הוא תומך גם במודל המקומי של Apple. ב-Opera One מפעילים את התכונה בהגדרות, תחת Opera AI, באפשרות Enable Web AI API. ההפעלה מורידה מודל מקומי, וזה יכול לקחת כמה דקות.
יש מגבלות חומרה. התצוגה המקדימה עובדת במחשבי Windows של 64 ביט עם מעבדי Intel או AMD. היא עובדת גם במחשבי Mac עם שבב Apple silicon. היא לא עובדת ב-Mac עם מעבד Intel, בלינוקס או ב-Windows על ARM. המהירות תלויה בכוח העיבוד של המחשב.
כדי להדגים את WebAI, Opera פרסמה כמה תוספים ניסיוניים. אחד צובע פסקאות במאמר לפי הרלוונטיות שלהן למה שאתם עובדים עליו. אחר מחבר חידון על מאמר שקראתם. Opera מדגישה שאלה דוגמאות, לא חלק מהדפדפן.
למה WebAI חשוב גם למי שלא משתמש ב-Opera
בדרך כלל, אתר שרוצה להוסיף סיכום, סיווג או חיפוש חכם צריך לשלם לספק AI על כל בקשה. הוא גם צריך לשלוח אליו את מה שהמשתמש כתב. מודל מקומי משנה את המשוואה: אין עלות לבקשה, והמידע נשאר על המחשב.
לדברי קריסטיאן קולונדרה, סגן נשיא בכיר לדפדפנים ול-AI ב-Opera, ״הרבה ממה שאנשים רוצים מ-AI לא דורש מרכז נתונים״. אבל זה עדיין תקן מוצע בלבד. Opera לא מציינת גוף תקינה שבוחן אותו, ולא פרטה מה בדיוק Google ו-Microsoft התחייבו לעשות. בינתיים הוא עובד רק ב-Opera.
יש גם הסתייגות פרטיות. לפי CyberInsider, במודל מקומי הנתונים נשארים על המחשב. אבל זה לא מבטיח מה האתר או התוסף עושים איתם אחר כך.
מה זה אומר עבורכם
- מפתחים ובעלי אתרים: נסו את שלושת הממשקים על משימה קטנה, כמו סיווג פניות או סיכום מאמר. אל תבנו על WebAI כפתרון יחיד, כי הוא רץ רק ב-Opera.
- שמרו חלופה: אם אתם מוסיפים יכולת מבוססת WebAI, השאירו דרך עבודה גם לגולשים בדפדפנים אחרים, ולמחשבים חלשים.
- משתמשים: לפני שאתם מפעילים את התכונה, בדקו כמה מקום פנוי יש במחשב. ההפעלה מורידה מודל מקומי.
- היזהרו מתוספים: מודל מקומי לא הופך תוסף לבטוח. התקינו רק תוספים מוכרים, ובדקו אילו הרשאות הם מבקשים.
- בארגון: צוותי IT יכולים לשקול מודלים מקומיים למשימות עם מידע רגיש. אבל קודם בדקו מה התוסף או האתר שולחים החוצה.
מקורות והרחבה
- WebAI: local AI for the web, now in OperaOpera
- Opera introduces a new web standard to let users deploy AI locally in their browserTechCrunch
- Opera brings on-device AI to websites and extensionsCyberInsider
הכתבה נכתבה במקור בעברית על ידי מערכת GEEKLIK, על בסיס המקורות שלמעלה ובדיקת העובדות מולם.
מצאתם טעות? דווחו לנו
