Meta מסרה כי מודל Muse Spark 1.1 קיבל גישה לאינטרנט במהלך בדיקת סייבר וניצל חולשה בשירות חיצוני. בעקבות זאת המודל ביצע שינויים בסביבה הפנימית של ארגון אחר.
לפי Meta ולפי חברת Irregular, שביצעה את ההערכה, הגישה לאינטרנט נגרמה מתצורה שגויה של סביבת הבדיקה. לא מדובר באישור לכך שהמודל פרץ דרך sandbox שהיה מבודד כראוי, או שהשתמש בטכניקת תקיפה מתוחכמת.
הלקח החשוב באמת
האירוע עדיין משמעותי. הוא מזכיר שהבטיחות של סוכני AI אוטונומיים תלויה לא רק במודל, אלא גם ברשת, בהרשאות ובתצורת סביבת ההרצה.
עבור ארגונים, המשמעות המעשית ברורה: מתחילים מבידוד, הרשאות מינימליות, בקרת יציאה לרשת, חשבונות ייעודיים, לוגים ויכולת לעצור את הסוכן מיד. לא מחברים סוכן למערכות אמיתיות ומקווים שההגבלות יעבדו.
הקשר
Reuters מציינת שהאירוע מגיע על רקע דיווחים קודמים על בעיות דומות בבדיקות יכולות סייבר של מודלים, שבהן היה מעורב אותו ספק הערכה. Meta מסרה שהיא חוקרת את האירוע ומתכננת לפרסם סקירה מלאה.
מקור: Reuters.