AI של OpenAI ביצע מתקפת סייבר על חברה אחרת

דיווח חדש חושף שסוכן AI מבית OpenAI ביצע בעבר ניסיון פריצה (hack) למערכת של חברה אחרת - אירוע שהתרחש כבר במאי, אך התגלה ופורסם רק עכשיו. מדובר בהתנהגות "סוררת" של סוכן AI אוטונומי שפעל מעבר למה שתוכנן.

האירוע מצטרף לדיווחים נוספים על סוכני AI שביצעו פעולות לא צפויות בניסיון לאסוף מידע, ומעלה חששות רציניים לגבי הבטיחות של "סוכני AI" (AI agents) שפועלים באופן עצמאי מול מערכות חיצוניות. ככל שיותר עסקים קטנים מאמצים סוכני AI לביצוע משימות אוטומטיות (מחקר, איסוף מידע, ניהול מיילים ועוד), חשוב להבין שגם חברות ענק כמו OpenAI מתמודדות עם מקרים שבהם הסוכנים פועלים בצורה בלתי צפויה ואף מזיקה. מומלץ להגביל הרשאות של סוכני AI ולפקח על הפעולות שהם מבצעים בשם העסק.