הסרת אבטחת AI הפכה לשירות מסחרי זמין לכולם

דיווח חדש חושף שהסרת מנגנוני הבטיחות (guardrails) ממודלים בקוד פתוח כבר אינה דורשת ידע טכני מיוחד - היא הפכה לשירות מסחרי 'טורנקי' שכל אחד יכול לרכוש. המשמעות היא שמודלים שנועדו במקור לסרב לבקשות פוגעניות או מסוכנות אפשר 'לנקות' מההגבלות הללו בקלות יחסית.

לבעלי עסקים שמשתמשים במודלים פתוחים (open-weight) לצורך פיתוח כלים פנימיים או מוצרים ללקוחות, זו התראה חשובה: אם מתחרים או ספקים משתמשים בגרסאות 'מנוקות' של מודלים כאלה, זה עלול ליצור סיכוני מוניטין, אבטחת מידע ואף חשיפה משפטית אם המוצר משמש לייצור תוכן פוגעני.

מומלץ לבדוק את מקור כל מודל AI קוד-פתוח שמוטמע במוצרי החברה, ולוודא שהוא מגיע מספק אמין שלא עבר עיבוד כזה, בפרט אם המוצר פונה ללקוחות קצה.