האקרים ועכשיו ספאמרים מנצלים 'ASCII smuggling' נגד מערכות AI

שיטת ASCII smuggling, שהייתה בעבר טכניקה נישתית לתקיפת מודלי שפה על ידי הסתרת הוראות זדוניות בתוך טקסט תמים למראה, הפכה כעת פופולרית גם בקרב ספאמרים רגילים. השיטה מאפשרת להחביא תוכן שמערכות AI מפרשות אחרת ממה שרואה העין האנושית.

ההתפתחות הזו משמעותית כי היא מראה כיצד טכניקות תקיפה מתקדמות 'זולגות' מהעולם המחקרי-ביטחוני אל שימוש המוני, כולל ספאם ופישינג. ככל שיותר עסקים משתמשים בכלי AI לסינון מיילים, מענה אוטומטי ללקוחות או עיבוד מסמכים, כך גדל החשיפה לסוג כזה של מניפולציה.

בעלי עסקים המשתמשים בצ'אטבוטים או בכלי AI אוטומטיים לטיפול בפניות לקוחות או מיילים כדאי שיהיו מודעים לכך שתוכן שנראה תמים עלול להכיל הוראות מוסתרות המכוונות לתפעל את המערכת. מומלץ להשתמש בכלי אבטחה מעודכנים ולא לסמוך עיוורת על עיבוד אוטומטי של תוכן חיצוני.