עורך דין נענש על ציטוטים מומצאים מ-ChatGPT

מקרה חדש ממחיש שוב את הסיכון שבשימוש עיוור בכלי AI: עורך דין השתמש ב-ChatGPT להכנת מסמך משפטי, וה-AI "המציא" עדויות מעדים שכלל לא קיימים - תופעה הידועה כ"הזיה" (hallucination). כתוצאה מכך, עורך הדין נענש משפטית.

זו לא הפעם הראשונה שקורה מקרה כזה, אבל הוא ממחיש בעיה מתמשכת: כלי AI כמו ChatGPT יכולים לייצר טקסט שנשמע משכנע לחלוטין אך מבוסס על עובדות מומצאות, במיוחד כשמדובר בציטוטים, מקורות, או נתונים ספציפיים. לבעלי עסקים שמשתמשים ב-AI לכתיבת חוזים, מסמכים רשמיים, תוכן שיווקי עם נתונים, או מענה ללקוחות - זו תזכורת קריטית: אסור לסמוך על AI כמקור אמת בלי בדיקה עצמאית, במיוחד כשמדובר בעובדות, נתונים או ציטוטים שיכולים להשפיע משפטית או עסקית.