עורך דין נקנס 5,000 דולר על עדים מומצאים של ChatGPT

בית משפט קנס עורך דין ב-5,000 דולר לאחר שהתברר כי השתמש ב-ChatGPT להכנת ערעור במשפט רצח, וכלל בו ציטוטים מעדים שמעולם לא היו קיימים - 'הזיות' טיפוסיות של מודלי שפה שממציאים עובדות בביטחון מלא.

המקרה הזה אינו הראשון מסוגו, אך הוא ממחיש בעיה שחוזרת שוב ושוב: כלי AI כמו ChatGPT יכולים לייצר תוכן שנשמע משכנע ומקצועי לחלוטין, אבל שגוי לחלוטין מבחינה עובדתית. זה קורה במיוחד כשמבקשים מהמודל מידע ספציפי כמו שמות, תאריכים או מקורות.

לבעל עסק קטן שמשתמש ב-AI להכנת חוזים, מכתבים רשמיים, דוחות או כל מסמך שיש לו השלכות משפטיות או כספיות - זו תזכורת קריטית: אסור לסמוך על AI כמקור אמת בלי בדיקה ידנית. תמיד לוודא עובדות, שמות ומספרים לפני שליחת מסמך רשמי, ובמיוחד לא להעביר תוכן שנוצר ב-AI ללקוח או לרשות ללא עין אנושית שבודקת.