Nvidia משיקה כלי חינמי להפעלת AI מקומי מכמה מחשבים ביחד

Nvidia השיקה כלי חדש וחינמי שמאפשר לחבר כמה מחשבים - כולל מחשבים עם כרטיסי מסך RTX ואפילו מקבוקים - יחד לרשת אחת, וליצור למעשה 'מרכז נתונים אישי' קטן שמסוגל להריץ מודלי שפה גדולים (LLM) באופן מקומי, בלי להזדקק לשרתי ענן חיצוניים.

הכלי מנתב את העבודה בין המחשבים המחוברים כך שגם מכונות בודדות, שלא היו מספיק חזקות בעצמן להריץ מודלים גדולים, יכולות יחד לבצע את המשימה. מדובר במהלך שמנגיש הרצת AI מקומי לגורמים שלא יכולים להרשות לעצמם שרתים ייעודיים. עבור בעל עסק קטן שיש לו כמה מחשבים במשרד שלא מנוצלים במלואם, זה יכול להיות פתרון מעניין להרצת כלי AI פנימיים - כמו צ'אטבוט לשירות לקוחות או ניתוח נתונים - בלי לשלם על מנויי ענן חודשיים ובלי לשלוח מידע רגיש של העסק לשרתים חיצוניים. זהו יתרון משמעותי מבחינת פרטיות ואבטחת מידע.