Rethinking AI TCO: Why Cost per Token Is the Only Metric That Matters

מרכזי הנתונים הופכים ממחסני מידע ל"מפעלי טוקנים" של בינה מלאכותית, כשייצור טוקנים במודלים גנרטיביים הופך לעומס העבודה העיקרי. חברת NVIDIA קוראת למנהלי תשתיות IT לאמץ את מדד "עלות לטוקן" כ-KPI החדש והיחיד לחישוב עלות כוללת של בעלות (TCO) על תשתיות AI. לפי החברה, מדד זה משקף בצורה הטובה ביותר את התפוקה העסקית האמיתית של תשתיות ה-AI בעידן הנוכחי.

מקור: NVIDIA
צוות BDNHOST