תמחור-לפי-טוקן (Token Pricing)

כל בקשה למודל שפה נמדדת בטוקני-קלט (מה שנשלח) וטוקני-פלט (מה שנוצר), ולכל סוג יש לרוב מחיר שונה. שיחה ארוכה עם הרבה הקשר עולה יותר משיחה קצרה, גם אם שתיהן "בקשה אחת".

מודל-תמחור זה יוצר תמריץ כלכלי אמיתי לניהול-הקשר יעיל (לא לגרור היסטוריית-שיחה מיותרת) ולבחירת מודל בגודל-מתאים למשימה — לא תמיד המודל החזק ביותר משתלם לכל שימוש.