AI על-המכשיר (Edge AI)

AI על-המכשיר (Edge AI) הוא הרצת מודל AI ישירות על הטלפון, המחשב, או מכשיר אחר של המשתמש — בלי לשלוח מידע לשרת חיצוני בענן כלל.

היתרונות המרכזיים: פרטיות גבוהה יותר (המידע לעולם לא עוזב את המכשיר), זמן תגובה מהיר יותר (אין השהיית-רשת), ויכולת עבודה גם ללא חיבור אינטרנט כלל.

המגבלה המרכזית: מכשירים אישיים, גם החזקים ביותר, פשוט לא מסוגלים להריץ מודלים ענקיים כמו מודלי השפה הגדולים המובילים — ולכן AI על-המכשיר מוגבל בדרך כלל למודלים קטנים ופשוטים יותר יחסית.