הטיה אלגוריתמית (Bias)

הטיה אלגוריתמית (Bias) היא כשמודל AI "יורש" דעות קדומות, סטריאוטיפים או אי-דיוקים מהנתונים העצומים שעליהם הוא אומן — ומשקף אותם בתשובותיו, לרוב בלי שום כוונה או מודעות מצד מי שבנה אותו. זו לא תוצאה של "רוע" או החלטה מודעת — היא תוצאה ישירה של איך שהמודל לומד: הוא מזהה תבניות סטטיסטיות בנתונים ומשחזר אותן.

הבעיה נובעת מכך שחומר האימון — טקסטים ותמונות שנאספו מהאינטרנט — כבר מכיל בתוכו הטיות חברתיות קיימות ומושרשות. אם באינטרנט תפקיד או תחום מסוים מיוצג בעיקר על ידי קבוצה אחת, המודל "לומד" את הדפוס הזה כאילו הוא עובדה כללית, ומשחזר אותו גם כשזה לא מדויק או הוגן.

דוגמה מוכרת: מודל ליצירת תמונות שמתבקש לצייר "רופא" ומייצר כמעט תמיד דמויות גבריות, או "מזכירה" ומייצר כמעט תמיד דמויות נשיות — כי כך נראה רוב חומר האימון, לא כי יש לכך הצדקה עניינית. זו אחת הבעיות המרכזיות שתחום היישור (Alignment) של AI מנסה להתמודד איתה.