הרעלת נתונים (Data Poisoning)

אם מערך-הנתונים לאימון נאסף חלקית מהאינטרנט הפתוח, תוקף יכול להזריק לתוכו תוכן מטעה במכוון — כך שהמודל "ילמד" דפוס שגוי או מוטה, בלי שאיש שם לב בזמן האימון עצמו.

הרעלת-נתונים קשה במיוחד לזיהוי אחרי-מעשה, כי הפגם "אפוי" בתוך המודל עצמו — לא ניתן פשוט למחוק אותו כמו שממחקים קובץ פגום, אלא רק לאמן מחדש עם נתונים נקיים יותר.