מהו זיהוי ותגובה ל AI (AIDR – AI Detection and Response)?
זיהוי ותגובה ל AI (AIDR – AI Detection and Response) הוא כינוי ליכולת לזהות, לחקור, לבלום וללמוד מאירועי אבטחה הקשורים למערכות AI או לשימוש לרעה מבוסס AI. הוא עשוי לכלול שימוש לרעה ביישומי AI, פגיעה בזהויות או בחיבורי הנתונים שלהם, פעילות לא מאובטחת של כלים וכשלי בקרה סביב השימוש במודל. מסגרת ניהול סיכוני ה־AI של NIST (NIST AI RMF) מספקת הקשר לניהול סיכונים לאורך מחזור החיים, אך אינה מגדירה את AIDR כקטגוריית מוצרים.
למה משמש זיהוי ותגובה ל AI (AIDR – AI Detection and Response)?
צוותי אבטחה משתמשים ב AIDR כדי להוסיף טלמטריה רלוונטית ל AI לפעולות זיהוי ותגובה, לחקור התנהגות חשודה, לבלום גישה לא מאובטחת לכלים או לנתונים, לשמר ראיות ולהחזיר לקחים להנדסה וניהול (governance). היכולת צריכה להתחבר לנוהלי תגובה לאירועים (IRP), עם בעלות ברורה ונתיבי הסלמה שנבדקו.