מהו חילוץ מודל (Model Extraction)?
חילוץ מודל באמצעות שאילתות הוא ניסיון לבנות העתק פונקציונלי או קירוב שימושי של מודל הזמין דרך API או ממשק אחר. תוקף אוסף קלטים ופלטים, לומד גבולות החלטה או סגנון תגובה, ומשתמש בהם כדי לאמן מודל חלופי. בניגוד להיפוך מודל, המוקד הוא בדרך כלל ביכולות, בהיגיון או בקניין הרוחני של השירות, ולא בהסקת מידע על מאגר האימון. היתכנות התקיפה תלויה בנפח הגישה, בפירוט הפלט ובערך העסקי של המודל.
למה משמש חילוץ מודל (Model Extraction)?
חילוץ מודל עשוי לשמש לשכפול יכולת מסחרית, לניתוח התנהגות לפני עקיפה או לבניית תחליף שמחקה שירות מוגן. עבור ארגונים, הוא מחבר בין אבטחת API, הגנת קניין רוחני וניהול עלויות. צעדי צמצום כוללים אימות והרשאה, מכסות וקצב שאילתות, זיהוי דפוסי איסוף והגבלת פלטים כאשר הדבר אפשרי. חשוב להבחין בין שימוש לגיטימי באינטגרציה או בבדיקות לבין דפוס שמנסה למצות את התנהגות המודל בקנה מידה שאינו תואם את מטרת השירות.
לפני חשיפת יכולת דרך API, כדאי להגדיר שימוש צפוי, גבולות נפח, דפוסי ניטור ופעולת תגובה לחריגה. נתוני שימוש צריכים לאפשר חקירה בלי לאסוף מידע מעבר לנדרש. צוותי מוצר ואבטחה נדרשים להחליט יחד מהו פירוט פלט מוצדק, איזה חיכוך מקובל למשתמש ומהם תנאי הגישה ליכולת בעלת ערך. כך ההגנה נשארת מותאמת לסיכון ולמודל העסקי.
