מהו כרטיס מודל (Model Card)?
כרטיס מודל לניהול סיכונים הוא מסמך מובנה שמסביר מהו המודל, לאילו שימושים הוא נועד, כיצד הוערך, אילו מגבלות או הטיות ידועות קיימות ומהם תנאי השימוש הרלוונטיים. הרעיון הוצג במחקר של Google כדי לשפר שקיפות סביב מודלים של למידת מכונה. כרטיס מודל אינו הצהרת אבטחה ואינו אישור התאמה רגולטורי. ערכו הוא יצירת בסיס מתועד לשיחה בין מפתחי מודל, בעלי מוצר, אבטחה, פרטיות ומקבלי החלטות.
למה משמש כרטיס מודל (Model Card)?
ארגונים משתמשים בו כדי לתעד בעלות, גרסה, שימושים מיועדים, נתוני הערכה, מגבלות, תלות ותנאים לשילוב במוצר או בתהליך עסקי. הוא יכול להדגיש מתי נדרשת הערכה נוספת, למשל לפני שימוש בנתונים רגישים או הפעלת סוכן. כדי שיהיה שימושי, הכרטיס צריך להיות מעודכן, ניתן לאיתור ומחובר לתהליך שינויי מודל. הוא מסייע לשאול את השאלות הנכונות, אך החלטת פריסה עדיין דורשת בדיקות אבטחה, הערכת סיכונים והבנת ההקשר התפעולי.
כרטיס מודל איכותי צריך להציג גם מה אינו ידוע: גבולות ההערכה, אוכלוסיות שלא נבדקו, תרחישים שלא נתמכו ותלויות חיצוניות. תיעוד כזה מפחית העברת אחריות לא מבוססת בין צוותים. בעת שימוש במודל של ספק, הכרטיס יכול לשמש בסיס לבדיקת פערים מול צרכי הארגון, אך אינו פוטר מאימות עצמאי של נתונים, אינטגרציות, הרשאות והתנהגות בתרחיש היעד. התיעוד מאפשר למדוד שיפור, לבחון חריגות ולחזור להחלטה כאשר תנאי השימוש משתנים.
