מסגרת ניהול סיכוני AI של NIST (NIST AI RMF)

מהו מסגרת ניהול סיכוני AI של NIST (NIST AI RMF)?

מסגרת ניהול סיכוני AI של NIST היא פרסום רשמי של National Institute of Standards and Technology: Artificial Intelligence Risk Management Framework (AI RMF 1.0) המציע גישה וולונטרית ומעשית לשילוב שיקולי אמינות וניהול סיכונים בתכנון, בפיתוח, בפריסה ובשימוש במערכות AI. הוא בנוי סביב הפונקציות GOVERN, MAP, MEASURE ו-MANAGE, ומיועד לסייע לארגונים לבחון סיכונים בהקשר של מטרות, בעלי עניין והשפעה בפועל.

למה משמש מסגרת ניהול סיכוני AI של NIST (NIST AI RMF)?

המסגרת משמשת כמקור ייחוס לבניית ממשל AI, להגדרת בעלות ותהליכי החלטה, ולתיעוד הערכות ופעולות הפחתה. היא יכולה לקשר בין סיכוני אבטחה, פרטיות, אמינות ושימוש לרעה לבין מחזור החיים של מודל, יישום או סוכן. עבור הנהלה, הערך הוא בהפיכת שיחה כללית על AI לתהליך שאפשר להקצות לו אחריות, ראיות ומדדים. המסמך אינו מספק רשימת בקרות אוניברסלית או אישור תאימות; יש להתאים את השימוש בו לסוג המערכת, לנתונים ולרמת האוטונומיה.

המסמך שימושי במיוחד כבסיס לשאלות הערכה עקביות, אך יש לקרוא אותו לצד הקשר הארגון והמערכת. ארגון יכול להשתמש בו כדי להשוות חלופות, להגדיר ספי הסלמה ולשפר תיעוד של החלטות לאורך זמן. מומלץ לשמור קישור בין המיפוי למסגרת לבין ראיות מעשיות: תוצאות בדיקה, החלטות בעלות, חריגים, שינויים במודל ותוכנית תגובה לאירועים.