דילוג לתוכן
SundAIשיחה ללא עלות20 דק׳
תפריט
מדריכי AI ואבטחת מידע להורדה

חמישה סיכוני אבטחה בסוכני AI ואיך בודקים אותם

בדקו מה הסוכן רשאי לקרוא ולשנות, מתי הוא צריך לקבל אישור ואיך עוצרים פעולה חריגה.

הרשאות לכלים וזהויות

  • סיכון ראשון הוא הרשאת יתר. תנו לכל כלי זהות עם ההרשאות הדרושות למשימה, ודרשו אישור לפעולה רגישה. ודאו שמשימת קריאה אינה יכולה לשנות רשומות.
  • סיכון שני הוא זהות משותפת או חלשה. חסמו סיסמאות חלשות, התאימו את האימות הרב־שלבי לסיכון והחליפו סודות שנחשפו. ודאו שביטול חשבון בדיקה אכן מפסיק את הגישה.

מידע חיצוני ושליפת מסמכים

  • סיכון שלישי הוא השפעה של הוראות המסתתרות במסמך, באתר או בהודעת דוא״ל. התייחסו לתוכן שמתקבל ממקורות אלה כאל נתונים. הגבילו במערכת את היעדים שאליהם מותר לסוכן לשלוח מידע.
  • סיכון רביעי הוא חשיפת מידע בין תפקידים או לקוחות. בדקו הרשאות לפני שליפת מסמך ולפני הפעלת כלי. שאלו אותה שאלה משני חשבונות בדיקה עם הרשאות שונות והשוו את התשובות ואת המקורות.

מגבלות פעולה וחזרה לשגרה

  • סיכון חמישי הוא רצף פעולות או הוצאה שחורגים מהצפוי. הגדירו מכסות ומגבלות, תעדו פעולות וקבעו מי רשאי לעצור את הסוכן. בסביבת בדיקה, ודאו שהמערכת עוצרת כשהמכסה מוצתה.
  • רשמו בכל בדיקה איזו פעולה מותרת, איזו צריכה להיחסם, מה קרה בפועל, מי בדק ומתי. הוסיפו משימה לתיקון כאשר התוצאה חורגת מהצפוי.
  • התחילו בתהליך אחד. הרחיבו את הגישה אחרי שהצוות הדגים גם פעולה מורשית וגם חסימה כנדרש.

קובץ להורדה

קובץ המקור באנגלית · 4 עמודים

בקשת קובץ ה־PDF באנגלית

שאלות על המדריכים

האם המדריכים בחינם?

כן. אפשר לקרוא את רשימות הבדיקה בעברית כאן. קובצי המקור זמינים גם באנגלית, בשוודית ובדנית, ללא תשלום.

איך משתמשים ברשימת הבדיקה?

בחרו מערכת אחת ותעדו את התשובות והבדיקות. הרשימה עוזרת לאסוף מידע ולזהות פערים. הערכת עמידה בדרישות מחייבת לבדוק את המערכת, את תפקיד הארגון ואת הדין הרלוונטי.

האם בקשת הקובץ מצרפת אותי לדיוור?

בקשת הקובץ משמשת למסירת המדריך. להצטרפות לסדרת שלוש ההודעות צריך לבחור בכך במפורש ולאשר את כתובת הדוא״ל.