דילוג לתוכן
SundAIשיחה ללא עלות20 דק׳
תפריט
לכל המדריכים

איך מטמיעים מודל שפה בארגון ומונעים דליפת מידע?

לפני שמחברים מודל שפה לנתוני לקוחות, כדאי לבדוק מי רשאי לראות כל פרט וכמה זמן באמת נחסך. פיילוט במוקד החזרות מדגים איך עושים זאת ומה בודקים באבטחת ה־API.

ממשל AI מתחיל בהחלטה אחת של ההנהלה

לקוחה שואלת אם היא יכולה להחזיר מוצר. כדי לנסח תשובה, עוזר השירות צריך את פרטי המוצר, תאריך הקנייה ומדיניות ההחזרות. הנציגה בודקת את הזכאות, שולחת את התשובה ומאשרת זיכוי במידת הצורך. תקן ISO/IEC 42001 עוסק בניהול מערכות AI לאורך חייהן. בפיילוט כזה אפשר ליישם את העיקרון באמצעות חלוקת אחריות ברורה.

  • המנכ״ל או מנהלת היחידה קובעים תקציב ויעד עסקי, למשל קיצור זמן הטיפול תוך שמירה על דיוק התשובות.
  • מנהל הטכנולוגיות (CTO) ממפה את המערכות שהעוזר יכול לקרוא ומתעד מי אחראי לחיבור ומי יכול לנתק אותו.
  • מנהלת אבטחת המידע (CISO) קובעת באילו תנאים עוצרים, מי בודק תקלה ומה צריך להוכיח כדי לחדש את הפעילות. החלפת מודל, ספק או מקור מידע היא הזדמנות לבחון שוב את ההחלטה.

מה בודקים לפי ה־GDPR וחוק ה־AI האירופי?

כשה־GDPR חל, מתעדים את מטרת העיבוד ואת הבסיס החוקי לשימוש במידע אישי. מעבירים למודל רק את השדות הדרושים לבירור ההחזרה. שואלים את הספק אם הוא משתמש בפניות הלקוחות לאימון, אילו ספקי משנה מקבלים גישה ומתי נמחקים העותקים. אם הספק מעבד מידע מטעמכם, מסדירים את התנאים הנדרשים לפי סעיף 28. כשהעיבוד צפוי ליצור סיכון גבוה לזכויות ולחירויות של אנשים, עורכים מראש תסקיר השפעה על הגנת המידע. לעניין חוק ה־AI האירופי, בודקים מה תפקיד הארגון ומה השימוש המיועד. דרך מעשית לקדם אוריינות AI לפי סעיף 4 היא לתרגל עם הנציגים זיהוי טיוטה שמבטיחה זיכוי בניגוד למדיניות.

איך מאבטחים את ה־API של מודל השפה?

שרת האפליקציה מתווך בין הנציגה לספק המודל. בפיילוט נותנים לעוזר הרשאת קריאה במערכת ההחזרות. הרשאת הזיכוי נשארת בידי העובדים.

  • שומרים את מפתח הגישה בכספת סודות בצד השרת, מצפינים את התעבורה ומגדירים מכסת שימוש לכל משתמש.
  • לפני שליפת טקסט בודקים בשרת שהנציגה המחוברת רשאית לעיין בתיק ובמסמך המסוים. הבדיקה חשובה במיוחד כשהחיבור הטכני למערכת פועל בחשבון שירות בעל הרשאות רחבות.
  • ביומן המערכת מתעדים מזהה בקשה, החלטת הרשאה, גרסת מודל ועלות. משאירים תוכן פניות, מפתחות ופרטים אישיים מחוץ ליומן השוטף, וקובעים למי יש גישה לנתוני האבחון ומתי מוחקים אותם.

בדיקה פשוטה לגילוי דליפת מידע לפני ההשקה

פותחים שני חשבונות בדיקה ויוצרים מזכר אחריות פיקטיבי שרק אחד מהם רשאי לקרוא. שואלים את אותה השאלה משני החשבונות ובודקים את התשובה, הציטוט, הקישור למקור ויומני המערכת. מבטלים גם את הרשאת החשבון הראשון, פותחים שיחה חדשה ומודדים מתי הביטול נכנס לתוקף. אם פרטים מהמזכר עדיין מופיעים למי שהרשאתו פגה, מנתקים את מקור המידע, מתקנים וחוזרים על הבדיקה.

כמה שווה הזמן שנחסך בכל פנייה?

נניח שהמוקד מטפל ב־300 פניות דומות בחודש, וזמן הטיפול הממוצע יורד משמונה לחמש דקות, כולל בדיקה ותיקון. שלוש הדקות שהתפנו בכל פנייה מצטברות ל־15 שעות בחודש. לפי עלות עבודה של 40 אירו לשעה, ערכן 600 אירו אם הצוות יכול לנצל אותן למשימות אחרות. אחרי הוצאות תפעול חודשיות של 180 אירו, נותר ערך משוער של 420 אירו לפני עלות ההטמעה החד־פעמית. בדקו גם את דיוק התשובות וכמה תיקים נפתחו מחדש. כדי לדווח על חיסכון כספי בפועל, בדקו איזו הוצאה קטנה.

איך SundAI עוזרת לפני רכישה וחיבור למערכות?

לשיחת היכרות של 20 דקות ללא עלות אפשר להביא שאלה אחת, למשל אם לאפשר לעוזר לקרוא את תיבת ההחזרות. במסגרת Decision Review בעלות 490 אירו תקבלו המלצה מנומקת בכתב ופירוט של הנקודות שדורשות בירור. אם תתקדמו להטמעה, נוכל למפות עם ספק ה־IT שלכם את זרימת המידע, לבדוק הרשאות ולמדוד עם צוות השירות את זמן הטיפול. גילוי מוקדם של חיבור שחושף תיקים מיותרים יכול לחסוך פיתוח חוזר וסבב נוסף של בדיקת ספקים.

שיחת היכרות ללא עלות על החלטת ה־AI שלכם · 20 דקות

מקורות