דו”ח חדש של פאלו אלטו נטוורקס חושף: בכל ארגון משתמשים בממוצע ב-66 יישומי GenAI, מהם 6.6 מוגדרים כבעלי סיכון גבוה • השימוש גובר – אך הפיקוח הארגוני מתקשה להדביק את הקצב
דו”ח חדש של חברת האבטחה פאלו אלטו נטוורקס, שפורסם השבוע, מצביע על זינוק חד בשימוש של המגזר העסקי ביישומי בינה מלאכותית גנרטיבית (GenAI) – לצד עלייה מקבילה במספר תקריות אבטחת המידע הנובעות מהם.
לפי הדו”ח, במהלך השנה החולפת חלה עלייה של 890% בשימוש הארגוני ביישומי GenAI, כאשר הרבעון האחרון של 2024 ריכז את עיקר הזינוק. הסיבה המרכזית: השקעות מוגברות בתחום והשקות של מודלים מתקדמים, שהניעו עסקים לאמץ כלים אלו בקצב מהיר – לעיתים ללא כל פיקוח מצד מחלקות ה-IT.
הנתונים מראים כי בכל ארגון נעשה כיום שימוש בממוצע ב-66 יישומים שונים מבוססי בינה מלאכותית. בארגונים מסוימים מדובר אף במאות. בין היישומים הפופולריים ביותר: כלים לסיוע בכתיבה – 34% מהשימושים. צ’טבוטים – 28.9%. כלי חיפוש פנים-ארגוניים – 10.6%. פלטפורמות למפתחים (AI לכתיבת קוד) – 10.3%. ארבעת התחומים האלו מהווים יחד כ-84% מכלל השימושים הארגוניים בטכנולוגיית GenAI.
לצד ההתרחבות המרשימה בשימוש, דו”ח פאלו אלטו מציג גם גידול משמעותי בתקריות הקשורות לשימוש ב-AI בארגונים. ברבעון הראשון של 2025, נרשם זינוק של פי 2.5 במספר תקריות דליפת מידע הנובעות מיישומי GenAI – כ-14% מכלל התקריות שזוהו על ידי החברה בתקופה זו.
בממוצע, בכל ארגון נעשה שימוש ב-6.6 יישומים שמסווגים כבעלי ״סיכון גבוה״. מדובר, למשל, בכלים עם גישה ישירה למידע רגיש, או כאלה המופעלים דרך חשבונות משתמשים אישיים – מחוץ לפיקוח הארגוני.
בין הסיכונים המודגשים בדו”ח: חוסר שקיפות לגבי השימושים השונים שעובדים עושים בכלי GenAI. חשיפה של מידע דרך פלטפורמות לא מאובטחות. אינטראקציה עם מודלים פרוצים או מניפולטיביים. שימוש נרחב בתוספים וסוכני AI עצמאיים שאין עליהם שליטה מרכזית.
לדברי יוני אלון, סגן נשיא למחקר בפאלו אלטו נטוורקס, ״ארגונים רבים אימצו את הבינה המלאכותית במהירות – אך ללא כלים שיאפשרו להם להבין, לשלוט ולנטר את השימוש בה״.
הדו”ח מבקש להדגיש כי השאלה המרכזית איננה אם לאמץ את הבינה המלאכותית, אלא כיצד לעשות זאת בצורה מבוקרת. המשמעות: פיתוח מדיניות ברורה לשימוש ביישומי GenAI, הכשרת צוותי אבטחה לעבודה מול כלים חדשים, ונקיטת אמצעים לאיתור סיכונים פוטנציאליים בזמן אמת.
במילים אחרות, מדובר באתגר ניהולי ולא רק טכנולוגי – כזה שמחייב כל ארגון לגבש מחדש את מדיניות אבטחת המידע שלו בעידן שבו גם הצ’טבוט הפשוט ביותר עשוי להוות איום אם לא מבוקרת פעילותו.
פאלו אלטו קוראת למנהלים ולמחלקות IT לשלב ידיים – ולמצוא את האיזון הנכון בין יעילות, חדשנות ואחריות.
