חברת הסטארטאפ Prompt Security, המפתחת פלטפורמת אבטחה ופרטיות לשימוש בכלי Generative AI, מתרחבת ומגייסת עובדים למגוון תפקידים בהם ניהול מוצר, פיתוח ודאטה סיינס.
החברה הודיעה על השלמת סבב גיוס סיד בסך 5 מיליון דולר בהובלת קרן Hetz Ventures, בהשתתפות Four Rivers, CyberFuture ומשקיעים פרטיים בהם מנהלי אבטחת מידע בחברות אלסטיק, Airbnb, דולבי ועוד.
Prompt Security מספקת לארגונים פלטפורמה לפיתוח ולשימוש בטוח בשירותי Gen AI. בין אם אלו עובדים המשתמשים באפליקציות AI ארגוניות, או מפתחים הבונים שירותי Gen AI. הפתרון מבוסס על טכנולוגיה חדשנית ו-LLMs שפותחו ב-Prompt Security, בשילוב ניתוח שפה טבעית מבוסס הקשר. המערכת משתמשת בגישה דינמית לאיתור כלי בינה מלאכותית ודפוסי שימוש, ומזהה אלפי כלי AI שונים כולל כאלו שפורסמו לאחרונה.
המערכת נכנסת לשימוש בתוך דקות ספורות מרגע התקנתה, כהרחבה על כל סוגי הדפדפנים הפופולריים ובסביבת פיתוח משולבת (IDE), בנוסף לערכת פיתוח תוכנה (SDK). היא מספקת למנהלים תמונה רחבה על השימוש בכלי בינה מלאכותית בארגון, עם יכולת להגדיר מדיניות גישה לכל אפליקציה ולכל קבוצת משתמשים. המנהלים יכולים להגדיר האם תהליך העיבוד יתבצע בענן או בעמדת הקצה של המשתמש.
רגישות מוגברת לאבטחה
הפתרון של Prompt Security מזהה אוטומטית מתי נעשה שימוש בבינה מלאכותית, בעבודת פיתוח הוא בוחן את תגובות המודל כדי למנוע חשיפת נתונים רגישים. בעבודה ארגונית בכל פעם שנעשית אינטראקציה עם כלי GenAI, לפני שליחת דאטה רגיש, הפתרון של פרומפט סקיוריטי בודק את ההנחיות שסיפק הארגון לשימוש באותם כלים. המערכת מנקה את החלקים הרגישים באופן אוטומטי מהמידע הנשלח למודל, כדי לוודא שמידע רגיש אינו יוצא מהארגון, או חוסמת לחלוטין את האפשרות להוצאת המידע. כך ניתן לבלום תוכן מסוכן שעלול להגיע למשתמשים, הפרת זכויות יוצרים של קנין רוחני, ולהגן מפני התקפות ספציפיות ל-AI כמו Prompt Injection או Jailbreak.
כל ארגון יכול להחליט כיצד הפתרון של Prompt Security יגיב במקרה של חריגה מהנחיות לשימוש בכלי Gen AI. המערכת יכולה להוציא התראה על חריגה לעובד ולארגון כדי לסייע להם בהגברת המודעות ובשיפור רמת האבטחה. המערכת מאפשרת גם לארגונים המחויבים לעמוד בקומפליינס להפיק דוח המציג את אופן השימוש של עובדיהם בכלי Gen AI. הפלטפורמה כבר פועלת בעשרות חברות, לרבות חברות ענק אמריקאיות, עם אלפי משתמשים קבועים שמבצעים מיליוני פעולות מנוטרות מדי חודש ומספקת הגנה לארגונים וללקוחותיהם.
על פי ההערכות ב-95% מהארגונים נעשה שימוש קבוע בבינה מלאכותית יוצרת, שנע בין עובדים בודדים המשתמשים בכלים כמו ChatGPT ובין מחלקות שלמות המשלבות את ה-Gen AI בתהליכי העבודה שלהם ועד לשילוב בקנה מידה גדול במוצרים המסופקים ללקוחות. פעולות אלו נעשות לעיתים ללא פיקוח או אישור של אנשי הסייבר בארגונים, מה שיוצר מגיפה חדשה של "Shadow AI" - כלי בינה מלאכותית הפועלים בצללים. מחקר שנערך לאחרונה על ידי גוגל הראה שניתן לגרום לכלים כמו ChatGPT לחשוף כמויות גדולות של דאטה ששימש לאימון שלהם.
"לא מתפשרים"
Prompt Security הוקמה באוגוסט 2023 על ידי איתמר גולן, המשמש מנכ"ל החברה וליאור דריהם, CTO, בעלי הכרות עמוקה הן בתחום הסייבר והן ב-AI. איתמר וליאור, יוצאי 8200, צברו שנים של ניסיון בבנייה ואבטחת מערכות ML בחברות צ'ק פוינט ואורקה סקיוריטי. גולן היה חלק מצוות ההקמה של OWASP - דירוג עשרת סיכוני האבטחה המובילים ביישומים מבוססי LLM. החברה מעסיקה 12 עובדים, מרביתם בישראל.
איתמר גולן, מייסד משותף ומנכ"ל Prompt Security: "השימוש ב-Generative AI מתרחב במהירות, ובצדק. מדובר בטכנולוגיה מהפכנית שמאיצה את כלל תהליכי העבודה, כל עסק ששואף להישאר רלוונטי מחויב לאמץ אותה. עם זאת, כמו כל טכנולוגיה חדשה, לצד ההזמנויות הרבות ישנן סכנות לא מעטות - החל מדליפת מידע, הפרת זכויות יוצרים ומתקפות זדוניות. הפלטפורמה שלנו מסייעת למנהלי אבטחת המידע בארגון לאפשר באופן בטוח ואחראי אימוץ נרחב של GenerativeAI, בלי להתפשר על סוגיות אבטחה ופרטיות."