כחלק מהדיון הציבורי החיוני סביב הבינה המלאכותית, המכון הלאומי לתקנים וטכנולוגיה בארה"ב (NIST) פרסם לאחרונה מסמך המתאר רשימת גורמים התורמים לאמון הפוטנציאלי בפלטפורמות ואפליקציות AI והזמין את הציבור להתייחס לנושא. AnyVision הישראלית היא הגוף הראשון מתוך תעשיית הבינה המלאכותית שהמתייחס ליוזמה ומגיב ל-NIST במכתב פתוח שכותרתו: "טיהור הטיה דמוגרפית תוך הגברת השקיפות בזיהוי פנים".
AnyVision היא חברת AI המתמקדת בעיקר בטכנולוגיית זיהוי פנים ואובייקטים. בחודש מרץ דורגה AnyVision על ידי NIST במקום ה -7 בעולם ובמקום הראשון בעולם המערבי במבחן השוואת מידת הדיוק של אלגוריתמים לזיהוי פנים.
במכתב החתום ע"י מנכ"ל AnyVision אבי גולן הוא מציין: "הבנת אופן השימוש בהחלטות שהתקבלו על ידי אלגוריתמי הבינה המלאכותית משפיעים על מידת האמון שהמשתמשים נותנים במערכות AI. בהמלצה על מוזיקה או סרט המבוססת על העדפות היסטוריות, זה לא קריטי אם ה-AI מגיע למסקנה שגויה לפעמים. עם זאת, כשמשתמשים ב-AI כדי לבצע אבחנה של סרטן, זה עניין אחר".
באפריל הודיעה הנציבות האירופית על תקנות לשימוש ב- AI כולל אמצעי הגנה קפדניים על גיוס, תשתיות קריטיות, ניקוד אשראי, הגירה, אלגוריתמי אכיפת חוק. האיחוד האירופי חידד את מידת הסיכון בהתבסס על אופן השימוש ב-AI.
"אלה צעדים בכיוון הנכון בהבנת אופן השימוש ב-AI. בינה מלאכותית מספקת יתרונות משמעותיים, כולל מהירות משופרת, דיוק, חסכון בעלויות, גילוי הונאה, אבחנות רפואיות וחווית לקוח. יחד עם זאת, חיוני לטפל בחולשות ההיסטוריות. חברות AI חייבות להמשיך ולנקות הטיות דמוגרפיות מהאלגוריתמים שלהן ולהיות שקופות לגבי המתודולוגיה שלהן ונתוני ההדרכה המשמשים לפיתוח המודלים שלהן. לרוע המזל, אלו ניואנסים שחסרים ברוב הדיונים בימינו הקשורים לזיהוי פנים.
לכן אנו קוראים ל- NIST לסייע בהגדרת ועיצוב הדיון סביב השימוש האחראי בזיהוי פנים ובמעקב ווידאו על ידי ניסוח הנחיות דומות - שיטות עבודה מומלצות שיכולות לסייע לארגונים להשתמש בטכנולוגיה בבטחה, ובאופן הוגן ואתי. "
ההודעה של AnyVision בדבר הצורך בביטול ההטיות המגדריות והאתניות מגובה גם בפעולות. בשנה שעברה AnyVision ערכה את האתגר לזיהוי פנים הוגן והזמינה צוותים מתעשיית ה- AI והאקדמיה להשתתף ולבדוק האם האלגוריתמים שלהם מוטים גזעית. המשמעות: האם יש להם אותו סיכוי לזהות באופן שגוי אנשים מגזעים שונים. התוצאות של 10 הצוותים המובילים הוכיחו כי ניתן להפחית באופן משמעותי הטיה גזעית או להיפטר לחלוטין על ידי הכשרת אלגוריתמים לזיהוי פנים במגוון רחב של תמונות וידאו ותמונות סטילס של אנשים מגזעים, מגדרים וגילאים שונים. התוצאות הוכיחו כי מערכות זיהוי פנים מבוססות AI כיום השתפרו באופן דרמטי בשנתיים האחרונות ויכולות להשיג דיוק חסר תקדים בתרחישים מסוג זה.
גולן מוסיף: "AnyVision מוכנה לחלוק את התובנות והפרקטיקות שנצברו מהניסיון הרב בפעילות עם שחקנים גלובליים מובילים, כולל מותגים קמעונאים בולטים, חברות ענק מתחום האירוח והבידור ורשויות אכיפת חוק מרחבי העולם. בנוסף, AnyVision מברכת על הזדמנות לעבוד עם NIST, כמו גם מנהיגים מהאקדמיה ומארגונים לא ממשלתיים כדי לסייע בניסוח סטנדרטים ושיטות עבודה מקובלות בתחום.