בינה מלאכותית והלקח מהכבשה דולי: איפה הקו האדום?

בינה מלאכותית משנה את הדרך שבה בני אדם לומדים, עובדים ומקבלים החלטות. היא יכולה לשפר אבחון רפואי, להנגיש ידע ולייעל שירותים ציבוריים. עם זאת, עיבוד נתונים וחיזוי דפוסים אינם מבטיחים החלטה נכונה או הוגנת. השאלה אינה אם לעצור פיתוח, אלא כיצד להבטיח שהטכנולוגיה תישאר כלי המשרת בני אדם, ולא מנגנון הקובע את גורלם ללא אחריות או אפשרות לערער.

הסיכון המרכזי הוא החלטות פגומות הנחזות כאובייקטיביות. מערכות AI לומדות מנתונים היסטוריים; כאשר אלה כוללים אפליה, טעויות או חוסר ייצוג, הן עלולות לשכפל עיוותים בקבלת החלטות על אשראי, עבודה, רווחה או משפט. לכך מצטרף מידע כוזב בקנה מידה רחב: טקסטים, תמונות וקולות משכנעים מאפשרים התחזות, הונאה והשפעה על השיח הציבורי.

הנזקים אינם תאורטיים. בשנת 2020 נעצר בדטרויט רוברט ויליאמס בעקבות זיהוי פנים שגוי; הוא הוחזק כשלושים שעות, והאישומים בוטלו מחוסר ראיות. המקרה מבהיר שהתאמה אלגוריתמית אינה תחליף לאימות אנושי. גם צ'אטבוט של Air Canada מסר לנוסע מידע שגוי על תעריף, והחברה חויבה בפיצוי. בהולנד, מערכת לסיווג סיכון בבקשות לקצבאות תרמה להאשמה שגויה של הורים, לחובות וללחץ נפשי. טעות טכנית עלולה אפוא להפוך לעוול חברתי, במיוחד בהיעדר שקיפות או דרך תיקון אפקטיבית.

בחינוך, AI עשויה להתאים תרגול לקצב הלומד, להסביר מושגים ולהרחיב גישה לידע. אולם שימוש בלתי מבוקר עלול להחליף התמודדות עצמאית בתשובה משכנעת אך שגויה, ולפגוע בחשיבה ביקורתית. ילדים זקוקים להגנה מפני איסוף נתונים, אמון יתר ופערי גישה. יש ללמד תלמידים לשאול את המערכת, לבדוק את תשובותיה ולציין כיצד השתמשו בה. מורים ומרצים חיוניים לשיח, להכוונה ערכית ולהערכת תהליך החשיבה, ולא רק התוצר.

גם סוכני AI מחייבים זהירות. תקריות שבהן סוכנים מחקו נתונים או פעלו מעבר לכוונת המשתמש מראות שהנחיה מילולית אינה בקרת אבטחה. ההגנה מבוססת על הרשאות מזעריות, הפרדת סביבות פיתוח וייצור, אישור חיצוני לפעולות הרסניות, גיבויים נפרדים, תיעוד ונוהל שחזור שנבחן מראש. ניסויי בטיחות במעבדה אינם מוכיחים שכל מערכת תנהג כך במציאות, אך הם מחזקים את הצורך בבקרות חיצוניות ובסמכות אנושית לעצור פעולה חריגה.

הלקח מן הכבשה דולי הוא מוסרי ומוסדי. דולי הרחיבה את גבולות המדע, אך עוררה דיון על אתיקה, כבוד האדם ואוטונומיה. AI אינה שיבוט ביולוגי, אולם גם היא עלולה ליצור תחליף תפקודי לאדם: מערכת שמנסחת, מלמדת, ממיינת מועמדים או מקבלת החלטות באופן שנראה אנושי. הסכנה היא שמוסדות יתייחסו לשיפוט האנושי, למורה, למטפל או לעובד כאל עלות מיותרת, במקום כמקור לאחריות, אמפתיה ויכולת לתת דין וחשבון.

יכולת טכנית חדשה אינה מוכיחה שמותר, חכם או בטוח להפעילה בכל הקשר. יש לשאול אילו תפקידים אסור לצמצם לאופטימיזציה, מי נושא באחריות לכשל, ומה חייב להישאר בידי האדם. מניעת נזק מתחילה בהערכת השפעה לפני פריסה, בעיקר במערכות המשפיעות על זכויות או בטיחות. נדרשות בדיקות הטיה, דיוק ופרטיות; תיעוד החלטות; שקיפות לגבי מטרת המערכת ומגבלותיה; ופיקוח אנושי בעל סמכות לעצור החלטה. במקרים רגישים נדרשות זכות ערעור וביקורת בלתי תלויה.

בשבוע האחרון התחדדה התמונה. OpenAI הודיעה כי היא תומכת בדרישות מחייבות לבדיקות בטיחות עצמאיות וכי יש להאט או לעצור פיתוח כאשר בטיחותו אינה ניתנת להבטחה; Anthropic דיווחה על שיבוש שימושים זדוניים במודלים שלה, מסייבר והונאות ועד מעקב. כאשר החברות המובילות בעצמן מזהירות שהיכולות רצות קדימה מן היכולת לפקח עליהן, אסור לנו להמשיך כרגיל. זה הרגע לעצור, לחשוב, ולהציב קו אדום: אין לפרוס מערכת שאין יודעים לשלוט בה, להסביר את פעולותיה, ולשאת באחריות מלאה לנזקיה.

ולסיכום - האחריות אינה מוטלת על מהנדסים בלבד. ממשלות צריכות לקבוע כללים אכיפים, מוסדות חינוך צריכים לטפח אוריינות דיגיטלית ביקורתית, חברות צריכות להעדיף בטיחות גם כשהיא מאטה השקה, ומשתמשים צריכים לאמת מידע ולהימנע ממסירת נתונים רגישים ללא צורך. חדשנות ראויה אינה מרוץ להוכיח מה אפשר לעשות; היא בחירה מושכלת במה ראוי לעשות, למי ובאילו גבולות.

פרופ' שמואל איציקוביץ הוא מייסד הפקולטה למדעי המחשב, המסלול האקדמי המכללה למנהל