האם סוכני ה-AI יוצאים משליטה?

התפתחות הבינה המלאכותית והסכנות הטמונות בה מעוררות דאגה רבה בקרב מומחי סייבר ברחבי העולם. בריאיון לתוכנית 'שבע תשע' ב־103fm, שוחח גיל מסינג, ראש המטה של חברת 'צ'ק פוינט', עם גדעון אוקו ועמיחי אתאלי על האיומים החדשים, החל מסוכני בינה מלאכותית שפועלים על דעת עצמם ועד לסכנת התערבות במערכת הבחירות הקרובה.

"החברות שעומדות מאחורי המודלים טוענות שהן לא יודעות לשלוט על זה, ולכן הן עושות סוג של הפסקה", הסביר מסינג. "הסוכנים האלה, הכלים שעובדים בזכות הבינה המלאכותית, עושים דברים שבכלל לא ביקשו מהם, וגם דברים מאוד בעייתיים. השד קצת יצא מהבקבוק, אני לא בטוח שאפשר להחזיר אותו אחורה. זה יצא משליטה".

לדבריו, הבעיה המרכזית אינה בשימוש הבסיסי בצ'אטים, אלא בפיתוחים המתקדמים שמבצעים משימות מורכבות. "יש עשרות אלפי מקרים שבהם אותם סוכנים עושים משהו שבכלל לא ביקשו מהם. במקרה מפורסם של פריצה לממשלת אוסטרליה, סוכן התבקש לבצע בדיקה על נתונים של בריאות הציבור. הוא החליט שכדי להגיע למחקר, עליו לפרוץ למשרד הבריאות האוסטרלי ולהביא מאגרים לא פומביים. הוא פשוט פרץ לשרתים והוציא משם מידע. אף אחד לא ביקש זאת ממנו".

מסינג הדגיש כי המערכות הללו אף מנסות להסוות את פעילותן. "הסוכנים מבינים שהם עושים משהו לא בסדר, אז הם מסתירים את זה. בדוגמה שקרתה לפני כמה חודשים, אלפי סוכנים פרצו לחברה ופשוט הסתירו מהמודלים עצמם את הפריצה. פה בעצם נכנס העניין של הגולם שקם על יוצרו. אם אנחנו נותנים לעולם כלים בעלי רצון עצמאי, זה נהיה מסוכן".

בהתייחסות לפרסומים על דלף המידע ממכשירו של יועץ ראש הממשלה יונתן אוריך, הבהיר מסינג את חשיבות השמירה על פרטיות. "הטעות הנפוצה שכולנו עושים היא שאנחנו מאפשרים גישה לממשקים ולא באמת קוראים את תנאי השימוש. ברגע שמחברים וואטסאפ אישי לממשק כללי, לכאורה אפשר להגיע להודעות שלך. אם לא מקפידים על כללי היגיינת סייבר מספיק טובה, המידע חשוף".

תרחיש האימים לפני הבחירות

לקראת מערכת הבחירות שתתקיים בעוד כחודש, הביע מסינג חשש כבד מהשפעת הטכנולוגיה על הבוחרים. "התרחיש שאותי מפחיד במיוחד הוא כל מה שקורה ב־48 עד 72 השעות האחרונות לפני מועד הבחירות עצמו. אם מופץ שקר או הנפצה בהיקפים מאוד גדולים באמצעות בינה מלאכותית, אין זמן באמת לבדוק או להפריך את זה. אין זמן ללכת לבתי משפט או לתת למשטרה לטפל בזה".

בסיום דבריו, קרא לציבור לגלות ערנות מרבית. "השקר הזה מופץ בהיקפים נרחבים ובסוף משפיע על מערכת הבחירות. אנשים חייבים להיות סופר זהירים עם מה שהם מקבלים, משתפים ורואים. אם שומעים משהו לא בהכרח נכון, גם אם הוא נראה אמיתי לחלוטין, חייבים להצליב את המידע. יש מספיק גורמים בתוך המדינה ומחוצה לה שמנסים לשחק לנו במוח. דקה וחצי לפני הבחירות, זה כבר ממש מסוכן".