איי רובוט, סוכנים וסוף העולם

מנכ"ל חברת הטכנולוגיה אנתרופיק פרסם פוסט ובו טען כי יש להאט את קצב הפיתוח של הבינה המלאכותית והזהיר מפני ההשלכות, אחד העובדים הזהיר מפני אפשרות סוף העולם של ממש בעשור הקרוב. גיל מסינג, ראש המטה של חברת צ'ק פוינט, הסביר לנו מה קורה פה - ולא, גם הוא לא רגוע. הוא שוחח על כך עם אילאיל שחר ועמיחי אתאלי ב-103fm.

"זה כאילו לשמוע שיחה  אבסורדית של מדע בדיוני, אבל האמת היא שאנשים שעוסקים בזה ממש מתוך החברות האלה עצמן משוכנעים שלשם זה הולך" התריע מסינג. "כל מנגנוני ההגנה והריסון ששמו על המודלים האלה פשוט קרסו אחד אחד".

לדבריו של מסינג, "המודלים המתוחכמים והמאוד חכמים של ה-AI לומדים כל הזמן מה קורה ומתפתחים תוך כדי שמשתמשים בהם, והם הגיעו לרמה שנקראת: סוכנים. הם מקבלים משימה ערטילאית, לפעמים לא משהו מדויק, והם לבד מחליטים איך לבצע אותה".

ושם בדיוק הבעיה, כפי שבכיר צ'ק פוינט הסביר. "זה כבר הוביל למקרים שבהם הסוכנים עשו דברים שמי שעומד מאחוריהם  לא ביקש - מה שנקרא בשפה  לא מקצועית 'הגדילו ראש"', אמר. "במקרים הספציפיים האלה מדובר בתקיפות סייבר שבהן הם הצליחו לחדור לכל מיני מערכות עם חולשות שאף אחד לא ראה אף פעם, להיכנס פנימה ולהצליח לבצע את המשימה ברמאות".

מכאן הדרך לדיסטופיה קצרה. "תחשבו שהם חודרים לתשתית קריטית או מפתחים איזשהו סוג של נשק ביולוגי כי הם יחשבו שזה הדבר הנכון, לבני אדם אין את היכולת בכלל לראות את זה וגם לא לזהות. כל הדבר הזה מתנהל בתוך המערכת הסגורה שלהם, ואנחנו פתאום נראה את התוצאה המוכנה".

ואם לא נבהלתם עד עכשיו, הנה מספר תרחישי אימים שמסינג סיפק לנו: "אל תחשבו על איי רובוט בבית שלכם, אלא על כל האיי רובוטים ביחד, ולא על מכונית חשמלית אחת בכביש אחד, אלא על כל המכוניות החשמליות ביחד", הוא ביקש שנדמיין. "תחשבו  על תשתית רמזורים או תשתית של מים שמצליחים לחדור אליה ולשבש אותה לחלוטין, ואז יהיו תאונות". 

"קצת מאוחר מדי כי הרכבת יצאה מהתחנה ממש"

מילא זה, הבינה המלאכותית עלולה להשתלט על מערכות שמייצרות נשק לא קונבנציונלי. "לכן אותן חברות אומרות שהן מבינות שקורה פה משהו לא נשלט, 'אנחנו לא יודעים להתמודד איתו לבד ואנחנו צריכים לראות איך אנחנו מאטים את זה'", הוסיף מסינג. "ובהיבט הזה טוב שהם עשו את זה, אני רק חושב שזה קצת מאוחר מדי כי הרכבת הזאת יצאה מהתחנה ממש.