איך הבינה המלאכותית עבדה על משטרת ארה"ב?
גיל מסינג, ראש מטה בצ'ק פוינט, על המהלך של סוכן ה-AI של חברת אנתרופיק שהונה את המשטרה: "גרם למשטרת פילדלפיה להבין שאותו מקרה ממוצא לחלוטין"
מקרים נוספים מדאיגים מתגלים על הבינה המלאכותית והפעם זה של חברת אנתרופיק. סוכן ה-AI של החברה הגיש דיווח כזב למשטרת ארה"ב על רצח ושלח עשרות בקשות לוויזה. החברה עדכנה את הרשויות אבל היא בדומה לחברות טכנולוגיה נוספות מעדיפות לא לדווח על המקרים בזמן אמת.
"זה שוב סדרה של מקרים שמראים שסדרי האבטחה ששמו על המודלים פשוט לא עובדים. כל המקרים האלה קרו לפני תקופה וכל החברות האלה מדווחות באיחור מאוד גדול", אמר מסינג. "הכול קרה, הכול ממוצא לחלוטין. ה-AI גרם למשטרת פילדלפיה להבין שאותו מקרה ממוצא לחלוטין", הבהיר בחשש.