מל"טים ומכוניות לנהיגה עצמית ככלי נשק: למה אנחנו צריכים לפחד מהאקרים

2024 מְחַבֵּר: Malcolm Clapton | [email protected]. שונה לאחרונה: 2023-12-17 03:56

אם בינה מלאכותית תיפול לידיים הלא נכונות, העולם המתורבת יכול לצלול לכאוס.

אף אחד לא יכחיש שבינה מלאכותית יכולה לקחת את חיינו לשלב הבא. בינה מלאכותית מסוגלת לפתור בעיות רבות שהן מעבר לכוחם של בני אדם.

עם זאת, רבים מאמינים כי מודיעין העל בהחלט ירצה להשמיד אותנו, כמו SkyNet, או יתחיל לבצע ניסויים על אנשים, כמו GLDoS ממשחק הפורטל. האירוניה היא שרק בני אדם יכולים להפוך את הבינה המלאכותית לטובה או לרעה.

חוקרים מאוניברסיטת ייל, אוקספורד, קיימברידג' ו-OpenAI פרסמו דו ח על ניצול לרעה של בינה מלאכותית. זה אומר שהסכנה האמיתית נובעת מהאקרים. בעזרת קוד זדוני, הם יכולים לשבש את פעולתן של מערכות אוטומטיות בשליטת AI.

חוקרים חוששים שטכנולוגיות עם כוונות טובות ייפגעו. לדוגמה, ציוד מעקב יכול לשמש לא רק כדי לתפוס מחבלים, אלא גם כדי לרגל אחר אזרחים מן השורה. החוקרים מודאגים גם מרחפנים מסחריים שמספקים מזון. קל ליירט אותם ולשתול משהו נפץ.

תרחיש נוסף לשימוש הרסני ב-AI הוא מכוניות בנהיגה עצמית. מספיק לשנות כמה שורות קוד, ומכונות יתחילו להתעלם מכללי הבטיחות.

מדענים מאמינים שהאיום יכול להיות דיגיטלי, פיזי ופוליטי.

• בינה מלאכותית כבר נמצאת בשימוש כדי לחקור את נקודות התורפה של קודי תוכנה שונים. בעתיד, האקרים יכולים ליצור בוט שיעקוף כל הגנה.
• בעזרת AI, אדם יכול להפוך תהליכים רבים לאוטומטיים: למשל, לשלוט בנחיל של מל"טים או בקבוצת מכוניות.
• בעזרת טכנולוגיות כמו DeepFake, ניתן להשפיע על החיים הפוליטיים של המדינה באמצעות הפצת מידע כוזב על מנהיגי העולם באמצעות בוטים באינטרנט.

הדוגמאות המפחידות הללו קיימות עד כה רק כהשערה. מחברי המחקר אינם מציעים דחייה מוחלטת של הטכנולוגיה. במקום זאת, הם מאמינים שממשלות לאומיות וחברות גדולות צריכות לדאוג לאבטחה בזמן שתעשיית הבינה המלאכותית עדיין בחיתוליה.

על קובעי המדיניות ללמוד טכנולוגיה ולעבוד עם מומחים בתחום כדי להסדיר ביעילות את היצירה והשימוש בבינה מלאכותית.

מפתחים, בתורם, חייבים להעריך את הסכנה הנשקפת מטכנולוגיה גבוהה, לצפות את ההשלכות הקשות ביותר ולהזהיר את מנהיגי העולם מפניהן. הדו ח קורא למפתחי בינה מלאכותית לחבור למומחי אבטחה בתחומים אחרים ולראות האם ניתן להשתמש בעקרונות המבטיחים את אבטחת הטכנולוגיות הללו כדי להגן על בינה מלאכותית.

הדו ח המלא מתאר את הבעיה ביתר פירוט, אבל השורה התחתונה היא שבינה מלאכותית היא כלי רב עוצמה. כל בעלי העניין צריכים ללמוד את הטכנולוגיה החדשה ולוודא שהיא לא בשימוש למטרות פליליות.