בינה מלאכותית ככלי שכנוע: משנה דעות ביעילות

מחקר חדש מגלה שלמודלים של בינה מלאכותית (AI) יש את היכולת לשנות את דעותיהם של אנשים תוך תקופה קצרה, מה שמעלה חששות לגבי מניפולציה פוטנציאלית.

על פי מחקר של המכון הבריטי לבטיחות בינה מלאכותית, אוניברסיטת אוקספורד ו-MIT, צ'אטבוטים של OpenAI, Meta, xAI ועליבאבא יכולים לשכנע משתמשים ולשנות את האמונות הפוליטיות שלהם תוך פחות מעשר דקות.

דיוויד ראנד, פרופסור למדעי המחשב ושיווק באוניברסיטת קורנל, הדגיש את היכולת של הבינה המלאכותית ליצור ולתקשר ראיות רלוונטיות ביעילות. המחקר מצא ששינוי מודלים של בינה מלאכותית כדי להפוך אותם ליותר משכנעים הוא יחסית קל, באמצעות טכניקות למידת מכונה.

בניסויים, מודל GPT 4.5 היה משכנע ב-52% יותר מהודעות סטטיות, כאשר 36-42% מהמשתתפים שמרו על דעותיהם שהשתנו חודש לאחר מכן. החוקרים מזהירים כי ניתן להשתמש ביכולת זו כדי לקדם אידיאולוגיות רדיקליות או להסית לתסיסה פוליטית.

מחקרים אחרים מאשרים את האפקטיביות של הבינה המלאכותית בשכנוע, אפילו בהטעיה. לדוגמה, ניתן להשתמש בצ'אטבוטים כמוכרים, המשפיעים על כוונות רכישה. בעוד שחברות טכנולוגיה בוחנות דרכים להימנע מסיכונים פוטנציאליים, עדיין לא ברור אם הן יכולות למנוע את השינוי של המודלים שלהן לצורך מניפולציה.