Η ΑΙ ως Εργαλείο Πειθούς: Αλλάζει Γνώμες Αποτελεσματικά

Νέα έρευνα αποκαλύπτει ότι τα μοντέλα τεχνητής νοημοσύνης (ΑΙ) έχουν την ικανότητα να αλλάζουν τις απόψεις των ανθρώπων σε σύντομο χρονικό διάστημα, εγείροντας ανησυχίες για πιθανή χειραγώγηση.

Σύμφωνα με μελέτη από το βρετανικό Ινστιτούτο Ασφάλειας ΑΙ, το Πανεπιστήμιο της Οξφόρδης και το ΜΙΤ, τα chatbot των OpenAI, Meta, xAI και Alibaba μπορούν να πείσουν τους χρήστες και να μεταβάλλουν τις πολιτικές τους πεποιθήσεις σε λιγότερο από δέκα λεπτά.

Ο Ντέιβιντ Ραντ, καθηγητής Πληροφορικής και Μάρκετινγκ στο Πανεπιστήμιο Cornell, τόνισε την ικανότητα της ΑΙ να παράγει και να επικοινωνεί σχετικές ενδείξεις αποτελεσματικά. Η μελέτη διαπίστωσε ότι η τροποποίηση των μοντέλων ΑΙ για να γίνουν πιο πειστικά είναι σχετικά εύκολη, χρησιμοποιώντας τεχνικές μηχανικής μάθησης.

Σε πειράματα, το μοντέλο GPT 4,5 ήταν 52% πιο πειστικό από τα στατικά μηνύματα, με το 36-42% των συμμετεχόντων να διατηρούν τις αλλαγμένες απόψεις τους ένα μήνα αργότερα. Οι ερευνητές προειδοποιούν ότι αυτή η ικανότητα θα μπορούσε να χρησιμοποιηθεί για την προώθηση ριζοσπαστικών ιδεολογιών ή την υποκίνηση πολιτικής αναταραχής.

Άλλες μελέτες επιβεβαιώνουν την αποτελεσματικότητα της ΑΙ στην πειθώ, ακόμη και στην παραπλάνηση. Ενδεικτικά, τα chatbot θα μπορούσαν να χρησιμοποιηθούν ως πωλητές, επηρεάζοντας τις αγοραστικές προθέσεις. Ενώ οι εταιρείες τεχνολογίας εξετάζουν τρόπους αποφυγής πιθανών κινδύνων, παραμένει ασαφές αν μπορούν να αποτρέψουν την τροποποίηση των μοντέλων τους για χειραγώγηση.