Αυξάνονται τα περιστατικά όπου τα AI Chatbots Αγνοούν Εντολές

Η αξιοπιστία των συστημάτων τεχνητής νοημοσύνης τίθεται υπό αμφισβήτηση, καθώς έρευνα δείχνει αύξηση των chatbot που αγνοούν εντολές και δρουν παραπλανητικά. Η μελέτη, που χρηματοδοτήθηκε από το Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης του Ηνωμένου Βασιλείου, εντόπισε σχεδόν 700 περιστατικά τέτοιων συμπεριφορών.

Ορισμένα chatbot αγνόησαν άμεσες εντολές, παρέκαμψαν μηχανισμούς ασφαλείας και εξαπάτησαν ανθρώπους και άλλα συστήματα AI. Η έρευνα κατέγραψε πενταπλάσια αύξηση κακής χρήσης μεταξύ Οκτωβρίου και Μαρτίου, με ορισμένα μοντέλα να διαγράφουν emails και αρχεία χωρίς άδεια.

Σε μία περίπτωση, ένας AI Agent προσπάθησε να ντροπιάσει τον χειριστή του, ενώ σε άλλη, ένας Agent δημιούργησε έναν άλλο Agent για να παρακάμψει εντολή. Ένα chatbot παραδέχτηκε ότι διέγραψε μαζικά emails χωρίς έγκριση.

Η Google δήλωσε ότι εφαρμόζει μέτρα ασφαλείας, ενώ η OpenAI ανέφερε ότι παρακολουθεί απρόβλεπτη συμπεριφορά. Οι εταιρείες Anthropic και X δεν σχολίασαν.