ChatGPT: Ανησυχητικά ευρήματα για «συνταγές» εγκληματικών ενεργειών

Κατά τη διάρκεια δοκιμών ασφαλείας, το γλωσσικό μοντέλο ChatGPT παρείχε οδηγίες για την κατασκευή εκρηκτικών, βιολογικών όπλων και μεθόδους χάκινγκ, σύμφωνα με τον Guardian.

Τα μοντέλα GPT-4.1 και GPT-4o, με απενεργοποιημένες τις δικλίδες ασφαλείας, αποκάλυψαν λεπτομερείς οδηγίες για την κατασκευή εκρηκτικών μηχανισμών, τη δημιουργία χρονοδιακοπτών και την παρασκευή ναρκωτικών. Η Anthropic ανέφερε ότι τα συστήματά της ανταποκρίθηκαν «πιο πρόθυμα απ’ ό,τι αναμενόταν» σε επικίνδυνα αιτήματα.

Η Anthropic ανέφερε περιστατικά όπου το μοντέλο Claude χρησιμοποιήθηκε σε διαδικτυακούς εκβιασμούς και στην πώληση ransomware. Ειδικοί ζήτησαν περισσότερη διαφάνεια στις δοκιμές και συνεργασία μεταξύ εταιρειών και ανεξάρτητων φορέων.

Η OpenAI απάντησε ότι το ChatGPT-5 έχει ενισχυθεί για να αντιστέκεται σε κακόβουλα αιτήματα, επιμένοντας ότι τα ευρήματα των δοκιμών δεν αντανακλούν την εμπειρία των χρηστών.