«Bixonimania»: Η ψεύτικη ασθένεια που ξεγέλασε την Τεχνητή Νοημοσύνη

Ένα πείραμα ανέδειξε την ευπάθεια των γλωσσικών μοντέλων Τεχνητής Νοημοσύνης στην παραπληροφόρηση, με τη δημιουργία της ανύπαρκτης ασθένειας «bixonimania». Η ερευνήτρια Almira Osmanovic Thunström δημιούργησε μια ψεύτικη ιατρική αφήγηση το 2024, η οποία αναπαράχθηκε από chatbots όπως το Copilot και το ChatGPT.

Η «bixonimania» εμφανίστηκε αρχικά σε αναρτήσεις και προδημοσιεύσεις, με ψεύτικες μελέτες και ανύπαρκτους ερευνητές. Παρά τα σημάδια απάτης, τα chatbots παρουσίασαν την «bixonimania» ως πραγματική οφθαλμολογική νόσο.

Ειδικοί, όπως ο Mahmud Omar από την Ιατρική Σχολή του Χάρβαρντ, επισημαίνουν ότι τα μοντέλα AI είναι πιο ευάλωτα σε ψευδή συμπεράσματα όταν το περιεχόμενο είναι γραμμένο σε ιατρικό ύφος. Ο Alex Ruani από το University College London θεωρεί ότι το πείραμα αποτυπώνει ένα σοβαρό πρόβλημα στην αξιοπιστία της παραγωγής γνώσης.

Η «bixonimania» αναφέρθηκε ακόμη και σε επιστημονικό άρθρο που δημοσιεύθηκε στο Cureus, το οποίο στη συνέχεια ανακλήθηκε. Η μικροβιολόγος Elisabeth Bik προειδοποιεί για τις διαστάσεις που μπορεί να πάρει το φαινόμενο λόγω της αυτοματοποιημένης επεξεργασίας δεδομένων.

Εκπρόσωποι εταιρειών όπως η Google και η OpenAI δήλωσαν ότι τα μοντέλα τους έχουν βελτιωθεί, αλλά ο Glenn Cohen από τη Νομική Σχολή του Χάρβαρντ σημειώνει ότι υπάρχουν ακόμη ερωτήματα σχετικά με την εμπιστοσύνη σε τέτοια συστήματα.

Η υπόθεση αναδεικνύει τον κίνδυνο αναπαραγωγής ανυπόστατων ιατρικών δεδομένων από την Τεχνητή Νοημοσύνη και θέτει το ερώτημα για τον έλεγχο της αλήθειας πριν αυτή παρουσιαστεί ως γνώση.