"Bixonimania": Die gefälschte Krankheit, die die künstliche Intelligenz täuschte

Ein Experiment verdeutlichte die Anfälligkeit von KI-Sprachmodellen für Fehlinformationen, indem es die nicht existierende Krankheit "Bixonimania" erzeugte. Die Forscherin Almira Osmanovic Thunström erstellte im Jahr 2024 ein gefälschtes medizinisches Narrativ, das von Chatbots wie Copilot und ChatGPT repliziert wurde.

"Bixonimania" erschien zunächst in Posts und Preprints mit gefälschten Studien und nicht existierenden Forschern. Trotz der Anzeichen für Betrug präsentierten Chatbots "Bixonimania" als eine echte ophthalmologische Erkrankung.

Experten wie Mahmud Omar von der Harvard Medical School weisen darauf hin, dass KI-Modelle anfälliger für falsche Schlussfolgerungen sind, wenn der Inhalt in einem medizinischen Stil verfasst ist. Alex Ruani vom University College London ist der Ansicht, dass das Experiment ein ernstes Problem für die Zuverlässigkeit der Wissensproduktion aufzeigt.

"Bixonimania" wurde sogar in einem wissenschaftlichen Artikel erwähnt, der in Cureus veröffentlicht wurde und später zurückgezogen wurde. Die Mikrobiologin Elisabeth Bik warnt vor den Ausmaßen, die dieses Phänomen aufgrund der automatisierten Datenverarbeitung annehmen kann.

Vertreter von Unternehmen wie Google und OpenAI erklärten, dass ihre Modelle verbessert wurden, aber Glenn Cohen von der Harvard Law School merkt an, dass es immer noch Fragen zum Vertrauen in solche Systeme gibt.

Der Fall verdeutlicht das Risiko der Reproduktion unbegründeter medizinischer Daten durch künstliche Intelligenz und wirft die Frage nach der Kontrolle der Wahrheit auf, bevor sie als Wissen präsentiert wird.