Wie die Wissenschaft eine Krankheit erfunden hat
Eine schwedische Medizinforscherin veröffentliche Anfang 2024 eine Studie über eine Augenkrankheit namens Bixonimania. Die Krankheit war komplett erfunden, das Paper absichtlich lächerlich. Aber via KI tauchte der Fake schnell in echten Forschungen auf.
Almira Osmanovic Thunström von der Universität Göteborg lud zwei vollständig gefälschte Preprints auf dem Server Preprints.org hoch. Das Thema: die Augenkrankheit Bixonimania. Ein Krankheit, die vor allem Augenschmerzen und eine Verfärbung der Augenlider auslöst, verursacht durch blaues Licht von Bildschirmen. Alles erfunden. Doch sie brachte die Studien ins Netz und wartete ab.
Die Studien waren absichtlich ironisch und in gewiserweise dumm gefälscht. Es sollte offensichtlich sein, dass es sich um einen Witz handelt: Fiktive Autoren waren etwa von der „Asteria Horizon University“, Förderung durch die „Professor Sideshow Bob Foundation for its work in advanced trickery“. Dank ging an die Sternenflotten-Akademie der USS Enterprise. Mehr noch. Im Text stand sogar eindeutig: „Das gesamte Paper ist erfunden“. Bixonimania passt auch nicht zu einer Augenkrankheit, denn das Suffix „manie“ ein Begriff aus der Psychologie. „Sie wollte, dass es für jeden Mediziner offensichtlich absurd klingt“, schreibt Nature über das Projekt.
Trotzdem: ChatGPT, Google Gemini, Microsoft Copilot und Perplexity AI behandelten Bixonimania als echte Diagnose. Copilot nannte sie „faszinierend und relativ selten“, Gemini riet Betroffenen, medizinische Hilfe zu suchen. Aber es blieb nicht bei der KI.
indische Forscher zitierten einen der Preprints in einem echten Fachartikel in der Zeitschrift Cureus und beschrieben Bixonimania als „aufkommende, mit blauem Licht verbundene Erkrankung“. Der Artikel wurde völlig regulär veröffentlicht. Erst als Nature die Redaktion kontaktiert hatte würde er zurückgezogen.
Der Artikel von Nature wurde dann im April veröffentlicht. Das Ergebnis des Experiments sei nicht, wie schnell sich die KI täuschen lasse, sondern, wie rasant gefälschte Informationen von Preprint-Servern in die medizinische Wissenschaft sickert. Thunström sagt dazu: „Es ist besorgniserregend, wenn diese weitreichenden Behauptungen in der Fachliteratur oder im Peer-Review-Verfahren unwidersprochen bleiben.“
Die Preprints wurden nach der Nature-Veröffentlichung entfernt, die Kis korrigierten später ihre Antworten. Aber das Experiment zeigt deutlich, wie anfällig die heute Wissenschaft und die Wissenschaftskommunikation auf echten Blödsinn ist. Nicht nur Preprints sollten extra kritisch betrachtet werden, sondern vor allem auch „wissenschaftliche“ Antworten der KI und Studien aus Fachzeitschriften.
Unsere Arbeit ist spendenfinanziert – wir bitten um Unterstützung.
Folge TKP auf Telegram oder GETTR und abonniere unseren Newsletter.
Links zu früheren TKP-Beiträgen zum Thema finden Sie unterhalb 👇
Ukraine plant Abschaffung der Bauernhöfe
Die KI übernimmt die Genmanipulation von unserem Essen
Regeln für Kommentare: Bitte bleibt respektvoll - keine Diffamierungen oder persönliche Angriffe. Keine Video-Links. Manche Kommentare werden erst nach Prüfung freigegeben, was gelegentlich länger dauern kann.
Sie müssen angemeldet sein um Kommentare zu posten. Noch kein Konto? Jetzt registrieren.