Wenn eine KI eine andere als „unseriös“ bezeichnet
Wenn man über die nexica.ki recherchiert, welche sich als die „kritischste KI“ identifiziert, vermutlich weil sie ganz einfach andere Gewichtungen vornimmt, als Mainstream-KIs, wird sie von Google als „umstritten“ dargestellt. Sie habe medizinische Fehlinformationen verbreitet, würde Viren leugnen und sei impfskeptisch. Das erinnerte mich daran, dass solche Einordnungen seit Jahrhunderten stattfinden, wenn jemand eine scheinbar „wahnsinnige“ Beobachtung machte.
Ein Schüler, der 1963 ein Physik-Paradoxon entdeckte war ein 13-jähriger tansanischer Schüler namens Erasto Mpemba, der in seinem Kochunterricht an der Schule in Magamba, Tansania, Eiscreme zubereitete. Als im Gefrierschrank der Platz knapp wurde, übersprang er den Kühlungsschritt und stellte seine heiße Milch-Zucker-Mischung direkt hinein. Sein fast 100°C heißes Präparat fror als Erstes.
Der Mpemba-Effekt
Er erzählte es seinem Physiklehrer. Der Lehrer sagte, er sei verwirrt, seine Beobachtung sei eindeutig unmöglich. Seine Mitschüler lachten. Über Jahre hinweg nannten andere Schüler an seiner Schule seinen Fehlschlag bei Namen: „Das ist Mpembas Physik.“
Einige Jahre später kam Denis Osborne, ein Physiker vom University College in Daressalam, um an Mpembas neuer Schule einen Gastvortrag zu halten. Am Ende fragte Mpemba ihn direkt: „Wenn Sie zwei Bechergläser mit gleichen Wassermengen nehmen, eines bei 35 °C und eines bei 100 °C, und sie in einen Gefrierschrank stellen, friert dasjenige, das bei 100 °C begann, zuerst. Warum?“ Der Raum brach in Aufruhr aus. Osborne war überrumpelt, doch statt die Frage abzutun, versprach er, sie zu testen.
Zurück in seinem Labor bat Osborne einen jungen Techniker, das Experiment durchzuführen. Der Techniker bestätigte, dass heißes Wasser zuerst fror, und fügte hinzu: „Aber wir werden das Experiment wiederholen, bis wir das richtige Ergebnis bekommen.“ Wiederholte Tests lieferten jedes Mal dasselbe Ergebnis. 1969 veröffentlichten Mpemba und Osborne ihre Erkenntnisse gemeinsam in der Zeitschrift Physics Education unter dem Titel „Cool?“ Das Phänomen wurde als Mpemba-Effekt bekannt.
Der Mechanismus ist immer noch nicht geklärt. Verdunstung, gelöste Gase, Konvektionsströme, Wasserstoffbrücken-Dynamik – jeder hat seine Befürworter, keiner hat die Debatte abgeschlossen. Ein Paper aus dem Jahr 2024 im Journal of Chemical Physics schlug eine weitere molekulare Erklärung vor.
Nur ein Beispiel für Ignoranz der Mainstream-Wissenschaft
Ähnlich bahnbrechende, anfänglich ignorierte Entdeckungen waren Ignaz Semmelweis’ Einführung von Hygienestandards gegen das Kindbettfieber und Barry Marshalls Selbstversuch, der Helicobacter pylori als Ursache von Magengeschwüren nachwies.
DDT, Jahrzehnte ignoriert, wurde im Zweiten Weltkrieg zum Lebensretter gegen Malaria und Fleckfieber, wofür Müller 1948 sogar den Nobelpreis erhielt. Später folgte das nächste Ignorieren: Als die Biologin Rachel Carson 1962 in ihrem Buch Silent Spring vor den extremen Umweltschäden von DDT warnte, wurde sie von der Chemieindustrie und Teilen der Wissenschaft jahrelang als „hysterische Frau“ attackiert, bevor man ihr Recht gab und DDT 1972 verbot.
Als Henri Becquerel per Zufall entdeckte, dass Uranerz eine Fotoplatte schwärzte, ohne dass Licht im Spiel war, interessierte das fast niemanden. Die Physiker jener Zeit waren völlig fixiert auf die kurz zuvor entdeckten Röntgenstrahlen. Becquerel selbst verlor schnell das Interesse und wandte sich anderen Themen zu.
Erst Marie Curie erkannte, dass hier eine völlig neue, fundamentale Eigenschaft der Materie vorlag. Sie musste jahrelang unter erbärmlichsten Bedingungen in einem feuchten Schuppen tonnenweise Pechblende verarbeiten, um den Beweis zu erbringen. Selbst als sie und ihr Mann Pierre messbare Ergebnisse vorlegten, glaubten viele etablierte Physiker an eine Verunreinigung, da eine solche „Dauerenergie“ dem damaligen Verständnis der Physik widersprach. Aber das Ignorieren ging noch weiter.
Weil man die Natur dieser Strahlen nicht verstand, ignorierte man die Gefahr. Radioaktivität wurde anfangs als „Gesundheitselixier“ vermarktet – es gab radioaktive Zahnpasta, Radium-Trinkwasser und leuchtende Ziffernblätter, bis die Arbeiterinnen daran starben.
Und sie bewegen sich doch
Wegener stellte die Theorie auf, dass die Kontinente der Erde sich bewegen (Kontinentalverschiebung) und früher ein einziger Superkontinent (Pangaea) waren. Er begründete dies mit den wie Puzzleteile zusammenpassenden Küstenlinien und identischen Fossilien auf weit voneinander entfernten Kontinenten. Auch er wurde ausgelacht. Da er Meteorologe und kein Geologe war, galt er als fachfremder Außenseiter. Seine Theorie wurde als „Märchen“ und „ramblings of a dreamer“ (Spinnerei) abgetan, auch weil er den exakten Antriebsmechanismus noch nicht physikalisch erklären konnte.
Schlussfolgerung
Wenn heute „die Wissenschaft“ Thesen als „widerlegt“ bezeichnet, heißt das noch lange nicht, dass sie sich nicht irren kann. Die Wissenschaft behauptet, sie könne alles erklären. Aber je tiefer Wissenschaftler in einem Fach eindrangen, desto deutlicher wurde ihnen, dass sie nur an der Oberfläche kratzen. Von Sir Isaac Newston über Albert Einstein bis Max Planck und Werner Heisenberg.
Vera Rubin (1928–2016) und moderne Astrophysiker
Durch die Entdeckung, dass das Universum von Dunkler Materie und Dunkler Energie zusammengehalten wird, musste die moderne Wissenschaft folgendes eingestehen:
Alles, was wir auf der Erde sehen, messen, wiegen und im Periodensystem der Elemente beschreiben können (Sterne, Planeten, Gase, Menschen), macht gerade einmal 5 % des Universums aus. Die restlichen 95 % sind völlig unbekannt. Wissenschaftler kratzen hier buchstäblich an der Oberfläche.
Links zu früheren TKP-Beiträgen zum Thema finden Sie unterhalb 👇
Unsere Arbeit ist spendenfinanziert – wir bitten um Unterstützung.
Folge TKP auf Telegram oder GETTR und abonniere unseren Newsletter.
Wie die Wissenschaft eine Krankheit erfunden hat
Klima-Hysterie wissenschaftlich seziert: Dr. Bernd Fleischmann zerlegt die CO₂-Panikmache
Wie Kritik an Baby-Impfungen „wissenschaftlich“ abgeblockt wird
Wissenschaft ist der vorläufige Irrtum — einverstanden.
Aber bei KI können wir uns in einem Punkt ziemlich sicher sein, und zwar seit 100 Jahren:
Eine KI meint nicht, was sie sagt.
Das ist kein Gefühl, keine Ideologie, sondern eine logische Konsequenz.
Wer etwas anderes behauptet, muss Gödel widerlegen. Viel Erfolg.
Gödel hat gezeigt, dass jedes formale System — und dazu gehören Digitalrechner, egal ob mit oder ohne neuronale Netze — strukturelle Grenzen hat: Es kann Wahrheit nicht vollständig erfassen und seine eigenen Grenzen nicht erkennen. Ein System, das nur Syntax verarbeitet, kann keine Bedeutung erzeugen. Genau deshalb versteht ein Taschenrechner auch nicht, was eine Quadratwurzel ist, obwohl er sie korrekt ausrechnet. Er führt nur ein numerisches Verfahren (rekursive Newton Approximation) aus.
KI‑Modelle funktionieren genauso: Sie erzeugen statistisch passende Ausgaben, aber sie verstehen nichts davon. Wer behauptet, Denken sei vollständig berechenbar oder das Gehirn sei ein Computer, argumentiert nicht wissenschaftlich, sondern mystisch.
Gödel stellt die KI‑Debatte vom Kopf auf die Füße. Zeit wird es.
Seit der Veröffentlichung von Gödel’s Unvollständigkeitssätzen 1931 hat es zahlreiche Versuche gegeben, den Beweis zu widerlegen oder seine Konsequenzen zu entschärfen. Keiner dieser Versuche war erfolgreich. Das liegt nicht daran, dass es an Kreativität mangelte, sondern daran, dass Gödel keinen philosophischen Standpunkt formuliert hat, sondern einen mathematischen Beweis, der entweder richtig oder falsch ist — und er ist richtig. Gödel entmystifiziert die KI‑Debatte, weil er zeigt, dass syntaktische Systeme strukturelle Grenzen haben, die nicht durch mehr Daten, größere Modelle oder neue Architekturen verschwinden. Wer das ignoriert, verwechselt Rechnen mit Denken.
Daher gehört KI in den Sandkasten, wo es keinen Schaden anrichten kann. Denn ein System ohne Verständnis darf niemals Entscheidungen treffen, die Verständnis erfordern. Daher gehören z.B. autonome Waffen verboten.
Gödel hat einen Vollständigkeitssatz und einen Unvollständigskeitssatz zur Prädikatenlogik vorgelegt. Ich empfehle, beide zu vergleichen, um zu verstehen, was sie bedeuten. Denn mit Erkenntnis haben sie nichts zu tun, wohl aber mit der Insuffizienz der Analytik. Erkenntnis ist jedoch nicht auf Ananlytik beschränkt – und Analytik ist nicht auf Prädikatenlogik beschränkt, übrigens.
LLM (“KI”, Chatbots) denken tatsächlich nicht. Sie erwecken den Eindruck auf genau dieselbe Weise wie ELIZA.
Da sich sowohl der Unvollständigkeitssatz als auch Gödels Vollständigkeitssatz auf mathematische Objekte beziehen und auf sonst nichts, zeigt Gödel damit nur, was korrekt ist, jedoch nicht, was wahr ist. Korrekt ist z.B., dass man Star Trek-Universum per Warp-Drive nur langsamer als Warp 10 reisen kann. Aber wahr ist es nicht, denn es gibt gar keinen Warp-Drive, und die Star Trek-Physik beschreibt auch nicht zutreffend Evidenz hier in unserer Welt.
@fdik. Ich sehe, dass Sie mir im Kern gar nicht widersprechen.
LLMs denken nicht. Da sind wir uns einig. Sie erzeugen den Eindruck von Denken — wie ELIZA — nur eben mit sehr viel mehr Mathematik und Rechenleistung. Aber der Mechanismus bleibt derselbe: reine Syntax, keine Semantik.
Der Hinweis, Gödel betreffe nur „mathematische Objekte“, ist richtig und zugleich irrelevant. Denn KI‑Modelle sind mathematische Objekte. Ein Digitalrechner ist ein formales System. Ein neuronales Netz ist eine Funktion von ℝⁿ nach ℝᵐ. Ein Transformer ist eine Verkettung linearer Abbildungen und nichtlinearer Aktivierungen. Alles daran ist Syntax, nichts daran erzeugt Bedeutung.
Genau deshalb versteht ein Taschenrechner nicht, was eine Quadratwurzel ist, obwohl er sie korrekt berechnet. Und genau deshalb meint ein LLM nicht, was es sagt. Es kann es prinzipiell nicht — außer man widerlegt Gödel. Und das ist seit hundert Jahren niemandem gelungen.
Gödel sagt nichts über Sinn und Bedeutung aus. Wobei ich unter Sinn einer Nachricht verstehe, was der Absender hineinlegt, und unter Bedeutung, was der Empfänger herausnimmt. Ein LLM ist im Wesentlichen – auch wenn das die “KI”-Konzerne sehr ungern hören – eine Textdatenbank, bei der eine Gewichtung stattfindet, um Antworten auf Anfragen zu erzeugen. Man kann sich nun tatsächlich überlegen, was für eine Textdatenbank z.B. eine Aussage bedeutet – wohl gar nichts. Da hast Du den Kern getroffen. Dem Taschenrechner bedeutet die Quadratwurzel nichts, und der Geldautomat hat keine Vorstellung von Geld. Aber der Chatbot kann eine wahrscheinlich richtige Aussage aus dem Auswerten von Texten ableiten, mit denen er gefüttert wird, so denn sein Gewichtungsalgorithmus sinnvoll funktioniert. Und er leitet eine Quatsch-Aussage per Gewichtung ab, wenn die gefütterten Daten eine sinnvolle Ableitung nicht zulassen. Metaphorisch wird das als “Halluzination” bezeichnet, obwohl keine vorliegt. Es ist nur derselbe Algorithmus, der mit derselben Gewichtungslogik arbeitet. Anders als beim Taschenrechner sind die Ergebnisse jedoch nicht vorhersagbar, da das System selbstbezüglich arbeitet. Wenn ein Chatbot also aus sinnvollen, konsistenten und schliesslich auch wahren Texten eine wahre Aussage ableitet, dann kommt das sehr wahrscheinlich unter genau diesen Prämissen vor – und sonst nur, wenn’s grade hinhaut. Ansonsten plappert die “KI” eben auch eine Menge Quatsch.
„Gödel sagt nichts über Sinn und Bedeutung aus.“
Das wird auch gar nicht behauptet. Gödel spricht nicht direkt über Bedeutung — aber er zeigt die strukturellen Grenzen jedes formalen Systems. Und KI ist ein solches System.
Der Punkt ist: KI ist ein formales System. Formale Systeme können keine Bedeutung erzeugen. Gödel zeigt die Grenzen solcher Systeme. Daher kann KI nicht meinen, was sie sagt.
Dem widersprechen Sie nicht. Im Gegenteil: Sie bestätigen selbst, dass KI nur Syntax verarbeitet — wie ein Taschenrechner, der keine Vorstellung von einer Quadratwurzel hat.
Im Kern sind wir uns also einig, auch wenn Ihre Formulierungen rhetorisch wie ein Widerspruch klingen. Ist doch schön. Damit können wir die Debatte abschliessen.
In dem einen Punkt sind wir tatsächlich derselben Meinung. In anderen Punkten jedoch überhaupt nicht, deshalb die differenzierten Antworten. Damit ein Empfänger einer Nachricht dieser Bedeutung zumessen kann, muss er eine Vorstellung und damit Erwartungen pflegen, er muss Interessen und Intentionen verfolgen. Kurz: er muss eine Person sein. Mit dem Sinn einer Nachricht ist es anders. Der Sender einer Nachricht ist ja nicht das Computerprogramm, das sie generiert, sondern es ist der Betreiber des Computerprogramms. Er ist es, der den Nachrichten, die das Programm generiert, einen Sinn verleiht, denn er ist der eigentliche Sender. Ein Betreiber verfolgt auch einen Zweck, wenn er Nachrichten generieren lässt. Wer sich darüber im Klaren wird, misst den generierten Nachrichten dann auch entsprechend Bedeutung zu, und lässt sich nicht so leicht hinter die Fichte führen.
Dem widerspreche ich nicht — und es widerspricht auch nicht dem, was ich oben gesagt habe.
Mir ging es im Kern um genau einen Punkt: Die Maschine meint nicht, was sie sagt.
Und darin sind wir uns einig.
Was Sie jetzt ausführen über Sinn (vom Sender) und Bedeutung (vom Empfänger) bestätigt das sogar: Die Semantik kommt vom Betreiber (besser den Autoren der Text die in KI eingespeist werden), der die KI mit Texten füttert, und vom Leser, der die Antwort interpretiert. Im KI‑System selbst steckt keine Bedeutung. Es verarbeitet nur Syntax — wie der Taschenrechner, dem die Quadratwurzel nichts bedeutet.
Über den Betreiber einer KI habe ich nichts ausgesagt, und ich stimme Ihnen zu: Er ist der eigentliche Sender. Die KI ist nur das Werkzeug, das Zeichenfolgen erzeugt, die sie selbst nicht versteht.
Damit schließt sich der Kreis. Wir sind uns im Kern einig — und damit können wir die Debatte tatsächlich abschließen. Wie haben es systemtheoretisch analysiert und müssen jetzt aufpassen daß wir diese Kommentarspalte nicht langweilen. Dissens besteht zu Programmierern ohne fundierte Informatikbildung oder Politiker, die das alles nicht verstehen und mir und Ihnen einfach eine Abwertung von KI vorwerfen. Dabei betreiben wir nur eine notwendig Analyse der Möglichkeiten und prinzipiellen Grenzen von KI.
Lieber Thomas, ich möchte mich noch für das angenehme Gespräch bedanken. Deine ruhige, sachliche Art hat mich inspiriert. Ich hoffe, Mitleser können etwas für sie relevantes Entnehmen, dann war’s auch nicht zwecklos ;-)
Bisher sieht es nicht gut aus für die dunkle Materie, und auch die dunkle Energie entzieht sich bisher dem Nachweis – obwohl intensiv daran geforscht wird. Ein Freund von mir “jagd” dunkle Energie beruflich als Physiker. Und dann kommt ein unabhängiger Forscher namens Sky Darmos und legt eine Theorie für Quantengravitation vor, die beide “erfundenen” Teilchen – die dunkle Materie wie die dunkle Energie – überflüssig machen würde, würde sie bestätigt werden. Nur, es findet kaum ernsthafte Auseinandersetzung mit seiner Theorie statt, denn sie steht im Widerspruch zum Mainstream. Sie kann also stimmen oder nicht, und man wird es zunächst nicht herausfinden, weil man es nicht herausfinden will.
Bitte den Schreibfehler “jagd” statt “jagt” zu entschuldigen. Leider kann man die Artikel hier nicht mehr bearbeiten.