Vorhersagen als Macht: Wie KI‑Prognosen unsere Zukunft formen – und techno‑feudale Kontrolle beschleunigen
Buchbesprechung: Warum selbstbewusste Tech‑Prognosen als starke Verordnungen wirken, wer davon profitiert und wie wir demokratische Kontrolle zurückgewinnen können.
„Vorhersagen klingen wie Fakten, sind es aber nicht.“ Dieser Satz, den Carissa Véliz, KI-Expertin an der Oxford-Universitaet, in ihrem neuen Buch Prophecy: Prediction, Power, and the Fight for the Future (Deutsche Version: ) und in Interviews wiederholt, benennt eine stille, aber tiefgreifende Veränderung in der Art, wie unsere Gesellschaft Entscheidungen trifft: Wir werden zunehmend nicht mehr durch Werte‑Debatten regiert, sondern durch Vorhersagen, die sich als Unvermeidlichkeiten darstellen.
Tech‑CEOs, Politiker und Investoren formulieren Zukunftsbilder, als stünden sie schon fest — „morgen wirst du KI für alles nutzen“ — und weil diese Prognosen den Mantel der Gewissheit tragen, beginnen sie als Vorschriften zu wirken. Das Ergebnis ist vorhersehbar: Macht konzentriert sich bei denen, die die Vorhersagen produzieren, und demokratische Rechenschaftspflicht löst sich auf.
Dieser Artikel verwebt Véliz’ zentrale Argumente aus Prophecy zu einer politikorientierten Erzählung und einem praktischen Fahrplan. Er erklärt, warum Prognosen politisch sind, wie prädiktive Systeme Freiheit einengen und Verzerrungen verstärken, warum Ablenkungen durch „superintelligente KI“ weniger relevant sind als alltägliche Fehler, und was demokratische Gesellschaften tun können, um Handlungsfähigkeit zurückzugewinnen.
Warum Vorhersagen wie Macht wirken
Eine mit Zuversicht vorgetragene Prognose leistet mehr als eine epistemische Behauptung; sie prägt Erwartungen, mobilisiert Investitionen und kanalisiert Regulierung. Wenn eine weithin respektierte Person oder ein gut finanziertes Unternehmen eine bestimmte Zukunft als „unvermeidlich“ bezeichnet, verändert diese Aussage Anreize und verengt den Spielraum politischer Optionen und der öffentlichen Vorstellungskraft. Véliz nennt das „Vorausgehorsam“ — ein treffendes Echo von Timothy Snyders Konzept, dass Menschen dazu gebracht werden können, einen Weg zu akzeptieren, bevor er umgesetzt wird.
Foto: Dr. Carissa Véliz (links)
„Tech‑Führer haben finanzielle Anreize, wünschenswerte Zukünfte als unvermeidlich darzustellen“, merkt Véliz an. Unternehmen verdienen daran, wenn Nutzer, Aufseher und Investoren ihre bevorzugte Zukunft als einzige realistische Option ansehen. Die rhetorische Macht der Prognose wird so zu einem wirtschaftlichen Hebel. Marketing, Hype und technische Vorhersage verschmelzen; und die Öffentlichkeit, die in unsicheren Zeiten nach Gewissheit sucht, überträgt oft unbegründet Autorität an jene, die sie versprechen.
Psychologie und Sprache der Prognostizierung
Warum akzeptieren Menschen Prognosen? Angst und Unsicherheit leisten einen großen Teil der Arbeit. Die Frage „Was wird passieren?“ verbirgt oft eine tiefere Bitte: „Sag mir, was ich tun soll.“ Prognosen sind attraktiv, weil sie in Kontingenz Orientierung bieten. Die Sprache verstärkt den Effekt: Vorhersagen werden häufig wie neutrale Beschreibungen formuliert, sodass unsere kognitiven Systeme sie als Information statt als Vorschlag behandeln.
„Vorhersagen klingen wie Fakten, sind es aber nicht“, wiederholt Véliz. Die rhetorische Form vieler Prognosen verschleiert, dass sie auf Annahmen, selektiven Daten und normativen Entscheidungen beruhen. Hat sich eine Prognose erst durchgesetzt, wird sie zum sich selbst erfüllenden Instrument: Institutionen handeln danach und produzieren die Daten, die sie scheinbar bestätigen.
Verengung von Chancen und Verstärkung von Verzerrungen
Einer der unmittelbarsten Schäden durch prädiktive Systeme ist die subtile, aber stetige Verengung menschlicher Möglichkeiten. Modelle, die an historischen Ergebnissen trainiert sind, ermutigen Institutionen, „auf Nummer sicher“ zu gehen. Im Recruiting kann das heißen, Kandidaten zu bevorzugen, die bisherigen „erfolgreichen“ Mitarbeitenden ähneln — was häufig weiße Männer begünstigt. In Kreditvergabe und Versicherung kann das bedeuten, Gruppen mit schlechten historischen Kennzahlen auszuschließen und manche Menschen faktisch „unversicherbar“ zu machen.
Véliz erläutert den Mechanismus: Voreingenommene Entscheidungen erzeugen voreingenommene Daten, die dann künftige Modelle trainieren, diese Entscheidungen zu wiederholen. Dieser Rückkopplungsmechanismus institutionalisiert Ungleichheit und reduziert soziale Mobilität. Prognosen spiegeln also nicht nur vergangene Muster — sie verstärken sie.
Das Truthahn‑Problem: Warum Vergangenheitsdaten irreführen
Véliz erinnert an das klassische „Truthahn-Problem“, um zu veranschaulichen, wie gefährlich es ist, Schlussfolgerungen rein aus historischen Daten zu ziehen. Ein Truthahn, den man täglich füttert, entwickelt blindes Vertrauen in seine Sicherheit. Ausgerechnet am Tag seiner Schlachtung erreicht dieses Vertrauen seinen folgenschweren Höhepunkt.
Ähnlich gehen Modelle, die auf historischen Regelmäßigkeiten trainiert sind, von Stabilität aus. Wenn die Welt sich ändert — durch Klimaschocks, strukturelle ökonomische Verschiebungen oder technologische Neuheiten — können prädiktive Systeme spektakulär versagen.
„KI‑Prognosen stammen aus Vergangenheitsdaten, nicht aus Zukunftsdaten“, warnt Véliz. Übermäßiges Vertrauen in solche Prognosen erzeugt kollektive Blindheiten, besonders wenn viele Akteure dieselben Datensätze und Architekturen nutzen.
Systemische Fragilität durch Synchronisation
Es gibt eine weitere Ebene: Wenn Regulatoren, Versicherer, Investoren und Unternehmen auf ähnliche Modelle setzen, drohen synchronisierte Fehlleistungen. Véliz zieht eine Parallele zur Finanzkrise 2008, in der homogene Risikomodelle eine gemeinsame Fehleinschätzung mit katastrophalen Folgen erzeugten. Auch heutige prädiktive Monokulturen können systemische Fragilität erzeugen: Ein einzelnes Modellversagen oder eine falsche Annahme kann sich über Branchen und Institutionen hinweg ausbreiten.
Sie zitiert die Warnung eines britischen Versicherungsaufsichtsorgans, dass KI bereits manche Gruppen „unversicherbar“ mache — ein Fall, in dem modellgetriebene Konservativität das Risiko auf diejenigen verlagert, die am wenigsten belastbar sind.
Alltägliche Dummheit schlägt phantastische Panik
Die öffentliche Debatte fixiert sich oft auf apokalyptische Visionen superintelligenter KI. Véliz widerspricht: Solche Ängste dienen häufig als Marketing und Statussignal für Insider. Das weitaus unmittelbarere Risiko ist banal: Modelle, die dumme Fehler machen, falsche Positive erzeugen und undurchsichtige institutionelle Maßnahmen ermöglichen, die Verantwortlichkeit verringern.
Prominente Warnungen — etwa Geoffrey Hintons Rücktritt und die folgende Alarmstimmung — werfen legitime ethische Fragen auf, doch Véliz mahnt, Motive und Interessenskonflikte zu prüfen. „Dramatische Warnungen von prominenten Insidern können eigennützig sein“, so ihre Einschätzung; sie verstärken möglicherweise Angst, ohne die strukturellen Anreize zu verändern.
Die Demokratie steht auf dem Spiel
Véliz’ zentrale politische Einsicht ist klar: Prädiktive Systeme ermöglichen es Institutionen, Verantwortung zu umgehen. Einen faktischen Fehler anzufechten ist relativ einfach — wurde etwa ein Darlehen wegen falscher Einkommensangaben abgelehnt, kann man die Akte korrigieren. Aber wie weist man eine prädiktive Einstufung als „hohes Risiko“ zurück? Prognosen sind oft undurchsichtig, schwer einsehbar und noch schwerer zu widerlegen.
„Vorhersagen erlauben es Unternehmen und Regierungen, Verantwortung zu vermeiden“, stellt Véliz fest. Diese Aushöhlung der Anfechtbarkeit bedroht demokratische Normen. Demokratien beruhen auf Transparenz, öffentlicher Argumentation und Rechtsschutz; undurchsichtige Prognosesysteme umgehen diese Mechanismen und verlagern Macht an jene, die Daten und Modelle kontrollieren.
Medizin: Versprechen, Vorsicht, Strenge
Véliz erkennt an, dass prädiktive Systeme echte medizinische Vorteile bringen können — frühe Erkennung schwerer Krebserkrankungen ist ein bemerkenswertes Beispiel. Die Geschichte mahnt jedoch zur Vorsicht. Während COVID‑19 wurden viele KI‑Werkzeuge übereilt in die klinische Anwendung übernommen, ohne randomisierte Studien; spätere Bewertungen zeigten, dass die meisten wirkungslos und einige schädlich waren.
Prädiktive Medizin erfordert die höchsten Evidenzstandards: Peer Review, randomisierte kontrollierte Studien, Langzeit‑Assessments und strenge Protokolle, um Überdiagnosen und Schaden zu vermeiden. „Ermutigende klinische Ergebnisse existieren, aber die Geschichte zeigt die Notwendigkeit von Skepsis und rigorosen Studien“, sagt sie.
Praktische Regeln für verantwortungsvolle Prognose
Véliz lässt uns nicht nur mit der Diagnose zurück; sie bietet konkrete Regeln:
- Vorhersagen für Dinge statt für Personen: Aggregierte Prognosen (Krankheitsprävalenz, Nachfragewellen, Wetter) bergen weniger moralische Risiken als individualisierte Risikowerte.
- Bevölkerungsnahe Modelle individuellen Profilen vorziehen, wenn Leben und Existenzen auf dem Spiel stehen.
- Ethische Leitplanken einführen: Transparenzpflichten, unabhängige Audits, Modellkarten, Datensatz‑Offenlegungen, Anfechtbarkeitsmechanismen und rechtliche Grenzen für prädiktive Nutzungen.
Das sind keine bloßen technischen Details; es sind demokratische Schutzvorrichtungen, die menschliche Handlungsfähigkeit und Anfechtbarkeit bewahren.
Warum Prognosen kaum hinterfragt werden
Zwei Kräfte machen prädiktive Behauptungen hartnäckig. Erstens die menschliche Psychologie: ständige Exposition normalisiert Prognosen — sie werden zur unsichtbaren Hintergrundannahme. Zweitens strukturelle Interessen: Regierungen und Konzerne profitieren, wenn Entscheidungen als modellgesteuert dargestellt werden, weil das Kontrolle reduziert und Verantwortung diffundiert.
„Prognosen sind so verbreitet, dass sie unsichtbar werden, wie Wasser für einen Fisch“, bemerkt Véliz. Diese Kombination kognitiver Blindheiten und institutioneller Anreize macht sinnvolle Kritik schwer — es sei denn, Bürger, Journalistinnen und Regulatoren wehren sich.
Vorhersagen als Werkzeuge des Empire
Véliz verortet Prognose in einer Geschichte informatorischer Herrschaft. Forschende wie Karen Hao argumentieren, dass das Problem nicht nur Technologie ist, sondern die Unternehmens‑ und Staatsformen, die sie einsetzen: Überwachungskapitalismus, Militarisierung und extraktive Unternehmensmacht. Véliz stimmt zu: Prognose ist ein instrumentelles Mittel für diese Systeme.
„Vorhersagen haben nur Macht, wenn Menschen ihnen glauben“, sagt sie. Unbegründete prädiktive Ansprüche zu unterminieren schwächt also die Institutionen, die auf ihnen beruhen.
Das Paradies‑Zukunftsversprechen ist Verkaufsstrategie
Technologiefirmen verkaufen oft eine Befreiungsvision: weniger Arbeit, bedingungsloses Grundeinkommen, reibungslose Optimierung. Véliz ist skeptisch. Versprechen einer „Paradies‑Zukunft“ können Proteste befrieden und die Übergabe von Urteilsvermögen an zentralisierte Systeme rechtfertigen. Reale Trends — wachsende Arbeitslasten, zunehmende Prekarität — widersprechen diesen rosigen Narrativen häufig.
Véliz’ politische Empfehlungen: konziser Aktionsplan
- Verbot oder strenge Regulierung individualisierter Vorherscores in risikoreichen Bereichen (Kredit, Versicherung, Beschäftigung, Strafrecht), es sei denn, die Systeme sind transparent, prüfbar und anfechtbar.
- Verpflichtung zu Modellkarten, Datensatz‑Offenlegung und unabhängigen Audits für Modelle im öffentlichen Bereich oder regulierten Industrien.
- Vorschrift von randomisierten kontrollierten Studien und Peer Review vor dem klinischen Einsatz prädiktiver Medizinwerkzeuge.
- Durchsetzung von Datenminimierungsregeln, um groß angelegtes persönliches Datensammeln zu begrenzen, das intrusive Vorhersagen ermöglicht.
- Erhalt menschlicher Entscheidungsbefugnis mit gesetzlichen Rechten auf menschliche Überprüfung und Einspruch bei algorithmischen Entscheidungen.
- Investitionen in öffentliche Bildung zu Wahrscheinlichkeit, Unsicherheit und den Grenzen von Prognosen.
- Unterstützung öffentlicher oder genossenschaftlicher Alternativen zu unternehmerischen Prognosemonopolen — offene Datensätze, zivilgesellschaftliche Vorhersageplattformen und gemeindebasierte Risikopools.
Prognosen ins Licht zwingen: Eine Politik der Skepsis, Transparenz und Anfechtbarkeit
Wir müssen Vorhersage nicht grundsätzlich ablehnen — Forecasting hat unbestreitbare Verwendungen. Die Aufgabe ist, einzuschränken, wie Prognosen in Entscheidungen eingesetzt werden, die das Leben der Menschen formen, und die demokratische Anfechtbarkeit dort wiederherzustellen, wo Prognosen heute als Vorwand für Autorität dienen.
Wie Véliz warnt: „Wenn wir prädiktive Ansprüche nicht hinterfragen, riskieren wir, kollektive Handlungsfähigkeit und die Gesundheit unserer Demokratien preiszugeben.“ Das Gegenmittel ist eine Politik der Skepsis, institutionelles Design, das auf Transparenz und Anfechtbarkeit besteht, und eine Öffentlichkeit, die Prognosen als Vorschläge betrachtet, über die es sich zu streiten lohnt — nicht als Gebote, denen blind zu gehorchen ist.
Die in diesem Artikel geäußerten Ansichten spiegeln nicht unbedingt die Ansichten der fixen Autoren von TKP wider. Rechte und inhaltliche Verantwortung liegen beim Autor.
Felix Abt ist ein in Asien lebender Unternehmer, Autor und Reiseblogger auf Substack: https://felixabt.substack.com.
Unsere Arbeit ist spendenfinanziert – wir bitten um Unterstützung.
Folge TKP auf Telegram oder GETTR und abonniere unseren Newsletter.
Wäre es nicht schön, wenn man herrschen könnte, ohne persönlich Verantwortung zu übernehmen – Macht ohne Gewissensbisse ausüben könnte? 🤔
„Wir werden zunehmend nicht mehr durch Werte‑Debatten regiert,“
No, Na! Ist ja/wäre ja gut wenn wir damit nicht mehr sekkiert werden.
Vertrauen zu etwas, seien es Institutionen oder Personen wurde schon gründlich niedergeredet, da Debatten als Einbahnstraßen für Eliten angelegt sind.
Jetzt brauchen sich die dabei nicht mal mehr durch ein schlechtes Gewissen selber zu ehren.
Auch das wird nun durch Automaten wegrationalisiert.
In der schönsten aller Rationaldigitalartificialiquhorrorshows aller Zeiten. Der RADAUHSaZ.
….da der Iqu ein Unfall des Erfinders war wurde er von mir durch U ersetzt……
Jan wäre auch gegangen….
Was mag wohl die Prophezeiung (sinngemäß übersetzt) „Wenn Biowaffen gegen Genotypen eingesetzt werden können, werden sie vom Terrorinstrument zu einem nützlichen Werkzeug der Politik“ bedeuten und verursacht haben? (Seite 60 oder 72, je nach Druckausführung: „And advanced forms of biological warfare that can „target“ specific genotypes may transform biological warfare from the realm of terror to a politically useful tool.“ „Rebuilding America’s Defenses: Strategy, Forces and Resources For a New Century“, im September 2000 von der US-Denkfabrik Project for the New American Century (PNAC) veröffentlicht.
Man sollte immer daran denken, dass KI Systeme und somit KI-prognosen nur regelmäßig wiederkehrende Muster verarbeiten. Solche Maschinen können keine geistige Akte vollziehen. Eine KI ist kein Subjekt, das meint, was es sagt, Gründe abwägt und Verantwortung übernimmt. Subjektivität lässt sich technisch nicht konstruieren lässt, weil Maschinen nur syntaktische Kausalketten realisieren.
Zur Veranschaulichung: Ich könnte den Maschinencode eines Übersetzungsmodells von Hand ausführen und so einen spanischen Satz ins Japanische „übersetzen“, ohne auch nur ein Wort dieser Sprachen zu verstehen. Ich würde lediglich Bits verschieben zwischen Speichereinheiten, Zahlen vergleichen und Pro-grammsprünge auslösen – was ein syntaktischer Zustandsautomat eben so tut. Das gilt für klassische Expertensysteme ebenso wie für neuronale Netze mit Deep Learning Algorithmen. Sie alle sind syntaktische Maschinen, die nicht verstehen, wozu sie ihre Arbeit verrichten. Deshalb hält die Informatik daran fest, dass Denken nicht auf algorithmische Berechenbarkeit reduzierbar ist. Echtes Denken erfordert Intentionalität, inneres Erleben, Weltbezug, echte und nicht nur simulierte Semantik.
Je mehr KI in schwierigen Kontexten eingesetzt wird, umso mehr werden diese Unterschiede zwischen einer Maschine und einem Subjekt mit menschlichen Gehirn als Fehler der KI zutage treten. Das hat die KI prognostiziert wird dann zu: da hat wieder ein System, das nicht denken kann, orakelt. Am Ende steckt in all diesen System nur die Macht ihrer Schöpfer / Entwickler, ob als klassisches Expertensystem programmiert oder als datengetriebenes Neuro-Netz, das auf eine Zielfunktion hin mathematisch optimiert wurde.