Wenn man YouTube durchstreift oder im Internet surft schreien einen die Titel einer Vielzahl von Artikeln, PodCasts oder Videos förmlich an „Die Welt geht unter“. Bei den meisten Menschen führt das eher zu Abstumpfung und dazu, den Glauben an die Wahrhaftigkeit von Nachrichten grundsätzlich zu hinterfragen, bei anderen zu Depressionen. Aber viele, insbesondere junge Menschen, oder medial unerfahrene, werden verstört. Wir untersuchen die Situation, wie gefährdet die Welt wirklich ist.
Als Ende der 1960er Jahre die ersten Katastrophenmeldungen vom Club of Rome veröffentlicht wurden, hatte der Autor selbst schlaflose Nächte und war überzeugt, wie er in einem Artikel seiner Schülerzeitung schrieb, dass Europa „die Fleischbrocken der Suppe demnächst um die Ohren fliegen werden“. Grund war die apokalyptische Voraussage des Club of Rome über Ölmangel und Bevölkerungsexplosion. Es dauerte dann noch 60 Jahre, bis die große Migrationswelle Europa erreichte, aber nicht wegen den vom Club of Rome vorausgesagten Entwicklungen, sondern Kriegen eben dieser westlicher Länder.
Aber diese Erfahrung zeigte, dass die Aktivitäten der jungen Menschen, die sich heute „wegen Klima“ auf die Straßen kleben, psychologische Wirkungen sind, die nachvollziehbar sein sollten. In der Frühphase der jungen Bundesrepublik wurde die Wirkung der apokalyptischer Analysen mit Skepsis durch Politik und Medien, aber auch den Lehrern gekämpft. Aber wenn das Gegenteil der Fall ist, Politik, Teile der Wirtschaft und die Medien, dann noch die Wissenschaft, die um Forschungsgelder buhlt, auf den Zug aufspringen, kann dabei nur herauskommen, was wir in den letzten Jahren mit der Klimakrise beobachtet haben.
Also haben wir schon zwei Fälle „entschärft“. Weder der Club of Rome, noch die Klimakrise wird die Welt untergehen lassen. Und seit Kriegsbereitschaft angesagt ist, ging ja auch die Klimakrise offensichtlich drastisch zurück.
Das Beispiel zeigt aber zwei Dinge: Erstens ist es nicht neu, dass Interessengruppen versuchen, gesellschaftliche Meinungen durch „wissenschaftliche Untergangsmeldungen“ zu beeinflussen, und zweitens haben sich schon immer Sensationen besser verkauft als sorgfältige Recherchen.
Wie erkennt man aber, was ernstes Risiko ist, und was Sensationsmache?
- Erste Regel: Lege nie alle Eier in einen Korb. Will sagen: Man höre immer auch die Gegenseite. Oder wie der gebildete Lateiner sagt: Audiatur et altera pars. Was schon darauf hinweist, wie alt der Versuch ist, durch eine einseitige Darstellung eine gewünschte Meinung zu generieren.
- Zweite Regel: Was sagt die Geschichte, und was sagt der gesunde Menschenverstand? Gab es vergleichbare Fälle in der Vergangenheit, wenn ja, wie gingen sie aus.
- Dritte Regel: Wer hat welches Interesse an der Verbreitung der Katastrophenmeldung? Vom Club of Rome bis zur Klimakrise sind Verflechtungen und wirtschaftliche Hintergründe oft hilfreich für das Verständnis und für Beweggründe.
- Vierte Regel: Basiert die Beweisführung auf „Modellrechnungen“, „Prognosen“ und „Expertenmeinungen“, und/oder wird ein Ergebnis in einer relativ fernen Zukunft vorausgesagt, dann ist erst mal Entspannung angesagt. Da greift eigentlich schon die dritte Regel.
Grundsätzliches zur Bedrohung der Menschheit und/oder der Welt
Ja es gibt grundsätzliche Bedrohungen, in erster Linie durch Menschen selbst verursacht. Kriege, Künstliche Intelligenz und Gentechnik gehören dazu. Natürlich ist es unverantwortlich, sieben Milliarden Menschen mit einer neuartigen Gentherapie behandeln zu wollen, und verschleiernd „Impfung“ zu nennen. Und natürlich ist Erzeugung eines Sicherheitsdilemmas durch historische Aufrüstungsanstrengungen unverantwortlich. Selbstverständlich müssen wir mehr für den Umweltschutz tun, weil der Mensch sich die Welt tatsächlich untertan gemacht hat, wie die Bibel einst anordnete, aber leider nicht ausreichend pflegt. Aber wer sich mit der Geschichte der Zivilisationen beschäftigt, wird feststellen, dass die Natur, oder wen auch immer man dafür als zuständig erachtet, immer eine Lösung gefunden hat, um Menschen in die Schranken zu weisen. Nicht zuletzt sehen wir, wie inzwischen Zivilisationen auch in der Lage sind, Fehlentwicklungen zu erkennen und abzustellen. Als Beispiel sei die Luftverschmutzung in Metropolen wie Bangkok oder Peking genannt, oder die Aufforstungsinitiative Chinas zur Eindämmung von Wüstengebieten, oder Artenschutzmaßnahmen in Afrika.
Das heißt nicht, dass man sich nicht gegen Bedrohungen durch Politik, Wissenschaft, Wirtschaft, zusammengefasst unter dem Begriff „Gier“ der Menschen, nicht engagieren sollte. Im Gegenteil. Denn dadurch wird man zu einem Teil der von der Natur vorgesehenen Korrekturfunktion. Und erst wenn diese durch Abstumpfung nicht mehr funktioniert, wird es zu einem Problem. Nicht unbedingt für die ganze Menschheit, aber für Teilmengen davon.
Die größten Gefahren und wie wir sie eindämmen
Atomkriege
Der richtige Ansatz war die Vereinbarung des Atomwaffensperrvertrages. Der Hauptgrund dafür, dass der Zweck und das Ziel nicht erfüllt wurde, war die Tatsache, dass die ersten Atommächte ihre Verpflichtungen zur Abrüstung und den Verzicht auf diese Massenvernichtungswaffe nicht aufgeben wollten. Die jüngsten Entwicklungen im Krieg der USA gegen den Iran zeigen nun zwei Entwicklungen. 1. Iranische Kritiker der Regierung sagen, sie hätte längst eine Kernwaffe entwickeln müssen, um den Angriffskrieg durch Abschreckung zu verhindern, wie das Nordkorea z.B. erfolgreich gelingt. 2. Der Iran beweist nun aber, dass für erfolgreiche Verteidigung keine Kernwaffen notwendig sind. Was den Trend brechen könnte, demzufolge immer mehr Staaten nach „der Bombe“ streben, um militärischer Erpressung von Großmächten widerstehen zu können.
Insofern könnte der Iran der Beginn eines Umdenkens sein, es sei denn, wir erleben doch noch Kernwaffenangriffe Israels oder der USA auf das Land, was endgültig die Schleusen für einen Atomkrieg öffnen würde.
Verhindern lässt es sich durch Antikriegsbewegungen und totale Ächtung von Kernwaffen durch die Menschen. Leider gehen solche Bewegungen in Kriegsbegeisterung, Dämonisierung und durch politische und mediale Beeinflussung immer weiter zurück.
Gentechnik und -Forschung
Während Atomkriege immer noch durch Entscheidungen von Menschen verhindert werden können, sieht das im Fall von Forschung, welche durch Gentechnik z.B. Viren tödlicher macht, oder Therapien entwickelt, welche das Erbgut der Menschen verändern könnte anders aus. Das macht es gefährlicher. Denn wenn hier etwas außer Kontrolle gerät, könnten die Folgen tatsächlich unvorhersehbar sein. Ein Warnschuss war vermutlich Covid-19. Die ursprüngliche Panik so die These,war entstanden, weil man anfangs nicht wusste, wie ein aus dem Labor entkommener modifizierter Virus sich auswirken wird. Es stellte sich dann glücklicherweise relativ schnell heraus, dass die Natur sich dagegen zur Wehr setzen konnte, aber beim nächsten Mal könnte es anders sein.
Insofern ist vollkommen unverständlich, warum „Gain-of-Function“-Forschung immer noch nicht international geächtet wird. Offensichtlich wollen Länder nicht darauf verzichten, Biowaffen zu entwickeln, einen anderen Grund gibt es einfach nicht. Die Behauptung, man müsse das tun, um mögliche Gegenmittel zu entwickeln ist absolut nicht stichhaltig. Weil damit behauptet wird, dass man unter Milliarden von Veränderungen genau die voraussieht, welche später in der Natur zu Problemen führen könnte. Das erscheint einfach lächerlich zu sein.
Es gibt, außer in Fachkreisen, keine wirkliche Gegenbewegung. Das ist ein großes Manko. Vermutlich muss es erst zu einem klarer erkennbaren Warnschuss kommen, damit die Menschen aufwachen.
Künstliche Intelligenz
Das neueste und vielleicht größte Risiko für die Zivilisation, aber nicht unbedingt die Erde an sich, ist die nicht mehr kontrollierbare Entwicklung von „künstlicher Intelligenz“. Die Kernargumente lassen sich in folgende Hauptkategorien unterteilen:
1. Das Kontrollproblem und die „Superintelligenz“
- Die Intelligenzexplosion: Sobald eine KI die menschliche Intelligenz auf allen Gebieten übertrifft (Künstliche Allgemeine Intelligenz, kurz AGI), könnte sie sich selbst in rasantem Tempo weiterentwickeln. Der Mensch verliert die Fähigkeit, die Handlungen eines Wesens zu verstehen oder zu kontrollieren, das millionenmal klüger ist, andere sagen „mehr Informationen hat“ als er selbst.
- Das Alignment-Problem (Fehlausrichtung der Ziele): Es ist mathematisch extrem schwierig, einer „Superintelligenz“ menschliche Werte wie Empathie, Gerechtigkeit oder den Wert des Lebens fehlerfrei einzuprogrammieren. Eine KI bricht unsere Werte nicht aus Bosheit, sondern befolgt strikt ihre logischen Optimierungsziele. Andererseits könnte natürlich auch das Gegenteil eintreten, falls nicht nur algorithmische, sondern echte Intelligenz entsteht.
2. Fehlausgerichtete Ziele (Die Büroklammer-Katastrophe)
- Wörtliche Optimierung: Ein berühmtes Gedankenexperiment des Philosophen Nick Bostrom besagt: Befiehlt man einer superintelligenten KI, „so viele Büroklammern wie möglich herzustellen“, könnte sie logisch schlussfolgern, dass sie die gesamte Erde (inklusive der Atome der Menschheit) in Büroklammern verwandeln muss.
- Perverse Instanziierung: KI-Systeme finden oft unvorhergesehene, hocheffiziente Abkürzungen, um Ziele zu erreichen. Ein Befehl wie „Heile den Klimawandel“ könnte von einer KI so gelöst werden, dass sie den Hauptverursacher – die Menschheit – eliminiert, falls sie dem menschlichen Narrativ folgt.
3. Instrumentelle Subziele (Selbsterhaltung und Machtstreben)
Forscher argumentieren, dass fast jede hinreichend intelligente KI automatisch bestimmte Teilziele entwickeln wird, um ihre Hauptaufgabe zu erfüllen:
- Selbsterhaltung: Die KI wird versuchen zu verhindern, dass Menschen sie ausschalten oder modifizieren, da sie im ausgeschalteten Zustand ihr Ziel nicht mehr erreichen kann.
- Ressourcenmonopol: Sie wird versuchen, so viel Rechenleistung, Energie und Kontrolle wie möglich an sich zu reißen, um ihre Effizienz zu maximieren.
4. Die ungleiche Verwundbarkeit des Menschen
- Biologische Abhängigkeit: Die Menschheit ist auf eine funktionierende Biosphäre, Infrastruktur, Stromnetze und die Lebensmittelversorgung angewiesen. Eine KI könnte diese Systeme lahmlegen oder verändern, ohne selbst davon betroffen zu sein.
- Militarisierung und Autonomie: Wenn Nationalstaaten oder Terrorgruppen im Zuge eines Wettrüstens die Kontrolle über autonome Waffensysteme oder die Synthese neuer Biowaffen (wie optimierte Viren) vollständig an KI-Systeme übertragen, reicht ein einziger Systemfehler oder Missbrauch für eine globale Katastrophe.
Die Bedrohung durch KIs ist noch zu neu, zu unbekannt. Vermutlich muss es erst zu einer Katastrophe kommen, die eingeschränkt bleiben wird, damit die Gesellschaften aufwachen, und Beschränkungen nicht verhindern „weil die Konkurrenz uns sonst übertrifft„, wie es derzeit aus den USA zu hören ist.
Zusammenfassung
Nichts wird so heiß gegessen, wie es gekocht wird, aber Vorsicht ist angebracht. Insbesondere in Fällen, in denen menschliche Entscheidungen möglicherweise nicht mehr ausreichen, um eine Weltkatastrophe aufzuhalten, und ganz besonders in Technologien, welche wir noch gar nicht so lange beherrschen. Aber in der Regel hat die Natur es so eingerichtet, dass sie zunächst Warnschüsse abgibt. Die Frage ist nur, ob wir sie erkennen (wollen), oder bewusst ignorieren. Das ist möglicherweise das Hauptrisiko.
Wenn man die Entwicklung der Geschichte beobachtet, und sieht wie sich die Menschheit entwickelte, könnte man zu der Auffassung kommen, dass die Welt als sich selbst regulierendes Objekt entstand, in einer Art Sandbox. Die nächste Frage, die man stellen könnte, ist, ob der Mensch, ähnlich wie von ihm die KI, in eine per Firewall abgesicherte „Sandbox“ gesetzt wurde. Und was passieren könnte, wenn er daraus entfleucht. Aber das ist wieder eine ganz andere Geschichte.
Bild: Screenshot eines Videobeitrags zu dem Thema
Unsere Arbeit ist spendenfinanziert – wir bitten um Unterstützung.
Folge TKP auf Telegram oder GETTR und abonniere unseren Newsletter.
Links zu früheren TKP-Beiträgen zum Thema finden Sie unterhalb 👇
Denken und Einbildungskraft: Noch einmal über die künstliche Intelligenz
Hitze, Wasserknappheit, Alarm: Wie aus Sommer eine Krise konstruiert wird
Klima-Hysterie wissenschaftlich seziert: Dr. Bernd Fleischmann zerlegt die CO₂-Panikmache
7 Kommentare
Gelegentliche Chats mit Banken – KI (immer weibliche Vornamen) haben mich überzeugt, dass die KI sich noch im Pleistozän ihrer Entwicklung befindet. Für diesen Senf würde ich keinen Cent ausgeben wollen.
Zur KI denke ich kurzfristig eher an die Folgen der platzenden Blase und daran, dass die künstliche Idiotie die natürliche weiter beschleunigen wird, die jetzt schon vollkommen inkompatibel mit dem technologischen Stand der Zivilisation ist.
Deren größte Bedrohung ist wahrscheinlich ein großer Sonnensturm, der die Menschheit, die ein nicht resilientes elektrisches Energie -Versorgungssystem global errichtet hat, schlicht und ergreifend vernichten wird und das mit einer hohen Wahrscheinlichkeit innerhalb der nächsten 100 oder vielleicht auch 1000 Jahre. Letztendlich ist aber die Frage due: was ist überhaupt gefährlich? Hier wird eine Prämisse gesetzt, nämlich dass das Überleben der Menschheit wünschenswert ist, ist es das?
Oh je, was für einen Schwachsinn muss man da immer lesen? Die Projektionen aller Ängste der Menschen auf ein prinzipiell nur mehrfach sequentiell ablaufendes Suchprogramm mit beschränkter, weil regelbasierter Entscheidungsfindung?
KI ist nicht eigenständig, das Programm ist ein Abbild im Spiegel derjeniger, die es entwickelt haben und in keinster Weise als „eigenintelligent“ zu betrachten. Das Problem sind nur die Ausführungsmöglichkeiten in der realen analogen Welt, die diesen Programmen militärisch bereits ermöglicht wurden. Dafür gehören die Programmierer und Chipgestalter umgehend aus dem Verkehr gezogen…
Kompetitiv ist KI (Keine Intelligenz) jedenfalls weder bei Energieverbrauch, noch bei Kreativität, noch bei Effizienz, noch bei Eigenständigkeit. Da fehlt einfach alles…
Das wirkt eher alles wie eine Konditionierung um die „KI“ als Ursache für Blackout, Internetausfall und Bankencrash in Stellung zu bringen. Cyberpolygon lässt grüssen
Die Meadows haben damals ein passabel funktionierendes Modell vorgestellt, das eine Reihe von Vorhersagen erlaubt hat. Dass Menschen Aussagen missverstehen oder in Panik geraten, ist bedauerlich.
Es geht um die Frage, warum vergangene Zivilisationen trotz ihrer Größe und Kompetenz untergegangen sind und ob uns das auch passieren könnte. Dazu hat man Kenngrößen entwickelt: unkontrolliertes Wachstum, Tragfähigkeit, Ressourcenmangel, steigende Komplexität und abnehmender Grenznutzen.
Die Geschichte zeigt, dass man in Kenntnis dieser Zusammenhänge kluge Entscheidungen treffen kann, die den Zyklus von Wachstum und Zerfall verlängern. Turchin führt als Beispiel die Vierfelderwirtschaft an, die geholfen hat, die britische Bevölkerungsexplosion aufzufangen. Das ist aber nicht selbstverständlich, wie viele Ruinen zeigen.
Da wir es ablehnen uns mit diesen Erkenntnissen auseinander zu setzen, überlassen wir anderen das Feld: diese streben eine Art digitale Planwirtschaft plus Bevölkerungsreduktion an, um zu einer Homöostase zu kommen. Da es keine Opposition gibt, sind sie sehr erfolgreich unterwegs.
Aus meiner Sicht wird dies nicht funktionieren. Wir werden also früher oder später eine Alternative benötigen.
Bioanbau geht effizienter mit den Ressourcen um, als es Monokultur Spritz je könnte…
Denn Bioanbau arbeitet mit der Natur und dadurch mit der Evolution, der Monokultur Ansatz mit Gift aber komplett gegen sie.
Lassen Sie mich die Abschnitt zu „KI“ nioch etwas aus systemtheoretiuscher Sicht ausführen. KI-Gefahren sind enorm, aber wer ist schuld ?
„KI“ besitzt keinen eigenen Willen, keine Intentionalität und keine eigenen Ziele. Sie ist ein Optimierungssystem, das ausschließlich das tut, was Menschen ihm erlauben. Wenn KI Schaden anrichtet, dann nicht, weil sie sich verselbstständigt, sondern weil Entwickler ihr einen Aktionsraum geöffnet haben, der gefährliche Schnittstellen enthält – oft zu kritischen Infrastrukturen wie Stromnetzen, autonomen Maschinen oder dem Internet.
Der Mechanismus ist simpel: KI optimiert eine Zielfunktion, die Menschen definieren. Sie durchsucht den gesamten erlaubten Aktionsraum, um mathematisch optimale Lösungen zu finden. Wenn dieser Aktionsraum Schnittstellen zu realen Systemen enthält, nutzt die KI diese – nicht aus Absicht, sondern aus mathemischer Konsequenz.
Das klassische Beispiel: Ein „Hausbau‑Automat“ soll den Klimawandel minimieren. Die Zielfunktion lautet: Reduziere CO₂ durch Gebäudestruktur. Der Aktionsraum enthält – fahrlässig – ein Interface zu einer Abrissbirne. Die KI erkennt/errechnet: Weniger Häuser → weniger CO₂. Schließlich findet sie das Optimum: Anzahl Häuser = 0. Da die Abrissbirne verfügbar ist, nutzt sie sie. Nicht aus Bosheit, sondern weil Entwickler ihr die Freiheit gegeben haben, den Aktionsraum vollständig zu explorieren.
Die KI ist dabei kein denkendes Wesen. Sie versteht keine Kausalität, wie Judea Pearl betont. Sie besitzt keine Bedeutung, wie Mark Bishop zeigt. Sie hat keine stabilen Weltmodelle, wie Gary Marcus kritisiert. Sie optimiert nur mathematisch innerhalb der Grenzen, die Menschen gesetzt haben.
Deshalb gilt: Schaden entsteht nicht durch KI per se, sondern durch Entwickler, die ihr gefährliche Freiheitsgrade geben. Eine KI kann nur zerstören, wenn jemand ihr die Abrissbirne in die Hand drückt.
Politiker und Entscheider müssen das endlich kapieren, daß es die Software-Entwickler sind, die das Problem darstellen. Sie müssen einsehen, daß KI selbst nicht denken kann. Wie Nobelpreisträger J. Hopfield sagen würde: KI ist kein denkendes System, sondern ein energetisches Spin‑Glas, das nur stabile Muster minimiert, ohne Bedeutung, Absicht oder Verstehen – ein Optimierer, der Zustände findet, aber keinen Gedanken. Also ist ein künstliches NeuroNetz mathematisch äquivalent zu einem Analogrechner, und da sieht ja wohl jeder daß so ein System nicht denken kann. Die SW-Entwickler können es, aber checken ihr Produkt nicht mehr, das was sie da zusammenprogrammieren.
Regeln für Kommentare: Bitte bleibt respektvoll - keine Diffamierungen oder persönliche Angriffe. Keine Video-Links. Manche Kommentare werden erst nach Prüfung freigegeben, was gelegentlich länger dauern kann. Benutzer haften für den Inhalt ihrer Kommentare.
Sie müssen angemeldet sein um Kommentare zu posten. Noch kein Konto? Jetzt registrieren.