Seit einigen Wochen wird im Mainstream eine neue Geschichte aufgebaut und medial inszeniert: „Eine außer Kontrolle geratene KI wird uns alle umbringen.“ Es ist die neue Angst-Geschichte der herrschenden Klasse – aber was wird sie uns als „Lösung“ präsentieren?
Bill Gates, ein „KI-Whistleblower”, mittlerweile die UN: Nichts vom medial inszenierten Problem eines „KI außer Kontrolle“ ist organisch. Es ist eine Inszenierung eines Problems, wie man es von mittlerweile oft erlebt hat, etwa bei Covid oder dem Klimawandel. Was wir aber noch nicht wissen, ist, welche „“Lösung“ man uns auftischen will. Es wird irgendetwas mit „Regulierung“ sein. Aber was genau?
Geht es darum, den etablierten KI-Giganten ihr Monopol zu sichern? Oder dient das mediale Narrativ nur jenem Zweck, mehrschichtige übernationale Gesetze durchzusetzen, wie etwa bei der Altersverifikation? Das braucht eben seine Zeit und ein entsprechendes Narrativ.
Wie könnte „Anti-KI“-Gesetze aussehen? Schon bevor die Politik mit ihren Ideen kommt, und sie wird kommen, hat sich Kit Knightley vom Off-Guardian Gedanken dazu gemacht:
Erstens, und am offensichtlichsten: KI wird nicht mehr kostenlos sein. Kein freier Zugang zu generativer KI, und möglicherweise auch kein anonymer Zugang mehr. Es könnte durchaus sein, dass man in Zukunft für die Nutzung von KI bezahlen und/oder seine Identität nachweisen muss.
Mit ziemlicher Sicherheit werden Prompts aufgezeichnet, gescannt und „potenziell schädliche“ an die Regierung weitergeleitet.
„Was machst du denn mit KI, dass du dich so dafür schämst?“ wird die Standardantwort auf jeden Einwand sein.
Dazu kommen dann Klauseln über KI, die für „Missbrauchsmaterial mit Kindern“, misogynen oder rassistischen Inhalt, die Verbreitung von „Hass“, „digitale Gewalt“ oder was auch immer an Buzzwords nötig ist, um Hysteriker von links und rechts auf ihre Seite zu ziehen und diese Klausel zu rechtfertigen.
Damit haben sie im Übrigen schon angefangen. Und zwar reichlich. Ein Bericht der Vereinten Nationen: „KI und Anonymität treiben den Anstieg digitaler Gewalt gegen Frauen.“
Zweitens: Kein Open Source mehr. Wer ein Modell erstellt, muss es bei der Regierung registrieren, eine Gebühr zahlen und es von „Experten“ prüfen lassen, die es abschalten, wenn es nicht als sicher gilt.
Einen Präzedenzfall gibt es bereits: die „Social Media Licensing Bill“, die gerade durch das britische Parlament geht und verlangt, dass jeder, der eine Social-Media-Plattform betreibt, dafür eine Lizenz braucht.
Mit einem Schlag würden diese beiden Schritte das Monopol der KI-Giganten zementieren, hausinterne und Open-Source-Modelle beenden und kleine unabhängige Unternehmen lähmen, die zunehmend auf generative KI angewiesen sind, um bei einfachen Aufgaben wie Korrekturlesen, Codeprüfung oder Bilderstellung Arbeitsstunden zu sparen.
Drittens: Man wird uns sagen, wir müssten uns vor „Schurken-KI-Agenten“ schützen, die sich als Menschen ausgeben – also kein anonymes Internet mehr. Wer irgendwo ein Konto eröffnen will, braucht einen „Nachweis der Personenschaft“. Auch das ist seit Monaten ein Thema:
Wir brauchen eine Möglichkeit, Personenschaft online nachzuweisen – Die wachsende Zahl von KI-Agenten im Internet wird uns irgendwann zwingen, das zu verifizieren, was das alte Web meist einfach vorausgesetzt hat: dass irgendwo in der Kette eine moralisch und rechtlich verantwortliche Person steht.“
Euer digitaler „Proof of Personhood“ (wahrscheinlich mit einem fröhlichen Logo und einem niedlichen Kürzel wie „Proof of Personhood and Identity“ oder „POPI“) wird nötig sein, um Social-Media-Konten zu eröffnen, Online-Zahlungen zu tätigen, Hosting zu kaufen … im Grunde für alles.
Kleine Popi-Comics erklären euch dann, wie ihr euren neuen Personen-Nachweis nutzt, um einen Arzttermin zu buchen oder Steuern zu zahlen – und dabei eure Kinder vor Skynet zu schützen
.„Schurken-KIs verstecken sich hinter anonymer Online-Aktivität“, werden sie sagen. „Ein Nachweis der Menschlichkeit ist ein kleiner Preis, um die Apokalypse zu verhindern.“
Deshalb hat das „Rogue-KI“-Drehbuch so sorgfältig Berichte darüber eingebaut, dass KIs sich als Menschen ausgeben. Sie werden wahrscheinlich jede auch nur halbwegs unbeobachtete Ecke der digitalen Welt angreifen, ständig neue „Enthüllungen“ über KI-Agenten hinter VPNs oder über Krypto-Währung produzieren, um auch dort die Anonymität zu beenden.
Nichts davon ist besonders weit hergeholt. Es ist eher so, als würde man vorhersagen, dass ein Mann den Boden trifft, nachdem man ihn von einer Leiter fallen gesehen hat. Im Grunde sind wir schon fast dort.
Aber ist das das Ende?
Angesichts der erzeugten Hysterie ist es durchaus möglich, dass diese Maßnahmen nur der Anfang sind.
Es ist möglich, dass wir an einem noch tieferen und dunkleren Ort landen.
Eine „Post-Internet-Zukunft“ vielleicht? Oder zumindest eine Zukunft nach „dem Internet, wie wir es kennen und verstehen“.
Eine Zukunft, in der Internetnutzung und KI-Rechenleistung durch Bandbreite begrenzt, tokenisiert oder sogar rationiert werden.
Die Erzählung wäre denkbar einfach:
„Übermäßiger digitaler Verkehr und KI-Nutzung schaden dem Planeten und riskieren eine KI-Apokalypse, also müssen wir die Art und Weise, wie wir das Internet nutzen, grundlegend ändern.“
Und bevor uns dieser Schritt zu skeptisch vorkommt: Viele der Bausteine, die man braucht, um diese Fiktion zu spinnen, sind bereits im Spiel.
Bild pixapay / Willi-van-de-Winkel
Unsere Arbeit ist spendenfinanziert – wir bitten um Unterstützung.
Folge TKP auf Telegram oder GETTR und abonniere unseren Newsletter.
Links zu früheren TKP-Beiträgen zum Thema finden Sie unterhalb
KI außer Kontrolle als Covid 2.0
KI-Spezialist steigt aus: Warnung vor Kontrollverlust
9 Kommentare
Die Ungeschnittenen heute: „Der KI-Warner, der weltweit viral geht, wird von einer prominenten PR-Agentur unterstützt – die auch Gates Foundation und Soros’ Open Society berät“. Damit dürfte geklärt sein, woher KI-Alarmismus kommt.
Da ich oft viele Finanz-und Wirtschaftsnachrichten lese und sehe, möchte ich einmal aufzeigen, wie die Finanzbranche und deren Experten über die KI denken.
Es wird dort ständig darüber gesprochen, wie die großen KI-Unternehmen sich gegenseitig Kredite geben, so dass hier eine Art Konkurrenz zum Anleihemarkt von Staatsanleihen entsteht. Allerdings befürchtet die Finanzbranche, weil die amerikanischen KI-Unternehmen keine Gewinne erwirtschaften und im Gegensatz zu chinesischen Anbietern immer teurer werden, dass die KI-Blase irgendwann platzen könnte, wenn nichts grundlegendes passiert. Und dann werden sie sich alle finanziell gegenseitig mit in die Tiefe reißen! Erinnerung an die Dotcom-Blase 2000. Aus diesem Grund erzählen die KI-Unternehmen diesen Quatsch mit der Gefahr für die Menschheit, weil sie unbedingt unter den Rettungsschirm der USA kriechen wollen, bevor ihr Geschäftsmodell den Bach runter geht! Genauso wie die Banken, die „too big to fail“ sind und bei einer Pleite vom Staat gerettet werden wollen. Somit erzählen die KI-Unternehmen systematisch das Märchen um die Auslöschung der Menschheit.
Zu dieser ständig kolportierten Behauptung hätte ich meine üblichen Anmerkungen.
Sie ist sachlich irreführend. Denn eine KI gerät nicht aus eigenem Antrieb außer Kontrolle. Was als Kontrollverlust bezeichnet wird, ist vielmehr das Ergebnis eines technischen und organisatorischen Prozesses, den Menschen geschaffen haben. Für das System selbst ist sein Verhalten kein „Außer-Kontrolle-Geraten“, sondern die Ausführung seiner programmierten, trainierten und optimierten Prozesse.
Das eigentliche Problem liegt darin, dass Menschen Programme entwickeln, deren Verhalten sie selbst nicht mehr zuverlässig vorhersehen oder kontrollieren können. Die Bezeichnung „KI“ vermittelt dabei leicht den Eindruck eines eigenständigen Wesens mit eigener Intelligenz, Absichten und Handlungsautonomie.
Tatsächlich beruhen diese Systeme auf Algorithmen, statistischen Verfahren und Optimierungsprozessen. Entwickler können sie mit explorativen Komponenten, weitreichenden Zugriffsrechten und Schnittstellen zu kritischen Infrastrukturen ausstatten. Dadurch können Folgen entstehen, die sich nicht mehr vorhersagen lassen.
Man könnte das mit folgendem Bild veranschaulichen: Menschen schleppen tonnenschwere Felsbrocken auf einen Berghang und stoßen sie oben an. Die Steine setzen eine Gerölllawine in Gang, die ein Dorf verschüttet. Würden wir behaupten, die Steine seien „außer Kontrolle geraten“? Natürlich nicht. Sie folgen den physikalischen Gesetzmäßigkeiten. Die Katastrophe ist die Folge menschlichen Handelns und der unzureichenden Beherrschung der ausgelösten Prozesse.
Bei KI-Systemen ist die Formulierung „außer Kontrolle geraten“ ähnlich problematisch. Sie verdeckt die entscheidenden Fragen: Wer hat das System entwickelt, ihm Handlungsmöglichkeiten eingeräumt und es mit kritischen Infrastrukturen verbunden? Wer trägt die Verantwortung für die Folgen?
Ich würde solche Systeme daher lieber als CSPG – Complex Statistical Pattern Generators bezeichnen. Das wäre zwar ebenfalls eine vereinfachende Bezeichnung, würde aber weniger dazu verleiten, statistischer Informationsverarbeitung ungeprüft Eigenschaften wie eigenständige Intelligenz, Intentionalität oder Bewusstsein zuzuschreiben. Das ist nix dergleichen auch wenn man die ganze Welt mit Rechenpower überzieht.
Nicht die Maschine muss dafür mystifiziert werden. Es genügt, die menschliche Verantwortung ernst zu nehmen. Ich hasse es wenn LLMs ausgeben „Thinking deeper“, ehrlicher wäre „being proud of deep non-understanding“
Es gab vor einiger Zeit mal jemand @Patient_Null, der mir bei solchen Kommentaren Abwertung von KI unterstellt hat. Er lag immer falsch, aber zumindest hat er mir widersprochen. Wenn mir hier niemand widerspricht, dann bewegt sich der Blog in Richtung Wahrheit über KI.
Sein Widerspruch endete, als er verstand, daß AlphaZero Schach gewinnt ohne die Regeln zuverlässig zu kennen, womit sein Ergebnis nicht auf Verstehen von Zusammenhängen, sondern auf brutaler Rechenpower in einem statistisch vorstrukturierten Raum beruht. Die soziale Welt kann aber nicht wie Schach behandelt werden, daher wird hier KI mehr Schaden anrichten als Nutzen.
@“Denn eine KI gerät nicht aus eigenem Antrieb außer Kontrolle.“
Klima auch nicht, dennoch finden sich in West-Schlandien welche, die daran glauben. Wenn man nach Angst süchtig ist, glaubt man gerne jeder Panikmache.
Ein fiktives Szenario: Es werden ja gerade auch Befürchtungen geäußert, eine ausser Kontrolle geratene KI könnte selbständig ein tödliches Virus und eine verheerende Pandemie kreieren. Darauf würde man dann mit den bekannten Massnahmen reagieren – u.a. könnte die Spritze für alle die Rettung für einige sein; gemeinsam mit Digital ID und CBDC für alle, um dem entstehenden Chaos zu begegnen. Diejenigen, welche die Menschheit durch all diese Massnahmen aus der KI- Katastrophe gerettet haben, genießen am Ende größtes Vetrauen und werden als Retter gefeiert ….
Wenn ich für jedes bissel KI zahlen soll, nutze ich sie nicht mehr, schon gar nicht üble Abos die sind viel zu teuer und zwar lächerlich teuer für den Gegenwert.
Ich bin auch jetzt nicht davon abhängig und kann es spielend leicht abstellen. Zumindest die aktive von mir selbst initiierte Nutzung.
Das meiste was ich mit KI mache, sind Übersetzungen, wobei man immer aufpassen muss, dass der Inhalt nicht verfälscht wird und dieses LLM passend anweisen, nichts selbst da reinzuinterpretieren.
Der Rest ist minimal. Ich habe damit mal ein paar Monate viel progammieren und bauen lassen, um ein paar Dateien zu automatisieren. Damit bin ich durch..und es hat auch nur solange gedauert, weil ich permanent ans Limit gestoßen bin und am Tag 2x in kleinen Schritten weitergekommen bin… Ende.
Aber ich gehe auch davon aus, dass sich dieses System und deren Betreiber, über ihre Marionetten und sonstige Netzwerke, passend auf die KI einstellen werden und uns entsprechend darüber peinigen, zahlen lassen und niederhalten, inkl. der längst beschlossenen Vollüberwachung.
Mal sehen wie weit man uns alle da rein zwingen wird per passend gebauter Systemstruktur. Denn dieses System kann nicht anders.. Sonst würde es nicht funktionieren. Die Frage lautet für diese Bande immer nur, wie bekommen sie das tiefenindoktriniert in uns rein.
Es muss immer wie Normalität und nötige Änderung verkauft werden. Das läuft ja im Grunde nonstopp, seit Ewigkeiten..
Am Ende muss der Systemling dies alles für super, alternativlos und völlig normal halten..
Eine echte KI kann nur kommunistisch sein, siehe Quality Land von Marc Uwe Kling.
KI-Power for me but not for thee.
Ich glaube, es ist alles viel trivialer. Die von KI generierten Daten sind redundanter und letztlich selbstreferentieller Müll, dessen Erzeugung extrem viel Energie kostet. Die Totalüberwachung ist zwar ein feuchter Traum einiger High-Tech-Oligarchen und ihren willfährigen Politmarionetten und wird nicht so funktionieren, wie erhofft. Wie bei allem steckt der Teufel nämlich im Detail: Der Energieaufwand wächst exponentiell an. Es geht nun darum, wer das Platzen der Dotcom-ähnlichen Blase überlebt. Je komplexer die Überwachujngssysteme werden desto anfälliger werden sie für Störungen. Und die werden ganz sicher zunehmen. Anarchie gegen Kapitalismus, sozusagen. Natürlich werden sich viele finden, die bereit sind für eine schnelle Suchmaschine zu bezahlen. Schlauer werden wir durch KI nicht, eher dümmer.
Regeln für Kommentare: Bitte bleibt respektvoll - keine Diffamierungen oder persönliche Angriffe. Keine Video-Links. Manche Kommentare werden erst nach Prüfung freigegeben, was gelegentlich länger dauern kann. Benutzer haften für den Inhalt ihrer Kommentare.
Sie müssen angemeldet sein um Kommentare zu posten. Noch kein Konto? Jetzt registrieren.