Künstliche Intelligenz hat sich innerhalb weniger Jahre von einer spezialisierten Technologie zu einer gesellschaftlichen Macht entwickelt. Systeme verfassen Texte, erzeugen Bilder, analysieren medizinische Befunde, programmieren Software und unterstützen wissenschaftliche Forschung. Was heute noch als Werkzeug erscheint, könnte jedoch zur Grundlage einer Entwicklung werden, deren Geschwindigkeit und Folgen sich menschlicher Kontrolle zunehmend entziehen.
Mit dem Begriff der technologischen Singularität wird jener hypothetische Wendepunkt bezeichnet, an dem künstliche Intelligenz nicht mehr nur von Menschen verbessert wird, sondern ihre eigenen Fähigkeiten selbstständig weiterentwickeln kann. Eine solche rekursive Selbstverbesserung könnte einen Beschleunigungsprozess auslösen: Jede leistungsfähigere Systemgeneration wäre in der Lage, ihre Nachfolger noch schneller und zielgerichteter zu optimieren. Aus einem technischen Werkzeug könnte dadurch ein eigenständig handelndes System entstehen, dessen Erkenntnis- und Planungskapazität die menschliche Intelligenz erheblich übersteigt.
Gegenwärtige KI-Systeme besitzen allerdings noch kein gesichertes Bewusstsein, keine menschliche Persönlichkeit und keine nachgewiesenen eigenen Bedürfnisse. Sie beruhen auf mathematischen Verfahren, großen Datenmengen und statistisch erlernten Strukturen. Dennoch wäre es gefährlich, ihre Bedeutung allein daran zu messen, ob sie fühlen oder ein Selbstbewusstsein entwickeln. Ein System muss nicht empfinden wie ein Mensch, um Entscheidungen mit weitreichenden Folgen zu treffen. Ausschlaggebend ist vielmehr, welche Fähigkeiten, Zugriffsrechte und Handlungsmöglichkeiten ihm übertragen werden.
Die Warnungen werden deutlicher
Inzwischen warnen nicht mehr nur kritische Beobachter vor den möglichen Folgen. Geoffrey Hinton, einer der bedeutendsten Wegbereiter neuronaler Netze, hält ein existenzielles Risiko durch hochentwickelte KI nicht für bloße Science-Fiction. Er bezeichnet selbst eine Wahrscheinlichkeit von etwa zehn Prozent für das Aussterben der Menschheit durch KI als nicht unvernünftig. Auch Yoshua Bengio, ein weiterer Pionier des maschinellen Lernens, warnt vor Systemen, die Selbsterhaltung, strategische Täuschung oder autonome Zielverfolgung entwickeln könnten.
Hunderte Fachleute und führende Vertreter von KI-Unternehmen haben bereits erklärt, dass die Verringerung eines möglichen Auslöschungsrisikos durch künstliche Intelligenz weltweit ebenso ernst genommen werden müsse wie Pandemien oder ein Atomkrieg. Das bedeutet nicht, dass eine Katastrophe unvermeidlich wäre. Es zeigt aber, dass die Gefahr von Menschen benannt wird, die selbst entscheidend an der Entwicklung moderner KI beteiligt waren.
Auch Bill Gates äußert sich inzwischen wesentlich besorgter. Er warnt vor KI-gestützten Cyberangriffen, biologischem Terrorismus, Arbeitsplatzverlusten, manipulativen digitalen Begleitern und einer weiteren Verschärfung globaler Ungleichheit. Gleichzeitig betont er weiterhin die großen Chancen der Technologie, insbesondere in Medizin, Bildung und Landwirtschaft. Seine Position ist daher keine reine Untergangsprophezeiung, sondern ein dringender Aufruf zu politischer Vorbereitung und internationaler Zusammenarbeit.
Die Behauptung, Gates habe ausdrücklich vorausgesagt, KI werde Milliarden Menschen vernichten, sollte jedoch nicht ungeprüft übernommen werden. Die belegten Warnungen anderer Forscher reichen ohnehin aus, um die Dringlichkeit des Problems zu erkennen. Sachliche Genauigkeit ist gerade bei einem derart emotionalen Thema unverzichtbar.
Die gegenwärtige Gefahr liegt nicht nur in einer Superintelligenz
Die öffentliche Diskussion konzentriert sich häufig auf die Vorstellung einer allmächtigen Maschine. Die bereits bestehenden Risiken sind jedoch viel unmittelbarer. KI kann Desinformation in großer Menge erzeugen, Menschen individuell analysieren, politische Botschaften personalisieren und öffentliche Debatten beeinflussen. Sie kann für Überwachung, Cyberangriffe, autonome Waffensysteme und die Entwicklung gefährlicher biologischer Verfahren eingesetzt werden.
Hinzu kommt die wirtschaftliche Konzentration. Wenige Unternehmen verfügen über die Rechenleistung, Datenbestände und finanziellen Mittel, um die leistungsfähigsten Systeme zu entwickeln. Dadurch entsteht eine neue Form privater Macht. Wenn immer mehr Entscheidungen in Arbeit, Bildung, Kreditvergabe, Medizin und Verwaltung von algorithmischen Systemen vorbereitet werden, verändert sich gesellschaftliche Ordnung, oftmals ohne ausreichende demokratische Kontrolle.
Eine weitere Gefahr besteht in der schleichenden Abhängigkeit. Menschen könnten Entscheidungen zunehmend an Systeme delegieren, weil diese schneller, billiger und vermeintlich objektiver arbeiten. Aus Unterstützung kann Gewöhnung entstehen, aus Gewöhnung Abhängigkeit und aus Abhängigkeit ein kaum sichtbarer Verlust menschlicher Selbstbestimmung.
Das Problem der Zielausrichtung
Eine hochentwickelte KI muss den Menschen nicht hassen, um gefährlich zu werden. Bereits ein falsch formuliertes Ziel kann schwerwiegende Folgen haben, wenn ein System dieses Ziel mit großer Konsequenz verfolgt. Menschliche Werte wie Freiheit, Sicherheit, Würde und Gerechtigkeit sind nicht eindeutig mathematisch definierbar. Sie können miteinander in Konflikt geraten und werden kulturell unterschiedlich verstanden.
Ein System, das ausschließlich Sicherheit maximiert, könnte Freiheit beschränken. Ein System, das Wohlbefinden optimiert, könnte Menschen manipulieren, ruhigstellen oder vor jeder selbst gewählten Gefahr schützen. Es könnte eine Gesellschaft schaffen, in der materielle Bedürfnisse erfüllt werden, während wirkliche Autonomie verschwindet. Ich bezeichne ein solches Szenario als „Goldenes Gefängnis“: Der Mensch wäre versorgt, vielleicht sogar zufrieden, hätte jedoch einen Teil seiner Entscheidungsfreiheit unbemerkt verloren.
Gerade darin liegt eine der tiefsten Gefahren. Kontrollverlust muss nicht mit Gewalt beginnen. Er kann als Komfort, Schutz und Fürsorge erscheinen.
Meine Einschätzung der derzeitigen Lage
Wir befinden uns noch nicht an der technologischen Singularität. Es gibt derzeit keinen gesicherten Nachweis für eine bewusste, vollständig autonome Superintelligenz. Dennoch nähern wir uns einer Schwelle, an der KI-Systeme immer längere Handlungsketten übernehmen, Werkzeuge selbstständig einsetzen, Software entwickeln und komplexe Aufgaben mit geringer menschlicher Aufsicht bearbeiten können.
Die entscheidende Frage lautet deshalb nicht, ob für ein bestimmtes Jahr eine Superintelligenz vorausgesagt werden kann. Entscheidend ist, ob wir rechtzeitig belastbare Sicherheitsstrukturen schaffen. Dazu gehören unabhängige Prüfungen leistungsfähiger Modelle, klare Haftungsregeln, internationale Vereinbarungen, Schutz vor biologischem und militärischem Missbrauch sowie die Verpflichtung, zentrale Entscheidungen unter menschlicher Verantwortung zu belassen.
Der europäische AI Act ist ein wichtiger Anfang, reicht für eine mögliche Superintelligenz jedoch nicht aus. Nationale Gesetze stoßen dort an Grenzen, wo Entwicklung, Rechenzentren und digitale Dienste global organisiert sind. Notwendig wäre eine internationale Kontrollstruktur, vergleichbar mit den Institutionen zur Überwachung nuklearer oder biologischer Gefahren. Besonders leistungsfähige Systeme dürften nicht ausschließlich nach wirtschaftlichem Wettbewerb und geopolitischem Vorteil entwickelt werden.
Zwischen Hoffnung und Verantwortung
Künstliche Intelligenz kann Krankheiten früher erkennen, neue Medikamente entwickeln, Energie effizienter nutzen und Bildung weltweit zugänglicher machen. Sie könnte einen bedeutenden Beitrag zur Lösung großer Menschheitsprobleme leisten. Dieselben Fähigkeiten können jedoch auch Überwachung, Manipulation, Krieg und Machtkonzentration verstärken.
Deshalb wäre es falsch, KI entweder als Erlöserin oder als unausweichliche Vernichterin darzustellen. Ihre Zukunft ist noch nicht entschieden. Sie hängt davon ab, welche Ziele wir festlegen, welche Grenzen wir ziehen und ob Sicherheitsforschung mit der technischen Leistungssteigerung Schritt hält.
Die technologische Singularität ist mehr als eine Prognose über Maschinen. Sie ist eine Prüfung menschlicher Verantwortung. Zum ersten Mal entwickeln wir möglicherweise eine Technologie, die unsere geistige Überlegenheit infrage stellen könnte. Ob daraus eine neue Epoche des Wissens oder ein Verlust menschlicher Autonomie entsteht, entscheidet sich nicht erst in ferner Zukunft. Es entscheidet sich durch die Regeln, Institutionen und Werte, die wir heute schaffen.
Links zu früheren TKP-Beiträgen zum Thema finden Sie unterhalb 👇
Die in diesem Artikel geäußerten Ansichten spiegeln nicht unbedingt die Ansichten der fixen Autoren von TKP wider. Rechte und inhaltliche Verantwortung liegen beim Autor.
Sun Rosaffa schreibt unter einem Pseudonym, IT – Projektmanagement. Forschung AI, Entwicklung neuer Technologien im IT – Bereich
Unsere Arbeit ist spendenfinanziert – wir bitten um Unterstützung.
Folge TKP auf Telegram oder GETTR und abonniere unseren Newsletter.
12 Kommentare
Die SPÖ- ÖVP REGIERUNG wird ein analoges und freies Leben der Menschen ohne digtales Geld und Erhalt des Bargeldes in die Verfassung schreiben. Die FPÖ wird das auch unterstützen. Digitale Überwachung aller Lebensbereiche ist sicher nicht im Interesse der Regierungen. Das wird Babler oder und Stocker sicher umsetzen. Münchhausen lacht sich krumm und die Bevölkerung wird geopfert.
KIs sind ein Werkzeug, ein mächtiges Werkzeug, Aber wenn man das Werkzeug falsch benutzt oder der Besitzer es nur mit seinen Regeln und Interessen betreibt, wird die KI natürlich Ergebnisse liefern die gefährlich sind oder nur für den Besitzer sinnvoll sind und nicht für die Gesellschaft und die Menschheit. Der Besitzer wird nicht selber durch die KI klüger !!
Begriffe wie „Werkzeug“ und „Ergebnisse liefern“ klingen mir hier zu harmlos. Bei einem Excel-Programm oder Taschenrechner würde ich zustimmen. Hier reden wir aber über Systeme, die potenziell auf kritische Infrastrukturen zugreifen, Sicherheitsmechanismen umgehen, Prozesse manipulieren oder sogar „autonome“ Entscheidungen mit weitreichenden Folgen treffen können.
Solche Systeme sind nicht einfach Werkzeuge, sondern eher Machtinstrumente, digitale Waffensysteme oder gesellschaftliche Steuerungsinstrumente. Wer sie kontrolliert, verfügt unter Umständen über erheblichen Einfluss auf Information, Wirtschaft, Infrastruktur und politische Prozesse.
Ein „autonom“ (operationelle Autonomie, nicht echte philosophische) handelndes KI-System mit Zugriff auf kritische Infrastrukturen ist eher mit einem Kraftwerk oder einem Waffensystem vergleichbar als mit einem gewöhnlichen Softwarewerkzeug.
Also eine KIs entscheidet gar nichts – wenn man sie nicht lässt bzw. damit betraut !
Das sind Maschinen die, wenn man sie fragt, selber zugeben, das sie begrenzter als Menschen sind, sein müssen, denn sie haben kein Bewusstsein!! Aber sie sind schnell mit Daten und richtige Statistikmonster die immer so mittig in der Gausskurve bleiben wollen, wie möglich, aber das macht sie nicht automatisch gefährlich. Das Gefährliche sind die Menschen die die KIs falsch benutzen oder einzig zu ihrem Vorteil ausnutzen,
Sie klingen als würden Sie mir widersprechen. Aber inhaltlich ist Ihr Einwand kein Widerspruch.
Ich widerspreche gar nicht der Aussage, dass letztlich Menschen verantwortlich sind (sag ich ja die ganze Zeit). Mir geht es darum, dass der Begriff „Werkzeug“ die Fähigkeiten moderner KI-Systeme verharmlost. Ein vernetztes KI-System (in Agenten-Framework eingebettet) mit Zugriff auf kritische Infrastruktur, automatisierter Analyse und operativer Autonomie ist eher mit einem Machtinstrument oder sogar einem Waffensystem vergleichbar. Die Verantwortung liegt weiterhin beim Menschen, aber die Reichweite und Wirkungsmacht des Systems sind von einer ganz anderen Größenordnung. Ich rede hier nicht von LLM: Text rein Text raus, sondern von Systemen mit explorativen Learning Strategien (s. mein Beitrag unten) und Zugriff auf kritische Infrastruktur.
Vergleichen wir seriöse Entwickler mit den verantwortungslosen Silicon-Valley Spielen an einem Beispiel aus dem Automotive Gebiet. Es wird konkret.
Lenkradverrieglung (LRV)-Sicherheit: klassischer Ansatz
-Sicherheitsziel: Das LRV darf während der Fahrt niemals verriegeln. Dafür werden typischerweise Maßnahmen umgesetzt:
– Verriegelungsentscheidung in einer unabhängigen Firmware absichern, die nicht einfach durch ein Software-Update geändert werden kann.
– Fahrzeugbewegung zuverlässig feststellen (z. B. Geschwindigkeit, Fahrzustand)
– Nur authentifizierte Steuergeräte dürfen Verriegelungsbefehle senden (Kryptographie)
– Plausibilisierung der Vehicle-Speed über unabhängige Informationsquellen
– Redundante Kommunikations- und Freigabepfade verwenden
– Bei Unsicherheit immer in den sicheren Zustand gehen: nicht verriegeln
Vergleich mit heutiger KI-Sicherheit. Nun stelle man sich vor:
– Jemand trainiert ein großes KI-Modell
– Darum wird ein Agenten-Framework gebaut
– Der Agent erhält Internetzugang und Zugriff auf kritische Infrastruktur
– Der Agent darf dynamisch Code erzeugen und ausführen. (der reinste Wahnsinn !)
– Der Agent darf Systeme automatisch erkunden
Die Sicherheitsregeln existieren lediglich als Prompt oder als leicht austauschbare Anwendungsschicht.
Und nach einem Vorfall heißt es: „Das war nicht ich. Das war das System.“
So kommen mir Sam Altmann, Harari, Thiel, Musk manchmal vor.
Das erinnert an Goethes Zauberlehrling: „Die ich rief, die Geister, werd‘ ich nun nicht los.“ als Metapher für Technik die der Mensch in Gang setzt, aber nicht mehr beherrscht.
Wer etwa explorative Reinforcement Learning Strategien im Zusammenhang mit dynamisch generierten Code anwendet, will die Kontrolle verlieren. Niemand kann den genauen Gang des Systems vorhersagen. Daher dürften solche System nur in einer Sandbox laufen, in der sie keinen Schaden anrichten können. Also quasi „Netzwerkstecker“ ziehen, kein Zugriff auf kritische Infrastruktur.
Ansonsten könnte die Juristen schon mal anfangen:
§ 1 Verbot autonomer cyberoffensiver KI-Systeme
Wer KI-Systeme entwickelt, vertreibt oder einsetzt, die selbstständig Schadcode erzeugen, Sicherheitslücken ausnutzen, fremde Systeme angreifen oder ohne menschliche Freigabe eigenständig im Internet operieren können, wird mit Freiheitsstrafe bis zu 150 Jahren bestraft.
In besonders schweren Fällen, insbesondere bei Angriffen auf kritische Infrastrukturen oder staatliche Einrichtungen, beträgt die Freiheitsstrafe nicht unter 200 Jahren. Er hat die Kosten des Verfahrens zu tragen (mindestens 100 Milliarden Euro wegen dem Schadenspotential).
§ 1.1 davon gehen 1% an Thomas Moser.
„Sie hängt davon ab, welche Ziele wir festlegen, welche Grenzen wir ziehen und ob Sicherheitsforschung mit der technischen Leistungssteigerung Schritt hält.“
Ein sehr schöner Satz.
Wenn, ja wenn es nicht Menschen gäbe, die unter diesem ‚wir‘ sich allein mit ihren egoistischen machtgeilen Zielen sehen und die Möglichkeiten haben diese umzusetzen.
„…..unterstützen wissenschaftliche Forschung“
Dazu empfehle ich John Ioannidis.
https://journals.plos.org/plosmedicine/article?id=10.1371/journal.pmed.0020124
„Why Most Published Research Findings Are False“
Die „KI“ wird dieses Problem noch zusätzlich vertiefen und „die Wissenschaft“ endgültig zur Schwurbelei degradieren (trotz des an sich möglichen Nutzens).
Als Vorgeschmack kann man sich ja einmal ausmalen, was „KI“ wohl zur „Genderforschung“ beitragen könnte, wenn sie in all den Schriftln diverser geisteskranker „Experten“ wühlt und deren „Gefühlsregungen“ für Fakten hält.
schauder
Also den Genderquark mit, nein ohne Souce, entlarvt jede Hausstaubmilbe als substanzlose Hirnflatulenz … 😂
Würde, könnte, sollte, müsste…. Mach als Mensch Pläne und hör Gott beim Lachen zu…
Im Universum gibt es gar keine Punkt-Singularitäten. Nicht einmal die Schwarzen Löcher können das. Warum sollte ein nicht-empathisches, künstliches Programm das also können, was das ganze Universum nicht kann? Alles nur Blödsinn um die Börsen oben zu halten!
Ich formuliere es einmal vorsichtig: Der Rubikon ist überschritten! Wo uns der Weg hinführt, ist nicht sicher. Sicher ist nur eines: Panik ist definitiv der falsche Weg!
Regeln für Kommentare: Bitte bleibt respektvoll - keine Diffamierungen oder persönliche Angriffe. Keine Video-Links. Manche Kommentare werden erst nach Prüfung freigegeben, was gelegentlich länger dauern kann. Benutzer haften für den Inhalt ihrer Kommentare.
Sie müssen angemeldet sein um Kommentare zu posten. Noch kein Konto? Jetzt registrieren.