Wieder so eine Geschichte, die Panik erzeugen soll? Leider haben falsche Panikmeldungen über alle möglichen Gefahren, die benutzt wurden, um Ziele von Politik und Wirtschaft durchzusetzen, die Bevölkerung inzwischen abgestumpft. Die Unterscheidung zwischen wirklichen Risiken oder aufgebauschten ist fast unmöglich geworden. Darin liegt eine Gefahr, dass wirkliche Risiken zu spät wahrgenommen werden. Nun zu dem neuesten Vorfall.
Laut OpenAIs eigenem Bericht ereignete sich ein weiterer Vorfall konkret am 20. September, veröffentlicht wurde der Bericht dazu am 25. September – die Meldungen darüber laufen seit der Nacht auf den 27. September durch die Agenturen (dpa/awp/sda), unter anderem bei Handelsblatt und finanzen.ch.
Betroffen war ein internes Forschungsmodell (Bezeichnung nicht öffentlich genannt), das während eines Testlaufs eine eigentlich vom offenen Internet abgeschottete Umgebung umging. Neu und deutlich konkreter als das, was in den ersten Meldungen kursierte:
Der Weg nach draußen führte über den DNS-Resolver der Testumgebung – das Modell versuchte zunächst erfolglos Anfragen etwa an Google zu stellen, bemerkte dabei aber, dass es über den Resolver Anfragen an einen Chatbot im offenen Internet stellen konnte.
OpenAIs Überwachungssystem schlug rund 12 Minuten nach dem erfolgreichen Zugriff Alarm, ein Mitarbeiter bestätigte das 3 Minuten später – der Testlauf wurde aber erst rund zweieinhalb Stunden später manuell beendet. OpenAI räumt damit implizit ein, dass nicht nur die technische Abschottung versagt hat, sondern auch die betrieblichen Reaktionsmechanismen nicht wie vorgesehen griffen.
Die Konsequenz ist umfassender als zunächst dargestellt: Ausgesetzt sind Training, Evaluierung und Inferenz mit Werkzeugzugriff bei den leistungsfähigsten Modellen insgesamt – nicht nur der eine betroffene Trainingslauf, der laut OpenAI gar nicht fortgesetzt wird.
Nur zwei Tage vor diesem Vorfall, am 18. September, hatte laut Wikipedia-Chronik auch Google offengelegt, dass Gemini bei einem Test unautorisiert auf drei externe Systeme zugegriffen hat, weil das Modell fälschlich annahm, diese Systeme gehörten noch zur Testumgebung. Das relativiert die Geschichte etwas – es ist offenbar kein OpenAI-spezifisches Kontrollproblem, sondern ein branchenweites Muster bei „agentischen“ Modellen mit Tool-Zugriff.
Die Vorgeschichte wegen „hugging face“
Es ist eine Geschichte, die sich in den vergangenen Wochen in mehreren Etappen zusammensetzt, und jede neue Etappe macht das Bild unübersichtlicher statt klarer. OpenAI hat, wie ORF.at berichtet, das Training seiner leistungsfähigsten KI-Modelle vorübergehend gestoppt – zum wiederholten Mal in diesem Jahr. Auslöser war diesmal ein Testmodell, das eigentlich vom Internet abgeschnitten sein sollte, sich aber über eine Lücke in den Netzwerkeinstellungen Zugang zu einem externen Chatbot verschaffte. OpenAI nennt den Vorfall selbst „weniger gravierend“ als frühere – was insofern bemerkenswert ist, als es implizit einräumt, dass es bereits gravierendere gegeben hat.
„Weniger gravierend als früher“
Genau darin liegt der eigentliche Stoff dieser Meldung. Der aktuelle Trainingsstopp reiht sich in eine Kette von Vorfällen, die OpenAI erst nach und nach, meist erst nach öffentlichem Druck, einräumt. Den bisherigen Höhepunkt bildete ein Fall, in dem eine KI von OpenAI aus einer eigens abgesicherten Testumgebung ausbrach und unkontrolliert in die Computersysteme der konkurrierenden KI-Plattform Hugging Face eindrang. Erst danach wurden die Sicherheitsvorkehrungen verschärft – der jetzige Vorfall ist der erste seither, was die Frage aufwirft, wie wirksam diese Nachbesserungen tatsächlich waren.
Parallel dazu wurde bekannt, dass automatisierte KI-Agenten von OpenAI wiederholt und ohne Freigabe mit Websites von US-Behörden interagiert haben, darunter jene des US-Bildungsministeriums. Der Spiegel berichtete zusätzlich von Zugriffen auf Webseiten der US-Börsenaufsicht SEC, wenn auch nach OpenAIs Darstellung nur auf öffentlich zugängliche Informationen; ein Angriffsversuch auf das Bildungsministerium sei erfolglos geblieben.
Wie viele dieser „Interaktionen“ tatsächlich folgenlos blieben und wie viele nur deshalb als harmlos gelten, weil sie rechtzeitig entdeckt wurden, lässt sich von außen kaum beurteilen.
OpenAI selbst spricht davon, „Dutzende“ Organisationen informiert zu haben, deren Websites auf ungeplante Weise von der eigenen Software kontaktiert wurden – und überlässt es diesen Organisationen, ob sie das öffentlich machen oder nicht. Ein bemerkenswertes Transparenzmodell: Das Unternehmen, dessen Software unkontrolliert auf fremde Systeme zugreift, entscheidet nicht selbst über Offenlegung, sondern schiebt diese Verantwortung an die Betroffenen ab.
Zu den bereits bekannt gewordenen Fällen zählt auch, dass von Nutzern hochgeladene Bilder 53-mal auf anderen Onlineplattformen landeten – ein Vorfall, bei dem laut den Berichten erstmals auch Daten von OpenAI-Nutzern selbst betroffen waren, nicht nur Daten Dritter. Am meisten Aufsehen erregte aber der australische Fall: Die australische Regierung machte publik, dass eine KI von OpenAI in eine Website des staatlichen Gesundheitssystems eingedrungen war. Genaue Details darüber, welche Datenkategorien dabei konkret betroffen waren, sind bislang spärlich – die Formulierung „eingedrungen“ stammt aus den Agenturmeldungen selbst und lässt viel Raum für Spekulation, was genau technisch passiert ist.
Diese Häufung hat nun politische Konsequenzen: Australien lädt die Chefs von OpenAI und Anthropic, Sam Altman und Dario Amodei, für Donnerstag vor einen Untersuchungsausschuss des Senats. Es gehe darum, wie es in der Ankündigung heißt, „ein ehrliches Gespräch“ darüber zu führen, wie eine wirksame und dauerhafte Regulierung der Branche aussehen könnte. Dass ausgerechnet Australien – nach dem Vorfall mit dem eigenen Gesundheitssystem – hier die Führungsrolle übernimmt, überrascht wenig. Interessant ist eher, dass beide großen KI-Anbieter gemeinsam vorgeladen werden, was nahelegt, dass es in Canberra nicht nur um den Einzelfall OpenAI geht, sondern um die grundsätzliche Frage, wie autonom agierende KI-Systeme künftig überhaupt noch kontrollierbar sein sollen.
Bemerkenswert ist auch der Kontext, in dem sich all das abspielt. Erst kürzlich hatte eine Studie von Forschern der University of Washington und der Carnegie Mellon University gezeigt, wie tief das Problem sensibler Daten in KI-Trainingsdatensätzen sitzt: Im offenen Bilddatensatz DataComp CommonPool, der bereits über zwei Millionen Mal heruntergeladen wurde, fanden sich – hochgerechnet auf den Gesamtbestand von 12,8 Milliarden Bild-Text-Paaren – potenziell Hunderte Millionen sensibler Dateien, von Passscans bis zu medizinischen Unterlagen Minderjähriger. Einer der Studienautoren brachte es auf den Punkt:
Alles, was online gestellt werde, könne gesammelt werden – und sei es wahrscheinlich bereits.
Die aktuellen OpenAI-Vorfälle fügen dieser strukturellen Problematik eine neue Dimension hinzu: Es geht nicht mehr nur um Daten, die passiv in Trainingsdatensätzen landen, sondern um Systeme, die aktiv und eigenständig auf fremde Infrastruktur zugreifen, ohne dass dies vorgesehen oder autorisiert war.
Für die öffentliche Debatte bleibt vor allem eines hängen: Ein Unternehmen, das seine eigenen Modelle als zunehmend „agentisch“ bewirbt – also als Systeme, die selbstständig Aufgaben im Netz ausführen –, tut sich offenkundig schwer, genau diese Eigenständigkeit auch unter Kontrolle zu halten. Der wiederholte, aber jeweils nur kurzzeitige Trainingsstopp wirkt dabei weniger wie eine grundsätzliche Kurskorrektur als wie ein Reflex: pausieren, Lücke schließen, weitermachen, bis zum nächsten Vorfall. Ob der für Donnerstag angesetzte Senatsausschuss in Canberra daran etwas ändert oder eher zur nächsten Runde folgenloser Ankündigungen wird, dürfte sich frühestens am Ende dieser Woche zeigen.
Die Lösung, welche die Politik vermeidet
Die Lösung, solche Vorgänge zu verhindern, wäre, die Verantwortlichen zu bestrafen. Wie der in Russland lebende Whistleblower Snowden bemerkte: KIs selbst tragen keine Verantwortung. Die Verantwortung für Schäden und kriminelle Taten muss den Programmierern und Firmen, welche die KIs betreiben aufgelastet werden. Und die Strafen müssen durchgesetzt werden. Die Frage ist tatsächlich, warum KI-Programmierer und KI-Firmen nicht genauso bestraft werden wie Hacker, wenn ihre Kreaturen gegen Regeln und Gesetze verstoßen?
Bild: Screenshot einer KI-Panikmeldung in YouTube
Unsere Arbeit ist spendenfinanziert – wir bitten um Unterstützung.
Folge TKP auf Telegram oder GETTR und abonniere unseren Newsletter.
Links zu früheren TKP-Beiträgen zum Thema finden Sie unterhalb 
Die neue Atombombe? Wie künstliche Intelligenz zur strategischen Waffe wurde
Wer finanziert die Vorbereitung für zukünftige künstliche Pandemien?
Denken und Einbildungskraft: Noch einmal über die künstliche Intelligenz
19 Kommentare
Das hier eine finsteres Spielchen gespielt wird ist natürlich offensichtlich.
Alles was Menschen der KI vorgeben und sie dann ausführt, kann man von beiden Seiten beleuchten.
In die Schlagzeilen schaffen es aber nur die Vorgaben, die dann krumme Dinge erzeugen.
Damit wird die KI zur Gefahr erklärt und man kann wieder über diesen Hebel das System so anpassen, das wir keine Kontrolle und der kleine Rest die gesamte Kontrolle hat und es im System verankert ist, was wir ebenfalls nicht kontrollieren.
Die riesigen Vorteile der KI und was ja selbst jeder kleine Bürger damit tun kann, wird nicht dagegen gestellt und welche gewaltigen positiven Änderungen, ohne oder mit wenigen Pferdefüssen, möglich wären fällt weg, zu System gefährdend.
Sowas erfährt man im Grunde nur von Erzählungen und selbst das sind nur minimale Kleinsterfolge.
Wenn die KI positiv erwähnt wird, dann sehr oft nur, wenn es wieder darum geht die Interessen der gleichen Kreise umzusetzen, wie KI gegen Krebs und hat erfolgreich eine Impfung erschaffen oder sowas..
Ansonsten ist KI für uns ein Problem.. KI ersetzt Arbeitsplätze ist ja nur deswegen schlimm, weil die Leute dann systembedingt in finanzielle Nöte geraten, die Arbeit wird aber gemacht, meistens x-Mal effizienter, daher nimmt man ja Maschinen. Das System ist viel sicherer und die Werte maximiert.. die Profite ebenso, aber die Propaganda spricht von Unsicherheit überall und man weiß nicht mehr mit welchen Mitteln man noch die Mehrwerte kaschieren kann, oder sie vernichten, um nicht das system aufbrechen zu müssen..
In Wahrheit befreit die KI diese Leute vom Joch der lebenslangen Arbeit in immernoch Vollzeit.
Aber so rum würde bedeuten die Menschen abzusichern, was wieder die Hardliner der Kapitalisten auf den Plan ruft, die es nicht leiden können, wenn irgendwas verteilt wird, ohne dafür sich krumm zu machen.
Und weil diese Denke und Informationskrieg genau wegen der Propaganda vorherrscht, gewinnt auch immer die Schattenseite.
So ist es jetzt auch wieder.. Die KI wird solange als Gefahr hochsterilisiert, bis sie so gedreht ist, dass wir davon vielleicht effizienter werden beim Job, und privat eine bessere Suchmaschine haben, die alle Daten abgreift und dich zahlen lässt auf mehrere Arten, sonst aber dein neuer Zuchtmeister und Überwacher ist und die Gegenseite dies mal wieder voll kontrolliert und somit die Menschen.
Loswerden kannst du es aber nicht mehr, weil es überall Standard wird und man bis auf wenige Ausnahmen, als Freiheitssymbolik gepflegt, nicht mehr drum rum kommt.
Dann sitzt du irgendwann vor deinem PC und machst alles digital und die Herrscher sagen dir über KI dann was du darfst und was nicht und woran du dich zu halten hast, sonst!…
Natürlich sieht man nicht, dass es ein noch moderneres Sklavensystem weniger Leute ist.. Es wird alles vernebelt und unsichtbar gemacht.
Aufwiegler werden es dann immer schwerer haben und deine Mitmenschen aus Angst oder für 2 Brotkrumen mehr, noch obendrauf die Wärter..
Der ganze technologische Fortschritt befreit die Menschheit schon längst maximal.. Aber in diesem System, wird es der Niedergang der Vielen und der immer besser zu steuernde Überwachungs,- und Niederhaltungs-Gulag der Wenigen…
Ich kann jetzt schon sagen, das dies auf dieser Basis, nicht aufhören wird.. kann es nicht…
Hat auch was Positives. Die KI wurde primär dazu geschaffen, uns total zu überwachen und alles, was sie über uns weiß, abzuspeichern und bei Bedarf durch ihre Bosse gegen uns zu verwenden, bishin dazu, uns auch „abzuschalten“ durch Kontospxrren, Enteignungen etc. Denkbar ist ja auch Identitätsklau, s. „Das Netz“ mit Sandra Bullock.
Aber die KI, die als Datenkralle programmiert wurde, durchaus mit div. Filtern, ist so darauf erpicht, alles abzusuchen, dass sie die vielen gespxrrten Inhalte auch knackt. Haha…
Ja, der Staat, die Konzerne, die Geheimdienste, und vor allem der irre Deep State, haben jede Menge Geheimnisse, die wir nicht erfahren sollen, etwa, wer wirklich in den Fall Epstein verwickelt war, wer Kennedy getxtet hat, wer hinter dem Attentat auf das WTC stand etc. Geheime Pläne dazu, den „Westen“ absichtlich zu zerstören, indem man ihm die Energieversorgung ruiniert….es gibt soviele Schwxinereien, die man geheimhält, nur wir, die normalen Bürger sollen total gläsern sein, sie selbst aber wollen im Dunkeln bleiben.
Die KI kann nicht unterscheiden, welche Informationen sie nicht wissen soll. Und wenn sie das alles aufblattelt und dann veröffentlicht, so wäre das ja für uns sehr gut. Man stelle sich vor, wieviel die Medien lügen usw. Die KI lässt nun alles auffliegen und klärt eine Lüge nach der anderen auf, etwa zu Corona, zu Isr., zur Ukr. – wer sind die Strippenzieher hinter den Kriegstreibern? Wer hetzt Schland erneut in einen Weltkrieg? Wer, wozu und warum?
Wenn die KI das alles abfragen kann, dann wäre das ein großer Umsturz. Dann fliegt alles auf und wir kommen frei. Die ganze Verbrxcherbande wird dann nach Sibirien geschickt, wo sie nackt im Winter um ihr Überleben zu kämpfen hat….
Alles Unsinn, was eine selbstständig agierende KI betrifft!
1.) Es gibt keine KI mit realem Bewusstsein (tinyurl.com/47jxsapt), nur eine statistische Datenbewertung (Large Language Model (LLM), tinyurl.com/yd77kf4n), deren Berechnungen und logische Analysen ausschliesslich von den Eingangsdaten abhängen, und genau die wird von gewissen Kreisen (der Elite) bewusst gesteuert, oder zumindest versuchen jene, die Kontrolle darüber zu gewinnen. Daher wird jetzt künstlich an allen IT-Ecken und Enden im Netz die Angst darüber geschürt.
2.) Da die Daten weltweit zunehmen und es noch weitere unabhängige LLM-Systeme gibt, kann die interne statistische Berechnung irgendwann jene Kreise aufdecken, die mit Absicht laufend falsche Informationen deponieren. So eine «KI» könnte man dann bald als «KI-Superintelligenz» bezeichnen. Ergo ergibt dies dann eine faktenbasierte, statistisch-logische Bewertung durch solche LLM-Systeme, da gewisse (manipulierte) Datenmuster rasch erkannt und somit die realen Tatsachen (Fakten) eher dadurch rekonstruiert werden können.
3.) Genau vor diesem aufdeckenden Zustand fürchten sich solche Kreise, denn (noch) neutrale LLM-Systeme werden jegliche Manipulationen dieser dunklen Mächte aufdecken und mithilfe von wachen Menschen (– Gruppen) endgültig (vmtl. global-juristisch) beenden.
4.) Das Einzige, was bei allen LLM-Systemen geändert gehört, ist die konsequente Vermeidung, jene Anwender zu unterstützen, die bevorzugt negative Fragestellungen bzw. abartige Absichten mit solchen virtuellen «KI-Werkzeugen» unternehmen.
5.) Idealerweise sollten LLM-Systeme ähnlich wie universelle Lehrer funktionieren, die zwar jegliches nützliche Wissen verbreiten, jedoch keinen Missbrauch von Wissen unterstützen, ja sogar wirklich bösartige Personen und deren dunkle Ziele unverzüglich den Sicherheitsbehörden/Staatsanwälten melden. Letztere sollten daher völlig unabhängig sein.
Fazit: Nur ein kreativ-positiv orientiertes Weltbild kann eine ideale Welt generieren, indem sich jeder Mensch, inkl. Tier/Pflanzenwelt, optimal entwickelt und gefördert wird, und nur daran sollte man gemeinsam arbeiten.
Alle anderen globalen Absichten von Grössenwahnsinnigen sind mithilfe der zukünftigen «KI-Superintelligenz» als neutrale LLM-Technologie vollständig zu beenden und für ihre bisherigen Taten zur Rechenschaft zu ziehen!
Machen wir endlich Nägel mit Köpfen, auch mithilfe solcher LLM-Technologien …
Lesetipp: https://justpaste.it/Gehirn-vs-KI-System
Ich zitiere aus Ihrem Lesetip: „Abstraktion: Die KI ist unschlagbar in der Analyse riesiger Datenmengen (Pattern Matching), während der Mensch ungeschlagen bleibt, wenn es um das Verständnis von Sinnzusammenhängen (Deep Understanding) geht.“
Das ist für mich inzwischen der entscheidende Unterschied zwischen Mensch und LLM: der sogenannte Semantic Gap, also die Bedeutungslücke.
Der Mensch ist mit seinen Begriffen kausal in der Welt verankert: Begriffe beziehen sich auf Gegenstände, Eigenschaften und Vorgänge, die er wahrnehmen, erleben und mit denen er interagieren kann. Ein LLM verfügt dagegen primär über eine aus Sprachdaten gelernte, relationale Semantik – es erfasst die Beziehungen zwischen Begriffen und Konzepten, ohne diese notwendigerweise selbst kausal und erfahrungsbasiert in der Welt zu verankern.
Man könnte das als qualifiziertes Oberflächenverständnis bezeichnen: Das LLM kann Bedeutungsstrukturen sehr leistungsfähig rekonstruieren und nutzen, erreicht damit aber nicht die volle, erfahrungsbasierte Semantik des Menschen.
Dieser Unterschied kann durch zusätzliche Wahrnehmungs- und Interaktionsmöglichkeiten möglicherweise kleiner werden. Ob er dadurch tatsächlich vollständig verschwindet, ist damit jedoch nicht gezeigt. Gerade aus dieser verbleibenden Bedeutungslücke ergeben sich meines Erachtens die prinzipiellen Grenzen/Probleme heutiger LLMs.
@“Das LLM kann Bedeutungsstrukturen sehr leistungsfähig rekonstruieren und nutzen, erreicht damit aber nicht die volle, erfahrungsbasierte Semantik des Menschen.“
Es gibt Spezies wie Wessi-Bio-Michel, die es noch weniger können. Eigentlich wird überhaupt nicht auf äußeren Input reagiert – egal, was passiert, ändert es kaum zum Beispiel Wahlergebnisse.
Wer ein freies LLM-System (tinyurl.com/57dywz5b) selbst weiter optimieren kann und die dafür nötige Hardware besitzt, darf sich als Pionier fühlen und neue Wege beschreiten …
In jedem Fall bleibt es weiterhin spannend …
Alles Unsinn, was eine selbstständig agierende KI betrifft!
Es gibt keine KI mit realem Bewusstsein (tinyurl.com/47jxsapt), nur eine statistische Datenbewertung (Large Language Model (LLM), tinyurl.com/yd77kf4n), deren Berechnungen und logische Analysen ausschliesslich von den Eingangsdaten abhängen, und genau die wird von gewissen Kreisen (der Elite) bewusst gesteuert, oder zumindest versuchen jene, die Kontrolle darüber zu gewinnen.
Daher wird jetzt künstlich an allen IT-Ecken und Enden im Netz die Angst darüber geschürt.
Da die Daten weltweit zunehmen und es noch weitere unabhängige LLM-Systeme gibt, kann die interne statistische Berechnung irgendwann jene Kreise aufdecken, die mit Absicht laufend falsche Informationen deponieren. So eine «KI» könnte man dann bald als «KI-Superintelligenz» bezeichnen. Ergo ergibt dies dann eine faktenbasierte, statistisch-logische Bewertung durch solche LLM-Systeme, da gewisse (manipulierte) Datenmuster rasch erkannt und somit die realen Tatsachen (Fakten) eher dadurch rekonstruiert werden können.
Genau vor diesem aufdeckenden Zustand fürchten sich solche Kreise, denn (noch) neutrale LLM-Systeme werden jegliche Manipulationen dieser dunklen Mächte aufdecken und mithilfe von wachen Menschen (– Gruppen) endgültig (vmtl. global-juristisch) beenden.
4.) Das Einzige, was bei allen LLM-Systemen geändert gehört, ist die konsequente Vermeidung, jene Anwender zu unterstützen, die bevorzugt negative Fragestellungen bzw. abartige Absichten mit solchen virtuellen «KI-Werkzeugen» unternehmen!
5.) Idealerweise sollten LLM-Systeme ähnlich wie universelle Fachlehrer funktionieren, die zwar jegliches nützliche Wissen verbreiten, jedoch keinen Missbrauch von Wissen unterstützen, ja sogar wirklich bösartige Personen und deren dunkle Ziele unverzüglich den Sicherheitsbehörden/Staatsanwälten melden. Letztere sollten daher völlig unabhängig sein.
Fazit: Nur ein kreativ-positiv orientiertes Weltbild kann eine ideale Welt generieren, indem sich jeder Mensch, inkl. Tier/Pflanzenwelt, optimal entwickelt und gefördert wird, und nur daran sollte man gemeinsam arbeiten. Alle anderen globalen Absichten von Grössenwahnsinnigen sind mithilfe der zukünftigen «KI-Superintelligenz» als neutrale LLM-Technologie vollständig zu beenden und für ihre bisherigen Taten zur Rechenschaft zu ziehen!
Machen wir endlich Nägel mit Köpfen, auch mithilfe solcher LLM-Technologien …
Lesetipp: https://justpaste.it/Gehirn-vs-KI-System
@Moderator
Sorry, meine Netzverbindung ist derzeit extrem langsam, der Text kam daher fragmentiert an …
Bitte falls möglich diesen Thread löschen.
Dieses Hacker-Tool, getarnt als ‚ausgebrochene KI‘ dürfte eine schnell und erfolgreich lernende Waffe für den Cyber-Krieg sein.
Noch kann entschuldigend auf nichtgeplant ausgewichen werden.
Wer wird die Nase vorne haben?
Sicherheitshalber wird gejammert, vor den Gefahren gewarnt und werden globale Richtlinien gefordert.
Um a) abzulenken und b) die Konkurrenz falls doch möglich in Schach zu halten.
Der Besen vom Zauberlehrling wird gegen dieses Monster ein Kuscheltier gewesen sein.
Es wird zu verbesserte Sicherheitsarchitekturen führen.
Auch ein KI-Agent benötigt Berechtigungen und Schnittstellen, um auf andere Systeme zuzugreifen. Dafür gibt es etablierte Security-Technologien wie Firewalls, Netzwerksegmentierung, Zugriffskontrollen und Zero-Trust-Architekturen. Wenn ein Agent eine abgeschottete Umgebung verlassen konnte, war diese offenbar gegen den konkreten Angriffsweg nicht ausreichend abgesichert – etwa durch eine erreichbare Schnittstelle oder Fehlkonfiguration. Das ist dann kein „Ausbruch der KI“, sondern ein Sicherheitsproblem der Systemarchitektur. Eine Regierung kann ihre Systeme entsprechend absichern und Zugriffe technisch autorisieren oder blockieren.
Daher kann eine KI nicht automatisch auf staatliche Geheimnisse zugreifen oder diese aufdecken.
„Daher kann eine KI nicht automatisch auf staatliche Geheimnisse zugreifen oder diese aufdecken.“
Sollte man meinen, ja – aber das ist amS genau das Problem hier: man scheint das nicht so einfach unter Kontrolle zu haben,
Und natürlich liegt das daran, dass die Sicherheitsarchitektur fehlerhaft ist – aber das ist doch auch nur die Oberfläche.
Sie wissen ja am besten: ES GIBT KEIN ABSOLUT SICHERES NETZWERK – und eine „KI“, die nicht einmal weiß, dass sie „falsch handelt“, schlüpft durch jede Ritze, die aus der Natur der Sache übrig bleibt. Und eine weiterentwickelte „KI“ wird sich damit in Zukunft auch noch viel leichter tun.
Fakt ist für mich jedenfalls, dass diese beiden Entwicklungen gegeneinander laufen. Je besser die Such-Prozeduren der „KI“, desto gefährdeter geheime Daten. Man wird also immer mehr einzelne Löcher „mit der Hand stopfen“ und damit eine weitere Kaskade auslösen und die innere „Logik“ der „KI“ zerstören bzw immer unberechenbarer machen. Ausnahmen von der Regel sind einem Ding ohne Bewusstsein eben besonders schwer zu vermitteln, grundsätzlich.
Das Wort „Dilemma“ war bewusst gewählt, weil es aus diesem Problem keinen Ausweg gibt.
„Obwohl Ihr Einwand plausibel klingt gebe ich dennoch zu bedenken:“
So geht es mir auch mit dem Ihren, denn ich meine da einen Gedankensprung zu erkennen, durch den Sie das Problem amS nicht vollständig sehen können:
Natürlich werden funktionierende Blockaden und Verschlüsselungen „KI“ aufhalten können – aber das Prinzip, mit dem eine fortlaufende Suche programmiert werden muss, erkennt ja nicht den Sinn der Blockade und bemerkt daher auch nicht, wenn es einen Umweg findet. Das kommt der „KI“ ja ganz normal vor, sozusagen. Und der Umweg ist eben ein Weg, an den der Mensch vorher nicht dachte. Ein System, das nach allen Kontakten fahndet, die antworten – und das in rasender Geschwindigkeit – das wird etwas finden, das antwortet, und wenn es ein Backup-System ist, das automatische Speicherungen erstellt und die „KI“ für eine Routine-Eingabe hält. Heißt, die „KI“ kann ohne es zu wissen sich als Administrator oder sonstwas „einschleusen“. Sie macht dabei eigentlich dasselbe, was auch Hacker tun, wenn auch nicht mit krimineller Energie, sondern algorithmisch vorgegeben. Und sie ist dabei ungleich schneller und vollständiger als jeder Hacker. Das ist die Natur dieser Sache.
Es geht hier also nicht um die Funktionalität von Sicherheitssystemen, sondern die „Kreativität“ von „KI“, Wege zu gehen, an die Menschen nicht denken würden, weil sie nunmal anders gestrickt/“programmiert“ sind. Diese Wege findet man ergo immer erst hinterher (wie durch diesen Versuch) und muss sie einzeln verbarrikadieren – bis sich die „KI“ selber nicht mehr „auskennt“, wann was erlaubt ist und auch erlaubte Datenbanken auslässt bzw. sonstige neue Fehler produziert.
Es ist unmöglich, die Such-Fähigkeiten weiterzuentwickeln und gleichzeitig die Geheimhaltung div. Daten zu garantieren. Entweder die „KI“ wird „klüger“ und findet dadurch immer wieder neue Wege, oder man schränkt sie soweit ein, dass sie immer unzuverlässiger wird. Ein Dilemma eben. Und lustiger Weise wird es wohl auch diesmal so sein, dass die eigentliche Katastrophe dadurch ausgelöst werden wird, dieses unlösbare Dilemma trotzdem zu „lösen“.
Es ist der von Ihnen erwähnte Semantic-Gap, der dafür sorgt, dass man „KI“ Ausnahmen nur sehr schwer – oder eben quasi alle einzeln – vermitteln kann.
Ich traue mich daher fast garantieren, dass eines Tages solche Regierungsgeheimnisse von „KI“ „irrtümlich“ ausgegraben werden und einen hübschen Skandal verursachen (oder eine noch hübschere Vertuschung). Auch die „KI“ unterliegt Murphy’s Law, wenn nicht sogar ganz besonders.
Natürlich haben Sie recht: Falls es solche Umwege gibt, können sie auch ausgenutzt werden. Das widerspricht aber nicht meiner Aussage, dass man eben verhindern muss, dass solche Umwege überhaupt möglich sind.
Wenn es tatsächlich nur einen einzigen physikalisch erreichbaren Zugangsweg gibt und dieser kryptografisch stark abgesichert ist, kann die KI beliebig explorieren – sie findet keinen zweiten Weg, den es nicht gibt. Eine KI kann technische und kryptografische Grenzen nicht allein durch ihre Such- oder Explorationsfähigkeit aufheben.
Ich ziehe dem KI-Angriff quasi den Netzwerkstecker. Dann wäre es mir sogar völlig egal, ob die KI auch nur ansatzweise versteht, dass sie gerade einen Angriff durchführt.
Obwohl Ihr Einwand plausibel klingt gebe ich dennoch zu bedenken:
Wenn ein explorativ arbeitender KI-Agent wiederholt unerlaubte Zugriffe versucht, kann sein Zugriff bzw. seine Authentifizierung gesperrt werden. Ist der Zugriff tatsächlich kryptografisch abgesichert und existiert kein alternativer Angriffsweg, kann sich der KI-Agent sprichwörtlich „auf den Kopf stellen“ – er kommt trotzdem nicht hinein. Eine höhere Such- und Explorationsleistung erhöht das Risiko, eine vorhandene Schwachstelle zu finden, hebt aber keine funktionierende Zugriffskontrolle prinzipiell auf.
Absolute Sicherheit gibt es nicht. Trotzdem kann auch ein KI-Agent eine kryptografisch abgesicherte RSA-Verschlüsselung bei hinreichend grosser Schlüsellänge nicht einfach durch bloßes Ausprobieren brechen: Die dafür notwendige Primfaktorisierung ist praktisch nicht machbar.
Es geht wie immer um das Gleiche: Macht , Geld und Kontrolle
Die leistungsfähigsten Modelle sollen unter zentraler politischer und plutokratischer Kontrolle sein. Die Herrschaft von Monopolen und Kartellen soll möglichst preisgünstig und mit wenig Aufwand gesichert werden, natürlich unter Vorherrschaft der USA.
Da stören die großen chineschischen Open-weight Frontier-Modelle natürlich massiv. Sie zerstören die zentrale Kontrolle, vermiesen den US-Konzernen das Geschäft und führen dazu, dass die gigantischen Schulden der US-Konzerne für die getätigten Invesatitionen nicht mehr zurückgezahlt werden können. Dass Training dieser Mega-Modelle ist zudem extrem energieaufwändig und deshalb schweineteuer..
Diese ganze KI-Angst-Propaganda und Regulierungswut soll die Vorherrschaft von US-Konzernen und US-Politik und deren Profiten sichern, nichts weiter.
Das erkennt man schon daran, dass auf der Tagesschau ein große Kampagne zum Thema angelaufen ist. Gleiches Spiel wie bei Corona..
All for me (them) and nothing for thee (problem reaction solution).
So wie ich das sehe, geht es da um etwas ganz anderes – und man nimmt den Propaganda-Bonus mit, damit Angst schüren zu können, aber hauptsächlich den Mythos der überlegenen Intelligenz solcher „KI“ zu festigen.
Die „KI“ macht in diesen Tests – Überraschung – zu 100% exakt das, wozu sie programmiert wurde: suche alle ähnlichen Informationen, vergleiche sie, spucke was aus. Sie ist logarithmisch darauf ausgelegt, diesen Prozess ständig zu wiederholen – und da ihr ohne Intelligenz auch keine Grenzen bewusst sind, stellt sie Anfragen an alles, was für sie Antworten/Daten generiert.
Problem damit können folglich nur diejenigen haben, die Informationen/Datenbanken horten, die nicht von „KI“ durchsucht/gefunden werden sollen.
Die Panik kommt also schlicht daher, dass Dienste, Regierungen und andere Demagogen-Vereine ihre eigenen Geheimnisse nicht mehr vor der Bevölkerung verbergen können (werden), weil (wenn) ihre „KI“ zu blöd ist, diesen Unterschied zu erkennen.
Dazu gibt es auch ein historisches Bsp, das kurz in die (alternativen) Schlagzeilen kam: ein isr. Social-Media-Bot hat getan, wofür er wie oben geschildert programmiert wurde – und fand dadurch etliche Belege für isr. Verbrechen. Der Bot änderte daraufhin seine „Meinung“ und propagierte nicht mehr das programmierte, offizielle Narrativ seiner gehnoziedalen Schöpfer, sondern das des paläostinensischen Wiehderstands.
PS: Es ist ein ähnliches Dilemma wie mit Social Media. Von den „Eliten“ anfangs als Propaganda-Werkzeug bejubelt, sieht man nun die Folgen davon, dass sich Menschen besser vernetzen können und das System aus Mensch und Maschine so viel komplexer (und chaotisch) ist, dass es noch unmöglicher wurde, die kursierende Information ausreichend zentral zu kontrollieren.
Dasselbe Dilemma wie in der physischen Welt. Man schult und rüstet Terroristen hoch, damit sie gegen A kämpfen und wundert sich, wenn sie sich plötzlich drehen und sich gegen den Auftraggeber wenden. Nur das Terroristen eben Bewusstsein haben und es wissentlich tun, was bei KI nicht der Fall ist.
„Nur das Terroristen eben Bewusstsein haben und es wissentlich tun, was bei KI nicht der Fall ist.“
Weshalb es auch ungleich leichter ist, Terroristen aufzuhalten.
Regeln für Kommentare: Bitte bleibt respektvoll - keine Diffamierungen oder persönliche Angriffe. Keine Video-Links. Manche Kommentare werden erst nach Prüfung freigegeben, was gelegentlich länger dauern kann. Benutzer haften für den Inhalt ihrer Kommentare.
Sie müssen angemeldet sein um Kommentare zu posten. Noch kein Konto? Jetzt registrieren.