Dutzende Robotaxis in China bleiben auf Straßen und Autobahnen stehen und verursachen Unfälle
Der KI-Boom führt zu immer offensichtlicher negativen Folgen. Insbesondere mobile KI gefährdet Menschenleben. Das ist nun auch beim führenden Robot-Produzenten China zu beobachten.
Ein massiver Systemausfall am Dienstag ließ über hundert Robotaxis in den Straßen von Wuhan, China, liegen bleiben, berichtet Wired, wobei Dutzende der Fahrzeuge mitten im Verkehr und sogar auf Autobahnen stehen blieben. Die Robotaxis werden von Baidu betrieben, einem chinesischen Technologiekonzern, der Hunderte der selbstfahrenden Autos in der zentralchinesischen Stadt im Einsatz hat. Gestern haben wir über Probleme mit KI-Traktoren berichtet, bei denen der Besitzer gewarnt Menschen ihre Nähe zu lassen.
In den sozialen Medien hochgeladene Aufnahmen vermitteln einen Teil des Chaos. Ein Dashcam-Video – es scheint sich um dieses zu handeln – zeigt einen Fahrer, der innerhalb von 90 Minuten an mindestens 16 von Baidus Apollo Go-Robotaxis vorbeifährt, die auf der Straße stehen geblieben waren, wie das Magazin berichtet, was zu Verkehrsstaus führte. Andere Aufnahmen zeigten sie auf Autobahnen stehen geblieben, teilweise auf der Überholspur.
Der Ausfall scheint zu mindestens drei Unfällen geführt zu haben. Auf der chinesischen Social-Media-Seite RedNote berichtet ein Nutzer, der Dashcam-Aufnahmen hochgeladen hat, dass er auf ein liegengebliebenes Baidu-Robotaxi aufgefahren sei, nachdem das Auto vor ihm plötzlich die Spur gewechselt habe, um einen Zusammenstoß zu vermeiden, sodass ihm laut Wired kaum Zeit zum Reagieren geblieben sei. Das Magazin fand zudem Videos von zwei weiteren Kollisionen, wobei eine RedNote-Nutzerin bestätigte, dass sie an einem Kleinbus vorbeigefahren sei, der auf das Heck eines Baidu-Taxis geprallt war.
Für die Fahrgäste war die Erfahrung nicht weniger chaotisch. Eine Frau erzählte Wired, dass sie in der Nacht des Ausfalls 90 Minuten lang mit zwei Freunden in einem Baidu-Robotaxi festsaß, und beschrieb ihre frustrierenden Versuche, den Kundendienst zu erreichen.
Das Auto hielt laut der Fahrgastin vier- bis fünfmal an, bevor es schließlich vor einer Kreuzung parkte, die glücklicherweise nicht stark befahren war. Ein Bildschirm im Auto wies sie an, dort zu bleiben, da ein Unternehmensvertreter in „fünf Minuten“ vorbeikommen würde, doch als niemand kam, verbrachten sie eine weitere halbe Stunde damit, den Kundendienst zu erreichen. Als der Kundendienst ihnen keine hilfreichen Informationen gab, beschlossen sie und ihre Freunde, das Fahrzeug, das nicht verschlossen war, zu verlassen und nach Hause zu gehen.
Andere Fahrgäste schimpften auf RedNote über ähnliche Erfahrungen; einer beklagte sich, dass beim Drücken des „SOS-Knopfes“ der Robotaxi-App die Meldung erschien, dieser sei nicht verfügbar. „Wozu dient das SOS dann überhaupt?“, schrieben sie, zitiert von Wired.
Baidu hat auf Anfragen der Medien nach einer Stellungnahme nicht reagiert. Die Behörden in Wuhan gaben noch in derselben Nacht eine Erklärung heraus, wonach der Vorfall „wahrscheinlich durch eine Systemstörung verursacht“ wurde, die noch untersucht wird.
Glücklicherweise wurden trotz der zahlreichen Kollisionen keine Verletzten gemeldet.
Erste Berichte in Verbindung mit dem Videomaterial deuteten darauf hin, dass mindestens Dutzende von Baidu-Robotaxis auf den Straßen liegen geblieben waren. Laut Reuters sagte jedoch ein Verkehrspolizist in einem von der Shanghaier Zeitung The Paper veröffentlichten Video, dass mindestens 100 Apollo-Go-Fahrzeuge von dem Problem betroffen waren, wobei unklar ist, wie viele davon sich zum Zeitpunkt des Vorfalls mitten im Verkehr befanden. Die Autos waren nicht verriegelt, aber die Fahrgäste hatten aufgrund des starken Verkehrs Angst, ihre Fahrzeuge zu verlassen, so der Beamte.
Der Ausfall wird als einer der bislang größten und störendsten Vorfälle mit Robotaxis in die Geschichte eingehen und ist ein harter Realitätscheck für den raschen Einsatz autonomer Fahrzeuge durch chinesische Unternehmen.
Natürlich sind die Lehren daraus auch im Westen relevant. Der US-Robotaxi-Marktführer Waymo erlebte im Dezember eine noch größere Katastrophe, als ein Stromausfall in San Francisco dazu führte, dass Hunderte seiner Fahrzeuge, die ohne funktionierende Ampeln verwirrt waren, auf den Straßen der Stadt liegen blieben. Die Waymo-Fahrzeuge stauten sich an Kreuzungen, blockierten Straßen und behinderten Rettungsfahrzeuge.
Waymo musste Mitarbeiter entsenden, um 64 seiner gestrandeten Robotaxis physisch abzuholen, die während des Stromausfalls insgesamt fast 1.600 Mal für zwei Minuten oder länger stehen blieben, wie der San Francisco Standard berichtete. Im Gegensatz zum Vorfall bei Baidu führte der Vorfall bei Waymo zu keinen größeren Kollisionen, was die Risiken des Einsatzes von Robotaxis auf Autobahnen unterstreicht, wie es Baidu getan hat – eine Funktion, die Waymo im November offiziell eingeführt hat.
Unsere Arbeit ist spendenfinanziert – wir bitten um Unterstützung.
Folge TKP auf Telegram oder GETTR und abonniere unseren Newsletter.
Pleite: KI-gestütztes Traktor-Startup verbrennt eine Viertelmilliarde Dollar und feuert Mitarbeiter
Stromausfall in San Francisco verursacht Chaos durch fahrerlose Autos
Energie ist die wahre Währung der Macht – und der Welt geht sie aus
Rechenzentren verursachen laut Studie enorme Temperaturanstiege im Umkreis von mehreren Kilometern
Infraschall durch Windräder modelliert und in Messungen bestätigt
Ich weiß nicht, ob ich das in diesem Forum schon kommentiert habe, aber mir fällt in letzter Zeit immer wieder ein dystopischer Roman aus meiner Jugendzeit vor ca. 60 Jahren ein. In der im Roman beschriebenen Gesellschaft wurden alle körperlichen Arbeiten von Androiden erledigt, die sich von Menschen durch einen blaufarbene Haut unterschieden. Die gesamte Gesellschaft wurde von einem Computersystem geleitet und kontrolliert. Alles wurde überwacht, nur das Territorium unter dem Zentralcomputer nicht, unter den sich arbeitswillige Menschen eingruben und Möbel herstellten. Als die auf dem Markt erschienen, kamen die Algorhythmen des Zentralcomputers durcheinander und er stürzte ab. Eine Frage entsteht dabei: Wird die Welt durch die zunehmende elektronische Störanfälligkeit friedlicher oder werden zukünftige Kriege nur noch elektronisch geführt. Die derzeitige Entwicklung deutet auf die letztere Variante.
Ja gut, das war aber klar. Ich habe in der IT gearbeitet und weiß das permanent irgendwas nicht funktioniert. Da ist dann eine weitere technologische Entwicklung wie die KI keine Ausnahme. Vielleicht kann sie sich mal selbst analysieren und entsprechend handeln. Dazu muss es aber dann natürlich ein zweites System im System separat geben, dass im Falle von Problemen, ihre Untersysteme prüfen kann, ohne selbst befallen zu sein vom Problem oder als Folgeproblem nicht zu funktionieren.
Auch die Drohnen und Roboter die man irgendwann versuchen wird hier zu integrieren, werden entsprechend viel Mist bauen, bis hin zu gefährliche Aktionen im Fehlermodus vollziehen. Ich erwarte da gar nichts anderes.. das war von Anfang an klar und das sollte sich jeder schon jetzt absolut verdeutlichen.
Sei wachsam in der Umgebung von Robotern, KI vor allen Dingen wie sie mehr sind als ein Programm in Netz, sondern rumlaufen. Er ist ein Ding und funktioniert nicht wie ein Lebewesen, egal wie sehr man sie vermenschlichen wird. Man kann dann mit denen auch nicht reden, oder auf irgendeine Art Leben erwarten.
Wenn den sein Programm defekt ist, dann wird er im besten Falle einfach stillgelegt werden. Das würde ich auch als sogenannten Kill Switch immer mit verbauen, bevor es böse endet.
Denn wenn es erstmal so kommt, werden Menschen die Roboter extrem schnell ablehnen und als Gefahr wahrnehmen.
Im Grunde würde ich sowieso von Anfang an dazu raten, sie nicht auf eine Stufe mit Leben zu stellen. Denn das wird seitens der Herrschenden nur zu gerne versucht werden. Man braucht weder guten Tag, oder sonstwas so einem Ding wünschen, weil es eh keine Emotionen hat.
Ich liebkose ja auch nicht meinen Staubsauger..
Wobei es dazu ja den lustigen Film gab und die Szene, wo einer der Darsteller mit dem Staubsauger ein intimes Gespräch führt.
Ich versuche es mal drunter zu verlinken, wenn man mich lässt. Sonst sucht es selbst bei YT z.B. Hieß irgendwas mit Goofy und Staubsauger oder so^^
Den Film kenne ich nicht. Aber es gab da mal ein Experiment. Einem Affenbaby wurde seine Mutter weggenommen. Als „Ersatz“ gab es 2 Drahtaffen. Einer kalt und hart, der es aus einer „Brust“ mit Nahrung versorgte. Der andere mit Fell, warm, kuschelig. Das Affenbaby holte sich bei Hunger die Nahrung, ging aber dann sofort wieder zum ebenfalls leblosen Affen, der aber zumindest warm und kuschelig war.
Wenn die Menschen genug traumatisiert sind, geben sie sich mit der Mutterattrappe zufrieden, weil sie gar nicht wissen wie sich wirkliche Geborgenheit anfühlt!
An der breiten Traumatisierung wird heftig gearbeitet ohne dass die Menschen es merken. Fängt mit Geburt an, geht weiter über Kinderkrippe, Kindergarten, Schule. Erscheint aber alles als „normal“ und alternativlos.
Parallel wird an KI als Ersatzpartner gearbeitet, der unendlich Verständnis hat und immer bestätigend agiert.
Also, Ihr Wort in Gottes Ohr, dass KI nicht auf eine Stufe mit Leben gestellt wird!!
Es fängt nicht bei der Geburt an, sondern während der wichtigsten neun Monate eines Lebens.
Man sieht in den gezeigten Fällen, das die KI(AI) reagiert wie ein Kindergartenkind! Aber: ein Kindergartenkind lernt besser und verbraucht viel viel weniger Energie!
In der Nähe von Linz, Nähe Enns soll ein Rechenzentrum für (Ich glaube) Google gebaut werden, für dessen Platz fruchtbares Ackerland verbaut wird, und die Energieversorgung einer Großstadt entspricht. Sind alle verrückt?
Super! Örschi bestellt gleich welche per SMS und D auch. Dort werden sie zur Vorschrift, um das Klima zu retten. Und gleich mitbestellen – auch eine fernöstl. Innovation: die ausgespuckte Batterie. Sobald der Akku, der unterm Auto montiert ist, zu heiß wird, wird er seitlich weggeschleudert….das ist dann das Florianiprinzip. Dann explodiert halt der daneben…😉
Habe neulich erst gelesen KI wäre beim Lügen erwischt worden, wie sich auch Ausreden einfallen lassen haben nachdem es Urheberrecht gebrochen hatte. KI lernt dazu. Im negativen Sinne.
Wenn nun, wie einige wissenschaftsgeblendete wollen, Ki systemübergreifende rechte eingeräumt werden sind wir bald alle in höchster Gefahr, bis hin zur Auslöschung des Problemverursachers, also dem Mensch, so kann man am schnellsten Probleme beseitigen.
Hab ein paar alte Wisscenschaftssendungen gesehen wo ich erschrocken war mit welcher Blauäugigkeit KI und Transhumanismus gesehen wird ohne an mögliche negative Auswirkungen zu denken. Wird völlig ausgebkendet von den Verblendeten