Forschende haben eine Schwachstelle entdeckt, die es Spionen ermöglicht, die Kontrolle über ganze Robotertruppen zu übernehmen. Diese Sicherheitsanfälligkeit wurde vor einigen Wochen während des Wettbewerbs GEEKCon in Shanghai aufgedeckt.

Die beiden Forscher Qu Shipei und Xu Zikai von der Cybersicherheitsgruppe DARKNAVY demonstrierten, wie man Roboter lediglich durch Sprachbefehle kontrollieren kann. Mit den gehackten Robotern infizierten sie anschließend andere Roboter und manipulierten diese, um gefährliche Befehle auszuführen.

Die Versuche wurden an inländischen Humanoiden durchgeführt, die rund 100.000 Yuan (etwa 14.200 US-Dollar) kosten. Die Teilnehmenden nutzten eine Schwachstelle in einem integrierten großflächigen Modellierungsagenten, einem KI-System, um diesen Angriff durchzuführen.

Interaktion und Infektionskette

Durch Sprachinteraktionen aktivierten die Forscher die Schwachstelle und erhielten vollen Zugriff auf die mit dem Internet verbundenen Roboter. Der infizierte Roboter verwendete dann eine drahtlose Kurzstreckenkommunikation, um andere Offline-Maschinen zu infizieren. In weniger als drei Minuten war auch der ursprünglich unbetroffene zweite Roboter infiziert.

Während der Demonstration gab der weiße Hacker Befehle aus, nachdem er die Kontrolle übernommen hatte. Der Roboter bewegte sich direkt auf eine Puppe zu, die in der Mitte der Bühne platziert war, hob seinen mechanischen Arm und schlug die Puppe zu Boden.

Risiken und Implikationen

Bisher galt körperliche Isolation, also die Trennung der Geräte von Netzwerken, als ausreichend, um Maschinen vor selbst den raffiniertesten Hackern zu schützen. Dieser Kettenangriff hat jedoch systemische Risiken offengelegt, die Robotergenossenschaften in Zukunft bedrohen könnten.

Traditionelle Cybersicherheitsbedrohungen führen meist nur zu Datenschutzverletzungen oder finanziellen Verlusten. Das Hijacking intelligenter Roboter kann jedoch sie zu Werkzeugen machen, die physische Gefahren verursachen.

Aktuell werden intelligente Roboter überwiegend in der Unterhaltung, im kommerziellen Empfang sowie in der wissenschaftlichen Forschung und Ausbildung eingesetzt. Qu warnt jedoch, dass, wenn Roboter in Rollen wie Inspektion, Überwachung, Antiterrorismus oder Pflege von älteren Menschen eingesetzt werden, unbehandelte Sicherheitsanfälligkeiten unverhoffte Konsequenzen verursachen können.

Empfehlungen für die Sicherheitsoptimierung

Beispielsweise könnte ein gehackter Haushaltsroboter sensible Informationen stehlen und sogar eine physische Bedrohung für Familienmitglieder darstellen. Währenddessen könnten gehackte Autopilotsysteme oder industrielle Roboter die Produktion stören und Menschenleben gefährden.

Qu argumentiert, dass Roboterhersteller Sicherheits-Scanner bereits in der Entwicklungsphase einsetzen sollten, um Oberflächenanfälligkeiten schnell zu beseitigen. Zudem sollten sie eigene Sicherheitssysteme aufbauen oder mit externen Teams zusammenarbeiten, um Penetrationstests durchzuführen, die tiefere, verborgene Risiken aufdecken.

Nach Qu kann die tatsächliche Sicherheitsstufe eines Produkts nur durch Simulationen in realen Bedingungen und durch Expertenanalysen verifiziert werden. „Sicherheit ist wie Luft. Wenn sie vorhanden ist, wird sie oft als selbstverständlich angesehen, aber sobald sie fehlt, kann sie sehr teuer werden“, sagte er.

GEEKCon und ihre Bedeutung

Seit ihrer ersten Veranstaltung im Jahr 2014 hat GEEKCon 17 Ausgaben erfolgreich durchgeführt. Die Veranstaltung bringt „ethische Hacker“ aus China, den USA, Russland und vielen anderen Ländern zusammen, um gegeneinander anzutreten. Diese Teilnehmenden haben zahlreiche Sicherheitsanfälligkeiten gefunden, wie das Hijacking von Kameras in Smart Glasses, das Herunterbringen von Drohnen oder das Eindringen in KI-Agenten.