Gastkommentar DeepSeek: Ein Albtraum für die digitale Sicherheit!

Anbieter zum Thema

Kobil Systems GmbH

Greenbone AG

FTAPI Software GmbH

Mimecast Germany GmbH

Technologien wie KI bringen Innovation – und das brauchen wir. Aber um welchen Preis? Die Verfügbarkeit von DeepSeek aus China fordert KI-Größen wie Microsoft oder OpenAI und Hardwarehersteller wie Nvidia und Broadcom gleichermaßen heraus. Doch es geht um weit mehr als einen möglichen Verlust der KI-Vormachtstellung durch die USA: DeepSeek ist eine massive Sicherheitsbedrohung – ein Albtraum aus Sicht des Sicherheitsexperten Ismet Koyun von Kobil.

Eine Woche nach dem temporären TikTok-Verbot in den USA – verhängt, weil chinesische Unternehmen US-Daten sammeln könnten – erscheint DeepSeek auf der Bildfläche, um genau diese Aktivitäten offenzulegen. Nicht nur die USA reagieren schockiert. DeepSeek hat ein KI-Modell entwickelt, das in seiner Leistungsfähigkeit mit etablierten Systemen wie ChatGPT oder Gemini vergleichbar ist. Mit dem Unterschied, dass das KI-Modell kostengünstig und schnell entwickelt wurde sowie eine Open-Source-Lösung ist. Damit zeigt das chinesische Startup, dass die Entwicklung leistungsstarker KI-Systeme mit wesentlich geringerem Ressourcenaufwand möglich ist und diese Technologien immer leichter zugänglich werden.

Aber: Die Sicherheitsrisiken sind vielfältig und es bleiben viele Fragen offen.

Deutsche Firmen im Visier chinesischer Hacker

267 Milliarden Euro Schaden pro Jahr für die deutsche Wirtschaft

DeepSeek ist eine Open-Source-Lösung

Der öffentlich zugängliche Quellcode öffnet Tür und Tor für Missbrauch, Angriffe, Desinformation und Manipulation. Mit verhältnismäßig wenig Aufwand können Angreifer Schwachstellen identifizieren und ausnutzen, noch bevor sie behoben werden, und sensible Daten abgreifen oder die KI für schädliche Zwecke umprogrammieren. Daraus ergeben sich enorme Sicherheitsrisiken – für besonders sicherheitskritische Bereiche wie dem Finanz- oder Gesundheitswesen, aber auch für alle anderen Industrien.

Woher kommen die Trainingsdaten?

Die wenigsten großen KI-Anbieter lassen sich wirklich hinter die Kulissen der Trainingsmodelle blicken, ganz zu schweigen von DeepSeek vor dem Hintergrund laxer Sicherheitspraktiken in China. Es besteht große Unsicherheit, wie die KI trainiert wird und woher die Trainingsdaten stammen. Ihre genaue Herkunft ist nicht öffentlich bekannt. Das lässt Raum für Spekulationen und vor allem Sicherheitsbedenken. Es ist davon auszugehen, dass die KI durch die lockeren Datenschutzgesetze in China und die Überwachungsstruktur Zugang zu riesigen Datenmengen hat. Wie verlässlich und valide diese Daten sind, bleibt offen – auch, ob die Daten womöglich Beute von Cyberangriffen, und unrechtlich erworben oder synthetisch, also von anderen KI-Modellen generiert, sind.

Security-Insider Podcast – Folge 92

Unternehmen versus Chinas Great Firewall

Datenschutz und China – ein Widerspruch in sich

Datenschutz ist in China nicht gerade großgeschrieben. Das macht das KI-Modell von DeepSeek wenig vertrauenswürdiger. Das Startup macht nicht einmal einen Hehl draus und sagt offen, dass persönliche Informationen auf („sicheren“) Servern in China gespeichert werden. Besonders hellhörig sollte die Öffentlichkeit werden, wenn es darum geht, auf welche Art und Weise Informationen erfasst werden und welche Daten DeepSeek sammelt, denn das umfasst nahezu alles: persönliche Informationen, Internet- und Netzwerkaktivitäten, Tastenanschlagmuster, Geräte-ID, Benutzer-ID und so weiter.

Das geht weit über das hinaus, was jemals mit Social-Media-Plattformen wie TikTok gesammelt wurde. Es ist brandgefährlich: Was macht China mit all diesen persönlich identifizierbaren Daten? Das vollkommene Nichtvorhandensein von Rücksichtnahme auf Sicherheit und Privatsphäre bei der Nutzung generativer KI ist ein riesiges Problem und eine Bedrohung für die digitale Sicherheit auf der ganzen Welt. Und es ist sicherlich nur Teil eines größeren Vorhabens, Menschen über KI zu überwachen und in Schach zu halten – in China, aber auch über die chinesischen Landesgrenzen hinaus.

KI: Sicherheit muss höchste Priorität haben

Es wird keine Welt mehr ohne KI geben. Aber es darf keine KI ohne höchste Sicherheit geben. Dabei appelliere ich an den gesunden Menschenverstand aller: Seien Sie vorsichtig mit Daten, die Sie preisgeben. Und: Es braucht den Fokus auf geschlossene, hochsichere digitale Systeme und Lösungen mit einer sicheren verifizierten Identität. Solche sicheren Ökosysteme, die unabhängig von USA und China sind, müssen wir in Europa und Deutschland etablieren. Hierfür müssen sich alle stark machen: Unternehmen, Organisationen, Forschungs­einrichtungen, Privatleute – und die Politik. Nur dann sind wir wirklich sicher und machen uns digital unabhängig.

Kommentar von Ismet Koyun, CEO und Gründer, KOBIL Gruppe.

Update: 10 Millionen Dollar Belohnung

Chinesische Hacker greifen kritische US-Infrastrukturen an

(ID:50301497)