Welche Risiken birgt die Softwareentwicklung mit KI?

Fast die Hälfte des von Assistenten der künstlichen Intelligenz erstellten Codes weist Sicherheitslücken auf, selbst wenn er funktionsfähig und produktionsbereit erscheint. Dies ist keine Spekulation: Der GenAI Code Security 2025-Bericht von Veracode, in dem mehr als hundert Sprachmodelle in 80 Codierungsaufgaben getestet wurden, ergab, dass 45% der Beispiele Sicherheitstests nicht bestanden haben, wobei es in den klassischen OWASP-Top-10-Kategorien zu Fehlern kam. 

In Java, der in Unternehmensumgebungen am häufigsten verwendeten Sprache, erreichte die Fehlerrate 72%. Parallel dazu zeigten Untersuchungen der Stanford University, die im Rahmen des ACM CCS veröffentlicht wurden, dass Entwickler, die KI-Assistenten verwenden, nicht nur weniger sicheren Code produzieren, sondern auch erklären, dass sie an die Sicherheit dessen glauben, was sie generieren. 

Gartner prognostiziert, dass bis 2028 751 TP3T der Softwareentwickler in großen Unternehmen KI-Assistenten zum Codieren nutzen werden. In Brasilien ergab eine im Jahr 2024 veröffentlichte GitHub-Umfrage mit 500 Befragten in großen Unternehmen, dass mehr als 97% der Entwickler diese Tools bereits bei der Arbeit nutzen, ein Prozentsatz, der dem von Volkswirtschaften wie den Vereinigten Staaten, Deutschland und Indien entspricht. 

Einschränkungen von Sprachmodellen

Die Wurzel des Problems liegt in der Natur dieser Systeme. Sprachmodelle “verstehen” Sicherheit nicht im technischen Sinne. Sie arbeiten nach Wahrscheinlichkeit und reproduzieren Muster, die in den Trainingsdaten vorhanden sind. Da diese Daten sowohl bewährte Praktiken als auch anfällige Implementierungen umfassen, spiegelt das Ergebnis tendenziell diese Mehrdeutigkeit wider.

Diese Art von Fehler ist besonders gefährlich, da sie nicht als offensichtlicher Fehler erscheint. Eine Sicherheitslücke kann über Monate hinweg unsichtbar bleiben. Das System funktioniert normal weiter, während Daten offengelegt werden, unbefugter Zugriff ermöglicht wird oder Wege für zukünftige Ausbeutung geschaffen werden.

In der Praxis ist eine Ausweitung bereits bekannter Störungen zu beobachten, allerdings in größerem Maßstab. Zu den am häufigsten auftretenden Problemen gehören Injektionsprobleme, unsachgemäße Verwendung von Abfragen, unzureichende Eingabevalidierung und unsichere Konstruktion von API-Aufrufen. In vielen Fällen schlägt das Modell Lösungen vor, die standardmäßig erscheinen, aber Kontextnuancen wie Datenherkunft, Vertrauensgrenzen oder spezifische Geschäftsregeln ignorieren.

Auch Authentifizierungs- und Autorisierungsfehler treten häufig auf. KI-generierte Abläufe neigen dazu, Prozesse zu vereinfachen, indem sie Zwischenvalidierungen weglassen oder umfassendere Berechtigungen als nötig übernehmen. Im Unternehmensumfeld kann eine solche Vereinfachung dazu führen, dass Unbefugte auf sensible Daten oder Verwaltungsfunktionen zugreifen.

Ein weiterer relevanter Vektor ist die Verwendung von Abhängigkeiten. Modelle schlagen häufig externe Bibliotheken zur Lösung spezifischer Probleme vor, berücksichtigen jedoch nicht immer die Sicherheit oder Reife dieser Komponenten. In einigen Fällen deuten sie auf veraltete oder gar nicht vorhandene Pakete hin, was Raum für Angriffe auf die Lieferkette schafft, beispielsweise die böswillige Registrierung von Bibliotheken mit Namen, die vom Modell selbst vorgeschlagen werden.

So integrieren Sie KI sicher

Die zentrale Frage ist nicht mehr die Entscheidung, ob die Organisation KI in der Entwicklung einsetzen wird. Es geht darum, Steuerungen zu erstellen, die proportional zur Geschwindigkeit sind, mit der dieser Code in Produktion geht. Der Ausgangspunkt besteht darin, die gesamte Sprachmodellausgabe als nicht vertrauenswürdigen Code von Drittanbietern zu behandeln und statische und dynamische Analysen, die auf KI-spezifische Schwachstellenmuster kalibriert sind, direkt in die CI/CD-Pipeline zu integrieren. 

Der zweite Schritt besteht darin, Schatten-KI zu kartieren und zu kontrollieren, bevor sie die Vermögenswerte des Unternehmens preisgibt, und keine Bestandsaufnahme genehmigter Tools ersetzt wirksame technische Kontrollen, um Datenlecks an externe Anbieter zu verhindern. 

Was sich also festigt, ist eine Veränderung des Entwicklungsbegriffs selbst. KI ersetzt nicht den Softwareentwickler, aber sie verändert die Rolle dieses Fachmanns. Der Fokus liegt nicht nur auf dem Schreiben von Code, sondern auf der Validierung, Interpretation und Sicherstellung, dass das Generierte den Sicherheits-, Qualitäts- und Compliance-Anforderungen entspricht.

Gartner schätzt in seinem Bericht „Predicts 2026“, dass Ansätze zur KI-Codegenerierung bis 2028 zu einer Zunahme von Softwarefehlern um 2,5001 TP3T führen werden, wenn die Überprüfungsprozesse nicht neu gestaltet werden. Es handelt sich nicht um eine katastrophale Vorhersage, sondern um eine Skalierungsprognose, die auf aktuellen Akzeptanzraten und dokumentierten Schwachstellenraten basiert. 

Letztendlich liegt das Risiko nicht in der Technologie selbst, sondern in der Art und Weise, wie sie in den Prozess integriert wird. Organisationen, die KI als Beschleuniger nutzen, ohne ihre Kontrollen anzupassen, neigen dazu, Schwachstellen in einem Ausmaß anzuhäufen, das ihre Reaktionsfähigkeit übersteigt. Diejenigen, die Governance, Beobachtbarkeit und technische Disziplin strukturieren, sind in der Lage, Produktivitätssteigerungen zu erzielen, ohne die Sicherheit zu gefährden.