Wir prüfen Anwendungen, die ganz oder größtenteils von KI-Agenten geschrieben wurden. Der Code ist meist erstaunlich gut lesbar. Die Sicherheitsprobleme sind trotzdem immer dieselben. Hier die Regeln, die wir daraus abgeleitet haben – als Text, den Sie direkt in die Regeldatei Ihres Projekts übernehmen können.
- Zugangsdaten kommen aus der Umgebung. Nie aus dem Code, nie aus einer Datei im Repository. Wenn ein Agent einen API-Key in eine Datei schreibt, ist das ein Fehler – auch „nur zum Testen“.
- Jede Eingabe wird auf dem Server geprüft. Frontend-Validierung ist Komfort, keine Sicherheit. Länge, Typ, erlaubte Werte – immer serverseitig.
- Berechtigungen werden bei jedem Zugriff geprüft. Nicht nur beim Login. Die Frage „darf dieser Nutzer diesen Datensatz sehen?“ gehört in jede Route, die Daten liefert.
- Keine neuen Abhängigkeiten ohne Rückfrage. Agenten greifen gern zu Paketen. Jedes Paket ist Angriffsfläche und Wartungsaufwand.
- Fehlermeldungen verraten nichts. Stacktraces, SQL-Fragmente und Pfade gehören ins Log, nicht in die Antwort an den Browser.
- Datenabflüsse sind dokumentiert. Jeder externe Dienst, den der Code aufruft, steht in einer Liste – und in der Datenschutzerklärung.
- Sicherheitsrelevante Änderungen liest ein Mensch. Auth, Sessions, Zahlungen, Dateiuploads: Hier reicht kein automatischer Test.
Klingt banal? Ist es. Aber Regeln, die jedes Mal gelten, schlagen Wissen, das nur im Kopf eines Entwicklers existiert. Genau deshalb funktionieren sie mit Agenten so gut.