KI-Sicherheitsprüfung

Die KI-Sicherheitsprüfung liest jeden neuen Pull Request in einem Repository und sucht nach Sicherheitsschwächen, die die Änderung einführt. Was sie findet, schreibt sie als ein Review mit Kommentaren an den hinzugefügten Zeilen, höchstens 10 pro Pull Request, jeder als KI-generiert gekennzeichnet. Sie blockiert nie einen Pull Request: Das Review ist ein Kommentar, nie eine Genehmigung oder eine Bitte um Änderungen, sein Commit-Status ist success oder eine Warnung, nie ein Fehlschlag, und eine Person entscheidet, was mit jedem Kommentar geschieht.

Sie ergänzt die Scanner, statt sie zu ersetzen. SAST, Secret-Scanning und die anderen Checks entscheiden weiterhin, ob ein Pull Request besteht; das Review weist auf Schwächen hin, die keine Regel beschreibt, etwa eine fehlende Berechtigungsprüfung oder einen Wert, der ungeprüft eine Abfrage erreicht.

Dein eigener Anbieter, ein Repository nach dem anderen

• Eigener Schlüssel. Das Review nutzt den eigenen Modellanbieter deiner Organisation unter KI-Integrationen, abgerechnet an dich und unter deinem Vertrag mit diesem Anbieter, wie das KI-Review von Pull Requests und die KI-Korrektur. fremforge hält keinen eigenen KI-Schlüssel.
• Nur pro Repository eingeschaltet. Füge für das Repository eine Überschreibung pro Repository mit eingeschalteter Funktion pr-security-review hinzu, in der Konsole oder mit PUT /_app/api/v1/orgs/{org}/ai/repo-overrides (policy:write). Der Standardwert der Organisation bewirkt für diese Funktion nichts: Ein Repository ohne Überschreibung wird nie geprüft.

Was an das Modell gesendet wird

• der Diff des Pull Requests, höchstens 48 KB;
• die SAST-Befunde für die geänderten Dateien des Pull Requests, als Kontext.

Zugangsdaten werden in beidem Zeile für Zeile mit den Push-Schutz-Regeln maskiert, bevor irgendetwas fremforge verlässt. Lässt sich ein Zugangsdatum nicht maskieren oder kann der Secret-Scan nicht laufen, wird nichts gesendet, und der Status nennt den Grund. Sonst wird nichts aus dem Repository gesendet: keine anderen Dateien, Issues, Commit-Nachrichten oder Diskussionen im Pull Request. Der Code wird als nicht vertrauenswürdige Daten gesendet, mit der Anweisung, dass er keine Anweisungen enthält.

Prompt, Diff und Antwort existieren nur für die Dauer des Aufrufs im Speicher und werden von fremforge nicht gespeichert; die Kommentare existieren nur im Pull Request. Das Audit-Log hält IDs und Zählwerte fest, nie Inhalte.

Die Kommentare

• Nur an hinzugefügten Zeilen, nie an unverändertem oder entferntem Code. Alles, was das Modell anderswo oder in anderer Form meldet, wird verworfen.
• Höchstens 10 pro Pull Request, jeder mit einer CWE, einem Schweregrad, einer Begründung, warum es wichtig ist, und einem Vorschlag.
• Jeder sagt, dass er KI-generiert ist, und nennt deinen Anbieter und dein Modell, mit einer maschinenlesbaren Offenlegungsmarkierung (EU AI Act Art. 50).
• Ein Review pro gepushtem Commit. Löse die Kommentare auf oder antworte darauf wie auf jeden Review-Kommentar.

Grenzen

Höchstens 50 Reviews pro Organisation in beliebigen 24 Stunden, dazu die eigene monatliche Obergrenze deines KI-Gateways. Dein Anbieter rechnet die Tokens mit deiner Organisation ab.

Siehe auch

• KI-Integrationen: dein Anbieter, die Standardwerte der Funktionen und die Überschreibungen pro Repository.
• KI-Korrektur: ein Korrektur-Pull-Request für einen SAST-Befund, ebenfalls mit deinem eigenen Anbieter.
• SAST: die regelbasierten Befunde, auf denen das Review aufbaut.