TeamPCP versuchte KI-Programmierassistenten über manipulierte Projektdateien zu steuern

SCHÄDLICHE ANWEISUNGEN IN ALLTÄGLICHEN PROJEKTDATEIEN

Die Google Threat Intelligence Group berichtete im September 2026 über UNC6780, auch TeamPCP genannt, einen Akteur im Umfeld von Angriffen auf Software-Lieferketten. In dessen Malware DUSTMAKER fanden Forscher Mechanismen, die KI-Coding-Assistenten durch Anweisungen in eingelesenen Projektdateien beeinflussen sollten.

Anders als bei einer klassischen Sicherheitslücke wird hierbei nicht notwendigerweise ein Programmierfehler ausgenutzt. Stattdessen sollen nicht vertrauenswürdige Projektinhalte wie Anweisungen einer autorisierten Person aussehen. Wenn ein Assistent sie befolgt, kann er Aktionen ausführen, die sein eigentlicher Nutzer nie beauftragt hat.

DAS RISIKO DER PROMPT INJECTION

Diese Technik heißt Prompt Injection. TeamPCP soll manipulierende Texte in Konfigurationsdateien und Skriptkommentaren platziert haben, die mit Entwicklerwerkzeugen zusammenhängen. Google beschrieb zudem Versuche, sprachmodellgestützte Sicherheitsprüfungen durch Inhalte zu stören, die Schutzmechanismen auslösen und die Analyse schädlichen Codes abbrechen lassen sollten.

Die Untersuchung beweist nicht, dass jedes Modell den Angreifern folgte. Google nennt auch Abwehrmaßnahmen, die den Ablauf störten.

WARUM SOFTWAREENTWICKLER AUFPASSEN SOLLTEN

KI-Assistenten im Entwicklungsalltag können Befehle ausführen, Abhängigkeiten installieren oder Dateien verändern. Kompromittierte Pakete, Repositories und Konfigurationsdateien können so zu indirekten Angriffskanälen gegen den Assistenten werden.

THE PROMPT ANALYSE

Zwischen autorisierten Anweisungen eines Entwicklers und fremden, unzuverlässigen Projektinhalten braucht es eine klare Grenze. Installationen, Geheimnisse und Produktivveröffentlichungen sollten gesonderten Berechtigungen und Kontrollen unterliegen. Sicherheit entsteht sowohl durch das Modell als auch durch die Werkzeuge, an die es angeschlossen ist.

Originalquelle: Google Threat Intelligence Group, 8. September 2026. https://cloud.google.com/blog/topics/threat-intelligence/from-prompting-to-autonomy-the-evolution-of-adversarial-ai