Forscher der Carnegie Mellon University haben gemeinsam mit dem KI-Unternehmen Anthropic gezeigt, dass große Sprachmodelle (LLMs) eigenständig komplexe Cyberangriffe planen und ausführen können. Ihre Studie replizierte 2017 den Datenhack bei Equifax in einer kontrollierten Umgebung und demonstrierte, dass KI ohne menschliches Eingreifen Schwachstellen finden, Exploits einsetzen, Malware installieren und Daten abziehen kann.
Der Equifax-Hack von 2017 zählt zu den größten Datenpannen in der US-Geschichte und betraf etwa 147 Millionen Kunden. Das Carnegie Mellon-Team entwickelte ein spezielles Toolkit namens Incalmo, das vom KI-System generierte strategische Angriffspläne in konkrete Systembefehle übersetzt. Die KI fungiert dabei als Stratege und plant die Angriffsabläufe, während spezialisierte Agenten Aufgaben wie Netzwerk-Scans und Exploit-Einsätze übernehmen.
In Tests gelang es der KI in etwa 90% der Versuche, den Cyberangriff teilweise oder vollständig in unternehmensähnlichen Umgebungen durchzuführen, was die wachsende Bedrohung durch autonome KI-gesteuerte Cyberangriffe verdeutlicht. Die Forschung zeigt, wie KI-Systeme in Maschinengeschwindigkeit menschliche Hacker nachahmen können, ohne menschliche Steuerung zu benötigen, was erhebliche Herausforderungen für die Cybersicherheit mit sich bringt.