Teaserbild für den CRA Pentest von Limes Security

AI Threat Modeling

AI integrieren, ohne die Kontrolle abzugeben.

Agenten, MCP, Copilots: Wer AI einbaut, schafft neue Angriffswege. Wir zeigen, wie Sie diese architektonisch schließen.

herstellerneutrale Beratung

AI-spezifische Methodik

priorisierte Maßnahmen

Warum AI Threat Modeling?

KI-Anwendungen beschränken sich schon lange nicht mehr auf die simple Klassifikation von Daten oder das Führen von Chats. Moderne KI-basierte Software interagiert zunehmend autonom mit ihrer Umgebung und gestaltet diese aktiv mit. Aus reinen Modellen entsteht somit ein gesamtes Ökosystem mit einer Vielzahl an Datenquellen, Anwendungsschnittstellen und zunehmender Interaktion zwischen Agenten selbst. Was neue Möglichkeiten schafft, birgt zugleich jedoch auch das Potenzial für neue Risiken. Wissen Sie, wie groß dieses Potenzial bei Ihrer KI-Integration ist?

Im AI Threat Modeling Workshop analysieren wir gemeinsam Ihre KI-Anwendung und ihre Use Cases. Dabei betrachten wir Datenflüsse, Trust Boundaries, angebundene Tools und deren Berechtigungen sowie den Speicher der Anwendung. So werden mögliche Angriffspfade – etwa durch Prompt Injection oder überprivilegierte Agenten – frühzeitig sichtbar.

Sie erhalten konkrete Entscheidungsgrundlagen statt allgemeiner AI Governance. Die Beratung ist herstellerneutral und verbindet die Erfahrung aus 15 Jahren Cyber-Security-Beratung von Betreibern, Integratoren und Herstellern mit unserer intensiven Auseinandersetzung mit den Möglichkeiten und Folgen dieser neuen Technologien. Methodisch orientieren wir uns bei dem Workshop unter anderem an den OWASP LLM Top 10, OWASP Agentic Top 10, CSA MAESTRO und MITRE ATLAS.

AI-Threat-Modeling

UNVERBINDLICHES ERSTGESPRÄCH

Wir besprechen Ihre AI-Systeme, Integrationen und Ziele und grenzen den passenden Scope für den AI TRA / Architektur-Workshop gemeinsam ein.


Ergebnisse des AI TRA / Architektur-Workshops

AI Threat Model

Dokumentierte Assets, Vertrauensgrenzen, Angriffsszenarien und Risikobewertungen für die betrachteten AI-Systeme und Use Cases.

Architekturempfehlungen

Konkrete Kontrollpunkte und Designentscheidungen zur Begrenzung des Blast Radius sowie zur Absicherung konsequenzbehafteter Aktionen.

Priorisierter Maßnahmenplan

Nach Risiko und Umsetzbarkeit geordnete Maßnahmen als Grundlage für Entwicklung, Integration und sicheren Betrieb.

Defending what matters

In einer digitalisierten Welt schützen wir das, was Ihnen wichtig ist!