KI-Sicherheit & Testing
Künstliche Intelligenz bringt nicht nur neue Möglichkeiten, sondern auch neue Angriffsflächen mit sich. Anders als klassische Software verhalten sich KI-Systeme dynamisch und nicht vollständig vorhersehbar. Genau das macht sie anfällig für gezielte Manipulation, ungewollte Modellverzerrungen und sicherheitsrelevante Schwächen in der Datenbasis oder Systemintegration.
Unsere besondere Stärke liegt in der Verbindung von klassischem Schwachstellenmanagement mit modernem KI-Testing.
Als offizieller Partner der Weltmarktführer in diesem Bereich verfügen wir über erprobte Werkzeuge und tiefgreifendes Know-how, um auch komplexe KI-Systeme systematisch auf Schwachstellen zu analysieren – vom Trainingsdatensatz bis zur Schnittstelle zur Produktivumgebung.
Unsere Expertise basiert nicht nur auf Praxiserfahrung, sondern auch auf der aktiven Mitgestaltung von Standards. So waren wir direkt beteiligt an der Erstellung eines Leitfadens für Penetrationstests von Large Language Models, der in Zusammenarbeit mit dem Bundesamt für Sicherheit in der Informationstechnik (BSI) entwickelt wurde (Veröffentlichung in Vorbereitung).
Wir simulieren reale Angriffsszenarien auf Machine-Learning-Modelle, prüfen die Robustheit gegen adversariale Eingaben und bewerten potenzielle Risiken wie Modell-Diebstahl, Data Poisoning oder unerwünschte Verhaltensänderungen durch Model Drift. Dabei denken wir nicht nur in Algorithmen, sondern immer auch in Gesamtsystemen.
Unsere Kunden profitieren von einer Sicherheitsarchitektur, die KI nicht als Sonderfall behandelt, sondern konsequent in bestehende Security- und Compliance-Strukturen integriert. Ob intern entwickelte Modelle oder Drittanbieter-KI – wir helfen dabei, Vertrauen und Transparenz in lernende Systeme zu bringen.