5 Tipps für mehr Sicherheit im KI-Zeitalter

Eine gezielte Anpassung der Sicherheitslandschaft in Unternehmen an die neue Situation ist dringend erforderlich, sowohl im Rahmen der Verwendung von GenAI im Unternehmen als auch bei der Abwehr von KI-gestützten Angriffen von außen. Um den KI-Einsatz verantwortungsvoll, zuverlässig und sicher zu gestalten, aber auch um eine angriffsresistente IT-Landschaft zu gewährleisten, ist die Weiterentwicklung bestehender, traditioneller Sicherheitsstrategien unabdingbar. Dafür sollten folgende fünf Grundvoraussetzungen geschaffen werden.

1. KI-Governance

Um eine effektive und zielgerichtete Steuerung des Einsatzes von KI zu ermöglichen, muss zunächst das Sicherheitsmanagement um neue Anforderungen erweitert werden. Standardrahmenwerke wie ISO42001NIST.AI.100-2 als Teil des NIST KI-Rahmenwerks, BSI AIC4 Kriterienkatalog und die OWASP-Checklisten für sichere KI sind eine sehr gute Basis, um die entsprechenden KI-Policies im Unternehmen zu etablieren und daraus die notwendigen technischen und organisatorischen Maßnahmen abzuleiten.

Darüber hinaus ist es erforderlich, ein KI-Steuerungsgremium zu etablieren und entsprechende Informations- und Kommunikationsprozesse zu definieren sowie deren Durchsetzungsfähigkeit sicherzustellen. Dabei sollten neben den für eine Entscheidungsfindung notwendigen Verantwortlichen auch interne KI-Anbieter und -Anwender, Sicherheits- und Datenschutzbeauftragte, Risikomanager, die Rechtsabteilung, Personalverantwortliche, gegebenenfalls Interessenvertretungen sowie Compliance-Verantwortliche eingebunden werden.