02.04.2024

Datenschutz trifft Künstliche Intelligenz: Sicherheitsstrategien für die KI-gestützte Unternehmenswelt

KI hilft den Mitarbeitenden, mehr aus ihrer Arbeitsleistung und den Unternehmensdaten herauszuholen, aber was ist mit der Datensicherheit? Erfahren Sie alles Wichtige zu richtig angewandten Maßnahmen, um den vollen Mehrwert von KI zu nutzen.

Wie jeder von uns nehme ich den KI-Hype wahr, der mit der großen ChatGPT-Welle auch die Unternehmenswelt erreicht hat: Künstliche Intelligenz kann durch Unterstützung der Nutzer:innen einen Mehrwert schaffen, um das Arbeiten zu erleichtern und zu beschleunigen. Ebenso hat Microsoft diesen Trend erkannt und mit Microsoft 365 Copilot eine KI für den Unternehmenseinsatz auf Basis der Microsoft 365 Daten entwickelt. 

Als langjähriger Experte für Informations- und Datensicherheit war es für mich daher notwendig, zu analysieren, was der Einsatz für die bestehenden Sicherheitsarchitekturen und Konzepte bedeutet, ob Auswirkungen auf die Informationssicherheit existieren oder Konzepte angepasst werden müssen. 

Daten als Schlüsselelement

Das KI-Schlüsselelement sind dabei die Daten, die auch als Big Data bezeichnet werden: Nur durch maschinelles Auswerten (Machine Learning) möglichst aller Daten können mittels Analysen entsprechende Mehrwerte erzeugt werden. Die Künstliche Intelligenz kann dann daraus Handlungsempfehlungen ableiten, um gewünschte Ergebnisse zu interpretieren. Genau diese Datenbasis muss aber weiterhin den gewohnten Zugriffsbeschränkungen unterliegen. Auch bei KI-Einsatz darf nur jeder das sehen, wofür er oder sie berechtigt ist. Zusätzlich gilt für diesen Datenpool, dass die Daten darin verschlüsselt sein müssen, ohne dass die Performance der Analyse durch Latenzen beeinträchtigt wird. 

Vertraulichkeit und Integrität müssen gewährleistet sein

Zudem gelten weiterhin die Schutzziele der Informationssicherheit, Vertraulichkeit und Integrität: Ein Zugriff auf die Daten von nicht berechtigten Personen muss verhindert werden (Vertraulichkeit) und die Daten dürfen nicht ungewollt verändert werden (Integrität). Bei Copilot ist dies über die Microsoft Architektur und die Graph-API sichergestellt, die weiterhin dem bisherigen Berechtigungskonzept folgt. Bei eigener KI-Entwicklung muss die KI-Infrastruktur jedoch nach aktuellen Architekturvorgaben selbst konzipiert werden. 

Meiner Erfahrung nach befinden sich die Daten innerhalb eines Unternehmens nicht an einer zentralen Stelle, sondern sind verteilt auf die gesamte Infrastruktur. In der Folge muss eine Dateninfrastruktur geschaffen werden, in der diese Daten aggregiert zur Analyse bereitgestellt werden. Dafür bieten sich moderne Kubernetes-Cluster-Infrastrukturen an, da diese auch die notwendigen API-Verbindungen bereitstellen, um einen konstanten Datenfluss zu ermöglichen, der die Datenveränderungen im Unternehmen widerspiegelt. 

Zero-Trust, Least Privilege und Last Need to Know

Für die Sicherheitsarchitektur dieses Clusters empfehle ich den Vorgaben der Zero-Trust-Architektur sowie von „Least Privilege“ und „Last Need to Know“ zu folgen. In einer kurzen Zusammenfassung bedeuten diese drei Leitlinien: Eine Zugriffsverifizierung muss zu jedem Zeitpunkt erfolgen, es werden nur minimale Berechtigungen vergeben und man sieht nur das, was man sehen soll. 

Das Design der innerhalb des Clusters eingesetzten Analyse-Algorithmen (meist Shallow Learning – Deep Learning bei Generative AI) kann außerhalb des Clusters von Entwicklern durchgeführt werden, um dann reglementiert überführt zu werden. Anpassungen der ML/KI-Algorithmen dienen der Verbesserung der Dateninterpretation, um exaktere Ergebnisse zu erzeugen: Den Zusammenhang zwischen den Informationen in den richtigen Kontext zu setzen, ist die große Herausforderung der Künstlichen Intelligenz. 

Mit dieser Herangehensweise und veränderten, modernen Architekturkonzepten lässt sich für mich der KI-Mehrwert für alle nutzbar machen. Darin sehe ich auch eine große Möglichkeit für die Unternehmen: Die IT-Infrastruktur wird neu und sicherer gedacht, konzipiert und auf zukünftige Herausforderungen vorbereitet, während dadurch gleichzeitig der KI-Einsatz einen Vorteil für die Mitarbeitenden schafft. Somit ist die Informationssicherheit nicht nur im Hintergrund vorhanden, sondern auch fühlbar bei der Unternehmensentwicklung. Diesen Gedanken finde ich großartig.  

Autor

Maximilian Pecha

Manager - Information Security • Modern Security, Communication & Platforms