KI-Server Sicherheit: Lösungen und Konzepte für den sicheren Einsatz

Die künstliche Intelligenz ist überall auf dem Vormarsch. Immer mehr Unternehmen nutzen diese Technologie in verschiedensten Formen. Die damit verbundenen Risiken sind hingegen nicht immer bekannt. Welche Optionen haben Unternehmen, um sichere Systeme zu schaffen und die KI ohne Bedenken einzusetzen?

1 KI-Server – das unterscheidet sie von anderen Systemen und sorgt für potenzielle Gefahren

Server, die für Anwendungen mit KI genutzt werden, sind zunächst ganz normale Systeme. Sie sind vergleichbar mit Servern, die öffentliche Dienste bereitstellen und sind in aller Regel mit dem Internet verbunden. Das birgt bereits ein gewisses Gefahrenpotenzial. So gibt es hier die allgemeinen Angriffsflächen für Cyberbedrohungen wie DDoS-Attacken.

Die Unterschiede liegen hingegen bei der Datenverarbeitung der Anwendungen. Klassische Anwendungen auf Servern verhalten sich immer gleich und vorhersehbar. Sie arbeiten im Prinzip wie ein Taschenrechner. Wer zwei und zwei addiert, erhält immer vier als Ergebnis. Anwendungen mit künstlicher Intelligenz sind hingegen abhängig von den verknüpften Daten, Modellen und den Trainingsschemas. Gerade dieser Punkt bringt Gefahrenpotenzial mit, da eine Kontrolle nicht ohne Weiteres möglich ist.

Open-Source-KI und Datenmodelle bringen zusätzliche Risiken mit sich

Eine besondere Form von Bedrohungen ergeben sich in Kombination mit künstlicher Intelligenz, die auf Open Source basiert. Die KI trifft Entscheidungen auf Basis von Modellen und Trainingsdaten. Diese Trainingsdaten sind somit enorm wichtig und entscheiden, wie die künstliche Intelligenz agiert. Lässt sich die Integrität der Daten nicht schützen, sind die gesamten Ergebnisse der Anwendung gefährdet.

Die Manipulation von Trainingsdaten ist hier ein Szenario, das Systeme mit KI bedroht. Bei offenen Systemen, deren Quellcode verfügbar ist, gibt es faktisch keine Kontrolle, auf Basis welcher Modelle die KI ihre Entscheidung trifft. Frühe Sprachmodelle von ChatGPT wurden beispielsweise mit öffentlich zugänglichen Daten aus dem Internet trainiert, was die Ergebnisse der KI bestimmt.

AI Data Poisoning

Zu den Bedrohungen gehört die gezielte Manipulation von Trainingsdaten. Dies wird als AI Data Poisoning bezeichnet. Auf diesem Weg verändern Angreifer die Ergebnisse der künstlichen Intelligenz und beeinflussen somit die gesamte Arbeit mit diesen Anwendungen. Dies ist besonders beim Machine Learning und der generativen KI möglich. In der Praxis sind einige dieser Fälle populär geworden, wenn es darum ging, dass die Öffentlichkeit beim Training einer KI und eines Modells hilft. Gibt eine Mehrheit der Nutzer der KI bewusst falsches Feedback, trifft die KI basierend darauf in Zukunft falsche Entscheidungen.

AI Data Poisoning ist grundsätzlich bei allen Modellen möglich, die auf öffentlichen Trainingsdaten aufbauen. Diese Form von Angriffen wird auch als Adversarial Attack bezeichnet. Ein System für die automatische Bildererkennung könnte durch ein solches Data Poisoning dazu gebracht werden, Fotos von Katzen als Vögel zu klassifizieren. Durch die Datenmengen sind solche Sicherheitsvorfälle zudem extrem schwer aufzudecken. Das BSI weist ebenfalls darauf hin, dass für das Training von KI-Modellen enorme Datenmengen erforderlich sind. Zu den zentralen Herausforderungen gehört also, die Transparenz zu sichern.

Model Inversion – raffinierte Hacker nutzen spezifische Schwachstellen im Konzept

Model Inversion ist eine sehr spezifische und aufwendige Form von Cyberangriffen. Hierbei nutzen die Angreifer eine API oder andere offene Zugriffswege auf die KI, um gezielt vorbereitete Anfragen zu senden. Über eine große Menge an Anfragen, die einem spezifischen Muster folgen, gelingt es, anhand der Antworten die Modelle zu rekonstruieren, auf denen die künstliche Intelligenz aufbaut. Mit solchen gezielten Cyberangriffen können die originalen Daten in die Hände der Hacker fallen oder anderweitige Schlüsse gezogen werden, die kritische Informationen preisgeben. Auch diese Sicherheitsvorfälle sind schwer zu entdecken, da es sich nicht um direkte Cyberangriffe auf die eigene IT handelt.

2 Wie lassen sich KI-Systeme absichern?

Unternehmen haben verschiedene Optionen, um die Schwachstellen in Systemen mit KI zu schließen und so die Cybersicherheit zu verbessern. Da sind zunächst die grundlegenden Lösungen, um Angriffe über das Internet zu verhindern beziehungsweise zu erschweren. Zudem gibt es spezifische Herausforderungen bei KI-Systemen, um eine sichere Nutzung zu gewährleisten. Jedoch stehen Unternehmen mehrere Möglichkeiten offen, für mehr Sicherheit zu sorgen.

Zu diesen Optionen gehören die richtige Konfiguration der Firewall und der Einsatz von verschlüsselten Kommunikationskanälen. Die Einrichtung eines VPN, um einen geschützten Tunnel zwischen Unternehmen und dem Server mit den KI-Anwendungen zu schaffen, ist eine der ersten Optionen. Das sorgt für eine Verschlüsselung des Traffics mit sicheren Methoden wie SSH und macht es so für Angreifer ungleich schwerer, Informationen auf diesem Weg abzufangen. Außerdem ist so eine Verschleierung der IP-Adresse möglich, über die der Zugriff auf die künstliche Intelligenz erfolgt. Das macht es unmöglich, zu identifizieren, wer auf den Server mit der KI zugreift, selbst wenn dieser kompromittiert ist.

Schutz und Sicherheit der Server verbessern

Ein gutes Zugriffsmanagement als Teil der Cybersecurity ist heutzutage eine absolute Pflichtaufgabe. Auf diesem Weg sorgen Unternehmen direkt für mehr Sicherheit und minimieren die Risiken. Dabei geht die Entwicklung hin zu Technologien wie den rollenbasierten Zugriffskontrollen (RBAC). Der Einsatz von Rollen verhindert vor allem langfristig, dass unbemerkt Zugriffsrechte erhalten bleiben, die nicht mehr vorhanden sein sollen. Bei der Nutzung ist es zudem sinnvoll, den Login mit einer Multi-Faktor-Authentifizierung (MFA) zu versehen. Damit ist eine Anmeldung an ein zweites Gerät, wie das eigene Smartphone, gekoppelt. Das verhindert, dass Angriffe erfolgreich sind, bei denen das Passwort gestohlen wird.

Lösungen, die ebenfalls für mehr Sicherheit sorgen, sind Intrusion Detection und Prevention Systeme (IDS/IPS). Diese überwachsen permanent die Zugriffe und den Traffic auf die Server. Dieser Teil der IT-Security ist wichtig, um eine nachvollziehbare Kontrolle zu haben. Interessanterweise hat die Entwicklung dazu geführt, dass IDS und IPS ebenfalls künstliche Intelligenz bei der Erkennung von illegalen Aktivitäten einsetzen. So reagieren diese Systeme automatisch und sperren Zugriffe oder alarmieren die Verantwortlichen in Echtzeit, wenn verdächtige Vorgänge auftreten.

Sind die Daten in der Cloud gehostet oder laufen die Systeme auf Cloudservern, ist es wichtig, dass die Betreiber eine entsprechende Sicherheit bieten. Die Cloud-Security für KI-Anwendungen muss besonders hohe Standards erfüllen, um die Sicherheit der Plattformen zu gewährleisten. Anbieter in Deutschland wie TelemaxX erfüllen zudem die strengen Vorgaben der Europäischen Datenschutz-Grundverordnung (DSGVO).

Daten und Modelle anonymisieren

Zu den Herausforderungen beim Schutz von KI-Systemen gehört es, die Datensicherheit zu gewährleisten. Eine der wichtigsten Sicherheitsmaßnahmen, um die Daten hinter der künstlichen Intelligenz zu schützen, ist eine Anonymisierung oder Pseudonymisierung. Als Beispiel könnte hier ein KI-System für die Gesichtserkennung dienen. Sind die Trainingsdaten mit realen Personen und personenbezogenen Daten verknüpft, ist die Cybersicherheit dieser Informationen in Gefahr. Bei solchen Datenbanken und Trainingsdaten ist es also wichtig, vorab die Informationen zu anonymisieren.

An diesem Punkt spielt zudem die Europäische Datenschutz-Grundverordnung eine zentrale Rolle. Diese legt die Vorschriften für Unternehmen fest, in welchem Umfang eine Verarbeitung von personenbezogenen Daten erlaubt ist. Grundsätzlich gilt, dass eine Einwilligung oder berechtigtes Interesse vorliegen müssen. Dementsprechend wichtig ist es, diesen Punkt in die Compliance des eigenen Unternehmens aufzunehmen, um solche potenziellen Schwachstellen präventiv zu verhindern und gleichzeitig Datenschutzverletzungen vorzubeugen.

Hier mehr erfahren

3 Self Hosting oder Cloudserver – mehr Sicherheit und Kontrolle der künstlichen Intelligenz

Gerade beim Thema KI ist es eine interessante Option, wenn Unternehmen die benötigten Server selbst gehostet bereitstellen und so die Cybersicherheit verbessern. Lösungen On Premise sorgen dafür, dass mehr Kontrolle über die Anwendungen und Systeme besteht. So lassen sich die Server unabhängig vom Internet betreiben, zum Beispiel mit einer Netzwerksegmentierung, was die Sicherheit deutlich erhöht. Wichtig hierbei ist jedoch, darauf zu achten, dass die Infrastruktur die Anforderungen für die KI-Anwendungen wirklich erfüllt. Das betrifft sowohl die reine Leistungsfähigkeit als auch die Skalierbarkeit einer solchen Umgebung. Gerade KI-Anwendungen haben besondere und hohe Anforderungen. So müssen diese teilweise mit enormen Datenmengen umgehen. Dabei gilt es wie immer in der IT, die Entwicklung der Technologien in der nahen Zukunft zu berücksichtigen und ausreichend Reserven einzukalkulieren.

Eine gute Alternative ist es, auf ein spezielles KI-Hosting von IT-Dienstleistern wie TelemaxX auszuweichen. Zum einen lässt sich durch das Hosting in einem professionellen Rechenzentrum bereits die Sicherheit deutlich steigern, denn hier gelten sehr hohe Sicherheitsstandards. Zum anderen ist die Leistung dieser Infrastruktur speziell auf die Nutzung von Workloads mit künstlicher Intelligenz vorbereitet. So ist die Implementierung von Anwendungen und Technologien möglich, die für leistungsstarke GPUs entwickelt sind. Das steigert die Effizienz von KI-Anwendungen und ist die Basis für eine sichere Plattform, die sich gut vor Bedrohungen schützen lässt.