Künstliche Intelligenz (KI) wird in kleinen und mittleren Unternehmen (KMU) zunehmend zur Automatisierung von Lead-, Formular- und Support-Prozessen eingesetzt. Dabei ist es essenziell, Risiken wie das unbeabsichtigte Offenlegen persönlicher Daten, Prompt Injection oder toxische Inhalte zu minimieren. Dieser Artikel beschreibt, wie KMU automatische Schutzmechanismen – sogenannte AI-Guardrails – implementieren können, um ihre KI-Ausgaben systematisch auf diese Gefahren zu prüfen und so Sicherheit in CRM- und Automatisierungs-Workflows zu gewährleisten.
Risiken bei KI-gestützten Lead- und Support-Prozessen
Die Verwendung von KI in Kundenkontaktpunkten birgt spezifische Risiken:
- Prompt Injection: Manipulationen an Eingaben, die KI-Modelle zu unerwünschtem Verhalten verleiten. Besonders kritisch ist auch die indirekte Prompt Injection über externe Datenquellen, die ein Modell beeinflussen können.
- Persönlich identifizierbare Informationen (PII): Sensible Daten wie Namen, Adressen oder Kontaktinformationen dürfen nicht unkontrolliert weitergegeben oder enthüllt werden.
- Toxische oder policy-widrige Inhalte: Inhalte, die beleidigend, diskriminierend oder rechtlich bedenklich sind, müssen erkannt und blockiert werden.
Die National Institute of Standards and Technology (NIST) hat Prompt Injection als ernsthaftes Sicherheitsrisiko für Generative AI und Large Language Models identifiziert und empfiehlt, diesen Angriffen mit gezielten Schutzmaßnahmen zu begegnen (NIST GenAI Profil).
Architekturempfehlungen für AI-Guardrails in KMU-Workflows
OWASP empfiehlt, Guardrails an drei zentralen Stellen einzurichten: vor der Verarbeitung der Nutzereingabe (Input), vor der Ausgabe an den Nutzer (Output) und bei der Ausführung von Aktionen oder Tool-Aufrufen (Aktion/Tool-Call). Dies hilft, Manipulationen frühzeitig zu erkennen und schadhafte Antworten zu verhindern.
Die KI-Systeme sollten nicht nur direkte Benutzereingaben prüfen, sondern auch zwischengeschaltete Inhalte aus externen Quellen, z. B. Dokumente, Webseiten oder E-Mail-Daten, die für Knowledge Retrieval und Automated Reasoning verwendet werden.
Guardrail-Komponenten nach Schutzzielen
Schutz vor Prompt Injection
Mehrere Anbieter wie OpenAI, Microsoft Azure und Amazon AWS bieten APIs und Frameworks, die Prompt Injection erkennen und blockieren. OpenAI setzt auf eine mehrstufige Pipeline zur Prüfung vor und nach Tool-Aufrufen, um sicherzustellen, dass nur zulässige und thematisch passende Daten verarbeitet werden.
Microsoft dokumentiert mit „Prompt Shields“ explizit einen Schutz auch vor indirekten Injection-Angriffen, die z. B. in Support-Chatbots auftreten können (Microsoft Azure Prompt Shields).
Erkennung und Maskierung von PII
Das Blockieren oder Maskieren von PII basiert auf Textanalysen, ergänzt durch individuelle Muster (Regex). Amazon Bedrock Guardrails und OpenAI Guardrails können PII in Prompts und Modellantworten filtern, wobei es Einschränkungen bei der Analyse von Tool-Ausgaben geben kann.
Google Sensitive Data Protection bietet eine wichtige Funktion, indem es PII auch in On-Premises- oder Hybrid-Cloud-Szenarien respektiert und Inhalte lokal behandelt, ohne Daten dauerhaft außerhalb des Unternehmens zu speichern (Google Sensitive Data Protection).
Prüfung auf toxische oder policy-verletzende Inhalte
OpenAI stellt kostenfreie Moderations-APIs bereit, die auf Kategorien wie Belästigung, Hass, sexuelle Inhalte oder Gewalt prüfen und mit Scores zurückmelden. Google Model Armor hat ebenfalls eine Schutzschicht für toxische Eingaben und Ausgaben, die schrittweise verbessert wurde und zunächst im „Inspect only“-Modus betrieben werden kann, um Fehlalarme zu minimieren.
Praxisnahe Umsetzung im KMU-Kontext
Kleine Unternehmen, die KI in CRM, Lead-Generierung oder Support nutzen, sollten Guardrails modular und automatisiert in ihre bestehenden Workflows integrieren. Folgende Ansätze sind praxisrelevant:
- Vorprozessierende Prüfungen durch APIs, etwa Google Content Inspect oder OpenAI-Guardrails, um Eingaben zu analysieren und problematische Inhalte zu maskieren oder zu blockieren.
- Mehrstufige Prüfungen bei der KI-Antwort, inklusive Validierung von Tool-Calls und Ausgabeinhalten, um Datenlecks und Fehlentscheidungen zu vermeiden.
- Logging und Monitoring in einem „Inspect only“-Modus, um die Filterregeln an Geschäftsprozesse anzupassen und Fehlalarme zu minimieren.
- Individuelle Anpassung mit benutzerdefinierten Filtern und regulären Ausdrücken für branchenspezifische Anforderungen.
„Guardrails sollten als integraler Bestandteil automatisierter KI-Prozesse gesehen werden, um Sicherheit und Compliance in kundenorientierten Workflows zu gewährleisten.“
Eine einheitliche Best-Practice-Architektur für KMU, die alle Aspekte abdeckt, ist in offiziellen Quellen zwar noch nicht umfassend definiert. Die einzelnen Bausteine und technischen Mechanismen sind jedoch verfügbar und erlauben eine flexible und sichere Implementierung.
Quellen: nist.gov, owasp.org, docs.aws.amazon.com, docs.cloud.google.com, docs.cloud.google.com/model-armor, learn.microsoft.com, openai.github.io