Anfang Juni sperrte Anthropic auf Anordnung der US-Regierung den Zugang zu seinem neuesten KI-Modell für bestimmte Behörden. Hintergrund war die Befürchtung, dass es einzelnen Akteuren gelungen sein könnte, die Sicherheitsmechanismen des Modells zu umgehen und es für illegale Zwecke zu nutzen [1].
In diesem Zusammenhang fiel immer wieder der Begriff Jailbreaking: der Versuch, Sicherheitsvorkehrungen eines KI-Modells durch geschickt formulierte Eingaben zu umgehen, um geschützte Informationen zu erhalten. Anders als bei einem Hackerangriff wird dabei keine technische Schwachstelle ausgenutzt, sondern gezielt die Art, wie Sprachmodelle Sprache verstehen und Anweisungen verarbeiten [2, 3, 4].
Relevanz für KMU
Viele KMU haben keine eigene IT-Sicherheitsabteilung, nutzen KI aber längst im Tagesgeschäft – etwa zur Datenanalyse oder über KI-Assistenten mit Zugriff auf Firmenwissen. Jailbreaking bedeutet nicht, dass Angreifende jederzeit uneingeschränkt an Daten kommen, zeigt aber, dass sich Sicherheitsmechanismen grundsätzlich umgehen lassen. Greifen KI-Agenten auf interne Wissensdatenbanken zu, gilt: Sensible Informationen sollten nur dort verfügbar sein, wo sie wirklich gebraucht werden [2, 3].
Und die Mitbestimmung?
Der Einsatz von KI im Betrieb ist nicht nur eine IT-Sicherheitsfrage, sondern auch eine Frage der Mitbestimmung. Systeme, die geeignet sind, das Verhalten oder die Leistung von Mitarbeitenden zu überwachen, unterliegen nach § 87 Abs. 1 Nr. 6 BetrVG der Mitbestimmung des Betriebsrats. Auch Regeln zum Umgang mit sensiblen Daten sollten dort, wo ein Betriebsrat besteht, gemeinsam mit ihm erarbeitet werden.
Nicht jeder Betrieb (insbesondere bei KMU) hat einen Betriebsrat oder ein vergleichbares Gremium.
In diesem Fall raten wir Unternehmen sich direkt an ihre Mitarbeiter:innen zu wenden und aktiv Feedback einzuholen. Es sollte frühzeitig und offen kommuniziert werden, welche KI-Tools genutzt werden sollen.
Lässt sich Jailbreaking komplett verhindern?
Die ehrliche Antwort: Nein, zumindest nicht vollständig. KI-Anbieter arbeiten kontinuierlich daran, ihre Modelle robuster zu machen, und auch die KI-Verordnung verpflichtet sie dazu. Einen hundertprozentigen Schutz gibt es aktuell trotzdem nicht [3] – das ist keine Schwäche einzelner Anbieter, sondern eine Eigenschaft der Technologie selbst.
Was können Betriebe konkret tun?
- Klare Regeln aufstellen: Festlegen, welche Informationen in öffentliche KI-Systeme eingegeben werden dürfen – idealerweise mit dem Betriebsrat, ansonsten direkt mit den Mitarbeitenden abgestimmt.
- Mitarbeitende sensibilisieren: Wer weiß, dass auch moderne Sprachmodelle keine vollständig geschlossenen Systeme sind, geht automatisch vorsichtiger mit sensiblen Daten um.
- Datenzugriff gezielt einschränken: Nicht jede KI-Anwendung braucht Zugriff auf sämtliche Unternehmensinformationen. Je gezielter Daten freigegeben werden, desto geringer das Risiko im Fall einer Sicherheitslücke [2, 3].
Diese Punkte lassen sich mit wenig Aufwand umsetzen – unabhängig davon, ob ein Betriebsrat existiert.
Zwischen Innovation und Verantwortung
Jailbreaking zeigt, dass KI-Systeme trotz Sicherheitsmechanismen nicht unfehlbar sind. Das ist kein Grund, auf KI zu verzichten, macht aber den verantwortungsvollen – und mitbestimmten – Einsatz umso wichtiger [2, 3].
Sie sind sich unsicher, wie es in Ihrem Betrieb um den sicheren, menschenzentrierten Umgang mit KI steht? Gerne unterstützen wir Sie dabei, eine praxisnahe, menschenzentrierte KI-Richtlinie zu entwickeln und Ihr Team dafür zu sensibilisieren – sprechen Sie uns einfach an.
Quellen
- Science Media Center Germany. (2026). Anordnung der US-Regierung: Anthropic schränkt Zugang zu neuen KI-Modellen ein. https://www.sciencemediacenter.de/angebote/anordnung-der-us-regierung-anthropic-schraenkt-zugang-zu-neuen-ki-modellen-ein-26149
︎ - IBM. (o. D.). AI Jailbreak: Was ist ein KI-Jailbreak? https://www.ibm.com/de-de/think/insights/ai-jailbreak ︎
- Teichmann, F. (2026). Generative AI Jailbreaks: Ethical, Societal and Legal Implications. International Cybersecurity Law Review, 7, 187–204. https://doi.org/10.1365/s43439-026-00171-x
︎ - Deutschlandfunk. (2025). KI-Jailbreaks: Wie sicher sind Chatbots? https://www.deutschlandfunk.de/ki-jailbreaks-chatbot-sicherheit-100.html ︎
Das Beitragsbild wurde mit KI generiert.