# KI und IT-Sicherheit im Unternehmen

> KI-Sicherheit für Unternehmen: Shadow AI, Prompt Injection, Agentenrechte, Datenabfluss, Audit-Logs und sichere lokale KI.

For AI agents: curated site map at [https://www.devolute.org/llms.txt](https://www.devolute.org/llms.txt). Canonical HTML (preferred for search engines): [https://www.devolute.org/de/themen/open-source/ki-it-sicherheit-unternehmen](https://www.devolute.org/de/themen/open-source/ki-it-sicherheit-unternehmen).

- Language: de
- Published: 2026-11-15
- Markdown URL: https://www.devolute.org/de/themen/open-source/ki-it-sicherheit-unternehmen.md

## KI-Sicherheit beginnt bei Identitäten, Datenwegen und Werkzeugrechten

Ein falscher Chattext ist ein Qualitätsproblem. Eine falsche Agentenaktion kann ein Sicherheitsvorfall sein.

Mit KI-Agenten verändert sich IT-Sicherheit: Das System liest nicht nur Text, sondern kann E-Mails versenden, Dateien ändern und APIs aufrufen. Aktuelle deutsche Such- und Fachdiskussionen konzentrieren sich deshalb auf **Shadow AI**, **Shadow Agents**, Prompt Injection, übermäßige Berechtigungen und fehlende Audit-Logs.

## Die wichtigsten KI-Sicherheitsrisiken

1. Private KI-Konten erhalten unkontrolliert Kunden- oder Beschäftigtendaten.
2. Manipulierte Dokumente oder Webseiten geben einem Agenten versteckte Anweisungen.
3. Agenten besitzen mehr Datei-, E-Mail- oder CRM-Rechte als ihre Aufgabe erfordert.
4. API-Schlüssel und Geheimnisse gelangen in Prompt, Log oder Kontext.
5. Aktionen lassen sich keinem Nutzer, Zweck und Agentenlauf zuordnen.

## Technische Kontrollen

Jeder Agent erhält eine eigene Identität, minimale und möglichst zeitlich begrenzte Rechte. Ausgehender Netzwerkverkehr folgt Default-Deny. Kritische Aktionen brauchen Freigaben, ein Kill-Switch beendet laufende Automatisierung, und Audit-Logs liegen außerhalb der Schreibrechte des Agenten.

Lokale KI reduziert Datenübertragungen, schützt aber nicht automatisch vor Prompt Injection oder einem zu mächtigen Werkzeug. Verbinden Sie [souveräne KI](/de/themen/open-source/souveraene-ki-kmu), [DSGVO-konforme Agenten](/de/themen/open-source/dsgvo-konforme-ki-agenten) und rollenbezogene [KI-Kompetenz](/de/themen/open-source/ki-fuehrerschein-ai-act).
