# ChatGPT im Unternehmen sicher einsetzen

> Wie setzen mittelständische Unternehmen ChatGPT sicher ein? Praktische Anleitung zu Konto, Vertrag, Richtlinie und Schulung – mit Stand 2026.

Quelle: https://www.ki-automatisierung-mittelstand.de/ratgeber/chatgpt-im-unternehmen-sicher-einsetzen/
Zuletzt geprüft: 2026-08-05

- [Start](https://www.ki-automatisierung-mittelstand.de/)
- [Ratgeber](https://www.ki-automatisierung-mittelstand.de/ratgeber/)
- ChatGPT sicher einsetzen

Ratgeber

# ChatGPT im Unternehmen sicher einsetzen

ChatGPT sicher im Unternehmen zu nutzen ist machbar – wenn Sie vier Dinge richtig aufsetzen: Konto, Vertrag, Richtlinie und Schulung.

Von [Christoph Herting](https://www.ki-automatisierung-mittelstand.de/autoren/christoph-herting/), Geschäftsführer, KI-Beratung Deutschland · Veröffentlicht am 8. April 2026 · Zuletzt geprüft am 5. August 2026

Datenstand: August 2026

## Kurz und ehrlich

Setzen Sie auf ChatGPT Enterprise oder Team mit AVV, schalten Sie Modelltraining aus, definieren Sie in einer 2-Seiten-Richtlinie was rein darf und was nicht, und schulen Sie alle Mitarbeitenden einmal pro Jahr. Dann ist ChatGPT im Mittelstand sicher einsetzbar – und ein massiver Produktivitätshebel.

Inhalt dieses Artikels

- [1. Konto: Enterprise oder Team statt Privat](#konto)
- [2. Vertrag: AVV und Konfiguration](#vertrag)
- [3. Richtlinie: Was darf in den Prompt?](#richtlinie)
- [4. Schulung: Pflicht nach EU AI Act](#schulung)
- [Wann eine Alternative sinnvoll ist](#alternativen)

## 1. Konto: Enterprise oder Team statt Privat

Die meisten Probleme beginnen mit privaten ChatGPT-Konten. Sie sind weder vertraglich noch technisch für Unternehmensdaten geeignet. ChatGPT Enterprise oder Team bietet zentrale Nutzerverwaltung, dokumentierte Datenverarbeitung, deaktiviertes Modelltraining und EU-Datenresidenz auf Wunsch.

## 2. Vertrag: AVV und Konfiguration

Schließen Sie einen Auftragsverarbeitungsvertrag (AVV) mit OpenAI ab und prüfen Sie die [aktuellen Enterprise-Privacy-Bedingungen](https://openai.com/enterprise-privacy/). Stellen Sie EU-Datenresidenz und Zero-Retention ein. Dokumentieren Sie diese Schritte im Verzeichnis von Verarbeitungstätigkeiten gemäß [Art. 30 DSGVO](https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX%3A32016R0679). Bei sensiblen Daten ergänzen Sie eine DSFA nach Art. 35 DSGVO.

## 3. Richtlinie: Was darf in den Prompt?

Eine kurze, klare KI-Richtlinie ist Pflicht. Sie definiert:

- Erlaubte Use Cases (z. B. Texten, Übersetzen, Recherche)

- Verbotene Inhalte (Personendaten ohne Anonymisierung, Geschäftsgeheimnisse, Verträge ohne Pseudonymisierung)

- Pflichten der Mitarbeitenden (menschliche Prüfung, Quellenangabe bei externer Verwendung)

- Meldewege bei Fehlern oder Auffälligkeiten

Wir stellen auf Anfrage eine 2-seitige Muster-Richtlinie zur Verfügung.

## 4. Schulung: Pflicht nach EU AI Act

Seit Februar 2025 sind Unternehmen verpflichtet, KI-Kompetenz sicherzustellen (Art. 4 EU AI Act). Konkret heißt das: jede Person, die ChatGPT oder andere KI im Auftrag des Unternehmens nutzt, braucht eine angemessene Schulung – mit Nachweis. Unsere [KI-Kompetenz-Schulung](https://www.ki-automatisierung-mittelstand.de/ki-kompetenz-ai-act-mittelstand/) erfüllt diese Anforderung.

## Wann eine Alternative sinnvoll ist

Für eng abgegrenzte, wiederkehrende Aufgaben mit Zugriff auf interne Dokumente ist ein [Unternehmens-GPT](https://www.ki-automatisierung-mittelstand.de/unternehmens-gpt-mittelstand/) oft die bessere Wahl. Es kombiniert ChatGPT-ähnliche Bedienung mit Zugriff auf Ihre internen Quellen, klaren Rechten und vollem Audit-Log. Damit dabei nichts nach außen dringt, sollten Sie vorab klären, wie sich [Firmendaten sicher für KI trainieren](https://www.ki-automatisierung-mittelstand.de/firmendaten-ki-sicher-trainieren/) lassen.

Neben OpenAI gibt es weitere Optionen. Einen neutralen Überblick, welche [KI-Anbieter für die KMU-Automatisierung](https://www.ki-automatisierung-mittelstand.de/ki-anbieter-kmu-automatisierung/) infrage kommen, hilft bei der Entscheidung zwischen ChatGPT, Copilot und Alternativen.

Häufige Fragen

## Antworten auf die wichtigsten Fragen

**Dürfen wir Kundendaten in ChatGPT eingeben?**

Pauschal nein – im Einzelfall ja, wenn Sie ChatGPT Enterprise/Team mit AVV und Zero-Retention nutzen, eine klare Rechtsgrundlage haben und die Eingabe zur Aufgabe erforderlich ist. Sensible Daten sollten pseudonymisiert werden.

**Was machen wir mit Mitarbeitenden, die schon private ChatGPT-Konten nutzen?**

Bieten Sie eine offizielle Alternative an, kommunizieren Sie klar und schalten Sie das Thema in der nächsten Schulung an. Verbote ohne Alternative wirken kaum.

**Wie hoch sind die Kosten?**

ChatGPT Team kostet rund 25–30 €/Benutzer/Monat, Enterprise individuell. Für die meisten Mittelständler ist Team der pragmatische Einstieg.

Quellen

## Quellen & weiterführende Informationen

- [Enterprise Privacy & Datenverarbeitung (ChatGPT Enterprise, Team, API)](https://openai.com/enterprise-privacy/) OpenAI
- [Verordnung (EU) 2016/679 – DSGVO, insb. Art. 28 (AVV) und Art. 30 (VVT)](https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX%3A32016R0679) EUR-Lex
- [Künstliche Intelligenz – Empfehlungen zur sicheren Nutzung von LLM](https://www.bsi.bund.de/DE/Themen/Unternehmen-und-Organisationen/Informationen-und-Empfehlungen/Kuenstliche-Intelligenz/kuenstliche-intelligenz_node.html) BSI
- [Hinweise zum Einsatz von KI-Anwendungen wie ChatGPT](https://www.bfdi.bund.de/DE/Fachthemen/Inhalte/Technik/KI.html) BfDI

Im Netzwerk von KI-Beratung Deutschland

## Weiterführende Angebote im Netzwerk

- [Unternehmens-GPT & Chatbot](https://www.ki-beratung-deutschland.de/unternehmens-gpt-chatbot)
- [Artikel: DSGVO & ChatGPT](https://www.ki-beratung-deutschland.de/news/dsgvo-und-chatgpt-was-unternehmen-beachten-muessen)
- [Glossar: Prompt Engineering](https://www.ki-beratung-deutschland.de/glossar/prompt-engineering)
- [Glossar: Halluzination](https://www.ki-beratung-deutschland.de/glossar/halluzination)

Weiterführend

## Passende Themen

[Unternehmens-GPT Wenn Sie Zugriff auf eigene Quellen brauchen](https://www.ki-automatisierung-mittelstand.de/unternehmens-gpt-mittelstand/)
[Ratgeber: DSGVO & KI-Tools Übersicht aller gängigen Tools](https://www.ki-automatisierung-mittelstand.de/ratgeber/dsgvo-ki-tools-mittelstand/)
[Ratgeber: EU AI Act Risikoklassen, Fristen, Pflichten](https://www.ki-automatisierung-mittelstand.de/ratgeber/eu-ai-act-mittelstand/)
[KI-Kompetenz nach EU AI Act Schulungsprogramm](https://www.ki-automatisierung-mittelstand.de/ki-kompetenz-ai-act-mittelstand/)

## Bereit für KI-Automatisierung mit klarem ROI?

Im 30-minütigen Erstgespräch identifizieren wir die zwei bis drei Prozesse mit dem größten Hebel in Ihrem Unternehmen – inklusive Aufwand, Nutzen und konkretem Fahrplan.

[Erstgespräch vereinbaren](https://cal.com/ki-beratung-deutschland-7wpx1v/30min)

[Schreiben Sie uns](https://www.ki-automatisierung-mittelstand.de/kontakt/)
