Der Einstieg in künstliche Intelligenz beginnt selten mit einem menschenähnlichen Roboter im Konferenzraum. Meist beginnt er mit einer deutlich nüchterneren Frage: Kann ein System eingehende Anfragen vorsortieren, lange Dokumente erschließen oder einen brauchbaren ersten Entwurf erstellen? Genau diese begrenzten Aufgaben sind ein guter Startpunkt.

Schwierig wird es, wenn „Wir müssen etwas mit KI machen“ das Ziel ersetzt. Dann werden Werkzeuge ausprobiert, ohne Daten, Verantwortung oder Qualitätsmaßstab zu klären. Ein erfolgreicher Pilot löst dagegen ein benanntes Problem, verwendet zulässige Daten, hält menschliche Kontrolle an der richtigen Stelle und lässt sich anhand realer Ergebnisse bewerten.

Kurz gesagt: Wähle einen häufigen, risikoarmen Anwendungsfall mit messbarem Nutzen. Prüfe Daten, Anbieter, Rechte und rechtliche Einordnung. Teste mit repräsentativen Fällen, dokumentiere Fehler und entscheide erst danach über eine breitere Einführung.

Vom Arbeitsproblem ausgehen

Sammelt Aufgaben, die viel Zeit benötigen oder regelmäßig Rückfragen verursachen. Beispiele sind die Suche in technischen Unterlagen, das Strukturieren von Gesprächsnotizen oder das Formulieren eines ersten Textentwurfs.

Beschreibt den heutigen Ablauf und seine Schwächen. Wie lange dauert er? Welche Qualität wird erwartet? Welche Fehler wären harmlos und welche hätten ernste Folgen?

Ein KI-System ist nur dann sinnvoll, wenn es im gesamten Ablauf einen Vorteil bringt. Eine schnelle Zusammenfassung spart nichts, wenn anschließend jede Aussage mühsam im Original gesucht werden muss.

Geeignete erste Anwendungsfälle erkennen

Gute Piloten sind klar begrenzt, häufig genug für einen Test und durch Menschen überprüfbar. Sie arbeiten idealerweise mit Daten, deren Nutzung geklärt ist, und treffen keine weitreichenden Entscheidungen über Personen.

Ein Entwurf für eine interne Produktbeschreibung ist risikoärmer als eine automatische Personalentscheidung. Eine Suchhilfe in freigegebenen Handbüchern ist überschaubarer als ein System, das eigenständig Verträge bewertet.

Beginnt mit Unterstützung statt vollständiger Automatisierung. Das Team gewinnt Erfahrung mit Stärken, Fehlern und notwendiger Kontrolle.

Nutzen konkret messbar machen

Legt vor dem Test fest, was besser werden soll: Bearbeitungszeit, Auffindbarkeit, Konsistenz, Reaktionszeit oder Zahl notwendiger Rückfragen.

Erhebt einen Ausgangswert mit echten Fällen. Bewertet später nicht nur Geschwindigkeit, sondern auch Korrekturen, Fehlentscheidungen und zusätzliche Prüfzeit.

Qualität benötigt klare Kriterien. Bei einer Zusammenfassung können Vollständigkeit, sachliche Richtigkeit, Quellenbezug und Verständlichkeit bewertet werden. „Klingt ziemlich gut“ ist kein belastbarer Maßstab.

Daten frühzeitig prüfen

Kläre, welche Informationen eingegeben, gespeichert und zur Verbesserung des Dienstes verwendet werden. Personenbezogene Daten, Geschäftsgeheimnisse, Kundendokumente und Quellcode dürfen nicht ungeprüft in öffentliche Werkzeuge gelangen.

Verwende im frühen Test synthetische, anonymisierte oder ausdrücklich freigegebene Daten. Datenminimierung reduziert Risiko und erleichtert die Bewertung.

Bestimme, welche Quellen maßgeblich sind und wie aktuell sie sein müssen. Ein Modell kann überzeugend formulieren, ohne auf dem richtigen Datenstand zu arbeiten.

Anbieter und Produktversion unterscheiden

Ein Herstellername allein beschreibt noch keinen Dienst. Kostenlose Oberfläche, Unternehmensvertrag, Programmierschnittstelle und lokal betriebenes Modell können unterschiedliche Datenverarbeitung und Funktionen haben.

Prüfe Vertrag, Speicherorte, Unterauftragnehmer, Löschung, Verwendung von Eingaben, Administrationsfunktionen, Protokollierung und Support. Halte die tatsächlich freigegebene Produktvariante fest.

Bewerte auch Export und Wechsel. Prompts, Wissensbestände, Bewertungen und Konfigurationen können später wichtige Unternehmenswerte sein.

Rechte und Rollen festlegen

Nicht jede Person benötigt Zugriff auf jedes Modell oder jeden verbundenen Datenbestand. Verknüpfe Berechtigungen mit Aufgaben und Schutzbedarf.

Administrationskonten erhalten Mehrfaktor-Authentisierung. Technische Schlüssel werden getrennt gespeichert, begrenzt und regelmäßig geprüft.

Definiere, wer neue Datenquellen anschließen, Systeme veröffentlichen und Kostenlimits ändern darf. Ein schnell gebauter interner Assistent kann sonst unbeabsichtigt vertrauliche Inhalte für zu viele Personen auffindbar machen.

Menschliche Kontrolle konkret beschreiben

„Ein Mensch prüft das“ ist noch kein Verfahren. Lege fest, wer prüft, welche Informationen vorliegen, welche Kriterien gelten und ob genug Zeit für eine echte Kontrolle vorhanden ist.

Bei Texten können Tatsachen, Zahlen, Namen und Quellen einzeln geprüft werden. Bei Klassifikationen sind Stichproben, Grenzfälle und Widerspruchsmöglichkeiten wichtig.

Die prüfende Person muss das Ergebnis ablehnen und korrigieren können. Wenn der Arbeitsdruck jede Ausgabe praktisch automatisch durchwinkt, ist die Kontrolle nur Dekoration.

Halluzinationen und überzeugende Fehler einplanen

Generative Systeme können plausible, aber falsche Angaben erzeugen. Formulierungsqualität darf nicht mit sachlicher Zuverlässigkeit verwechselt werden.

Bevorzuge Anwendungen, bei denen Aussagen auf überprüfbare interne Quellen verweisen. Eine Quellenangabe muss tatsächlich zum Inhalt passen; auch erfundene oder falsch interpretierte Referenzen sind möglich.

Für rechtliche, medizinische, finanzielle oder sicherheitskritische Inhalte braucht es besonders qualifizierte Prüfung. Manche Aufgaben sind für eine generative Lösung ungeeignet.

Verzerrungen systematisch untersuchen

Modelle können unterschiedliche Gruppen ungleich behandeln oder historische Verzerrungen fortführen. Teste repräsentative Namen, Sprachstile, Altersgruppen und weitere für den Anwendungsfall relevante Merkmale.

Dokumentiere Unterschiede und ihre Folgen. Ein durchschnittlich guter Wert kann schwerwiegende Fehler für eine kleinere Gruppe verdecken.

Bei Entscheidungen über Beschäftigung, Bildung, Kredite oder Zugang zu Leistungen ist eine frühe rechtliche und ethische Prüfung unverzichtbar.

Den AI Act risikobasiert einordnen

Die europäische KI-Verordnung unterscheidet verschiedene Risikostufen und Rollen. Pflichten hängen davon ab, ob ein Unternehmen Anbieter, Betreiber oder anderer Beteiligter ist und wofür das System eingesetzt wird.

Bestimmte Praktiken sind verboten; für einzelne Systeme gelten Transparenzpflichten und für Hochrisiko-Anwendungen umfangreichere Anforderungen. Die Regeln werden zeitlich gestuft angewendet und wurden weiterentwickelt.

Erstellt für jeden Einsatz eine dokumentierte Einordnung und lasst sie bei relevanten Fällen fachrechtlich prüfen. Eine allgemeine Aussage des Softwareanbieters ersetzt nicht die Bewertung des eigenen Zwecks und der konkreten Konfiguration.

Transparenz gegenüber Menschen gestalten

Seit August 2026 gelten nach Angaben der Europäischen Kommission bestimmte Transparenzanforderungen, etwa für direkte Interaktion mit KI und bestimmte erzeugte oder manipulierte Inhalte.

Unabhängig von der konkreten Pflicht ist klare Kommunikation oft sinnvoll. Kunden und Beschäftigte sollten verstehen, wann ein System beteiligt ist, was es tut und wie sie einen Menschen erreichen.

Kennzeichnungen müssen verständlich und sichtbar sein. Ein Hinweis tief in allgemeinen Bedingungen hilft in einer konkreten Interaktion wenig.

KI-Kompetenz praktisch aufbauen

Schulungen sollten nicht nur Prompt-Tipps vermitteln. Beschäftigte müssen Datenregeln, Fehlerarten, Prüfschritte, erlaubte Anwendungen und Meldewege kennen.

Verwendet Beispiele aus dem Betrieb. Lasst Teams eine gute und eine irreführende Ausgabe vergleichen und die zugrunde liegenden Quellen prüfen.

Führungskräfte benötigen zusätzlich Wissen über Risiken, Kosten und Verantwortung. Technische Teams allein können fachliche Auswirkungen nicht abschließend beurteilen.

Einen repräsentativen Testsatz bauen

Sammelt normale, schwierige und bewusst problematische Fälle. Ein Kundendienstpilot braucht etwa klare Fragen, unvollständige Angaben, Beschwerden, Mehrdeutigkeit und Inhalte außerhalb des vorgesehenen Bereichs.

Haltet erwartetes Ergebnis und Bewertungskriterien fest. Verändert den Testsatz nicht nach jedem schlechten Ergebnis so, dass das System am Ende zufällig gut aussieht.

Trennt Entwicklung und abschließende Bewertung. Ein zurückgehaltener Teil zeigt eher, wie die Lösung mit neuen Fällen umgeht.

Prompt und Konfiguration versionieren

Systemanweisungen, Vorlagen, Modellversion, Parameter und verbundene Wissensquellen beeinflussen Ergebnisse. Dokumentiere Änderungen und teste sie vor dem Einsatz.

Ein kleiner Satz im Prompt kann Ton oder Entscheidung stark verändern. Deshalb gehört Konfiguration nicht in ein persönliches Notizbuch, sondern in eine nachvollziehbare Verwaltung.

Plane auch Änderungen durch den Anbieter ein. Eine neue Modellversion kann Ergebnisse verbessern, aber zugleich bisherige Abläufe verändern.

Angriffe und Fehlgebrauch mitdenken

Eingaben können versuchen, Systemanweisungen zu umgehen oder vertrauliche Inhalte herauszulocken. Besonders Systeme, die Dokumente lesen oder Aktionen auslösen, benötigen begrenzte Rechte und Eingabeprüfung.

Behandle externe Dokumente und Webseiten als potenziell manipulierte Daten. Ein darin versteckter Befehl darf nicht automatisch interne Regeln überschreiben.

Begrenze Aktionen, Mengen und Kosten. Kritische Schritte wie Zahlung, Veröffentlichung oder Löschung benötigen eine bestätigte Freigabe.

Den Pilot kontrolliert betreiben

Starte mit einer kleinen Gruppe und begrenztem Datenbestand. Protokolliere Nutzung, Fehler, Korrekturen, Beschwerden und Kosten in angemessenem Umfang.

Richte einen einfachen Meldeweg ein. Beschäftigte sollten problematische Ausgaben markieren können, ohne einen langen technischen Bericht schreiben zu müssen.

Lege Abbruchkriterien fest. Wiederholte schwere Fehler, unzulässige Datenverarbeitung oder nicht beherrschbare Kosten sind Gründe, den Pilot zu stoppen und neu zu bewerten.

Wirtschaftlichkeit vollständig rechnen

Neben Lizenzen zählen Integration, Datenaufbereitung, Prüfung, Schulung, Überwachung und laufende Anpassung. Auch die Zeit für menschliche Kontrolle gehört in die Rechnung.

Modelle können verbrauchsabhängig kosten. Simuliere typische und hohe Nutzung, lange Dokumente und wiederholte Anfragen.

Bewerte den Nutzen im Gesamtprozess. Zehn Minuten schnellere Texterstellung sind kein Gewinn, wenn zwanzig Minuten zusätzliche Faktenprüfung entstehen.

Betriebsverantwortung auf Dauer organisieren

Jeder produktive Einsatz erhält fachlichen und technischen Eigentümer, dokumentierten Zweck, freigegebene Daten, Modellversion und Prüftermin.

Überwache Qualität, Kosten, Beschwerden, Sicherheitsmeldungen und Änderungen des Anbieters. Modelle können sich verändern, Datenbestände altern und Nutzer neue Einsatzweisen erfinden.

Führe ein Verzeichnis aller KI-Anwendungen, auch kleiner Assistenten und eingebauter Funktionen bestehender Software. Nur bekannte Systeme lassen sich sinnvoll steuern.

Vom Piloten zur breiten Nutzung

Erweitere erst, wenn Zielwerte erreicht, Fehler verstanden und Verantwortlichkeiten geklärt sind. Mehr Nutzer und mehr Daten erhöhen nicht nur Nutzen, sondern auch mögliche Auswirkungen.

Übertrage bewährte Regeln für Berechtigungen, Tests und Dokumentation. Prüfe dennoch jeden neuen Anwendungsfall eigenständig.

Kommuniziere klar, was freigegeben ist. Eine verständliche Positivliste ist hilfreicher als ein pauschales Verbot, das inoffizielle Nutzung wahrscheinlicher macht.

Dein nächster Schritt

Sammle fünf wiederkehrende Wissens- oder Textaufgaben. Bewerte sie nach Zeitaufwand, Prüfbarkeit, Datenrisiko und Fehlerfolge. Wähle einen risikoarmen Fall und erstelle zwanzig repräsentative Beispiele mit erwarteten Ergebnissen. Teste zwei Wochen lang mit einer kleinen Gruppe und miss Zeit, Korrekturen und schwere Fehler. Erst diese Daten entscheiden, ob aus dem Experiment ein betrieblicher Dienst wird.

Quellen und Prüfdatum

Geprüft am 21. September 2026 anhand der EU-Verordnung 2024/1689 über künstliche Intelligenz, der Übersicht der Europäischen Kommission zum AI Act, der Durchsetzungs-Zeitleiste und den Informationen des BSI zu künstlicher Intelligenz. Die rechtliche Einordnung hängt vom konkreten System, Zweck und der Rolle des Unternehmens ab und sollte bei relevanten Anwendungen fachkundig geprüft werden.