KI im Unternehmen: Wo fange ich als Chef an?

Henrik Kurz vorweg: Alles, was wir heute sagen, hat die Redaktion von hagel IT recherchiert und geprüft.

Ole Ich bin Ole und führe eine Spedition in Hamburg mit 120 Leuten. Alle reden über KI, und ich weiß nicht, wo ich als Chef anfangen soll.

Henrik Ich bin Henrik und begleite KI-Vorhaben im Mittelstand. Nach dieser Folge haben Sie drei Einstiege mit schnellem Nutzen und eine Regel, wie Sie den richtigen auswählen.

Ole Bin ich eigentlich spät dran? Oder warten die anderen auch noch ab?

Henrik Das Statistische Bundesamt hat für 2025 gemessen: 36 Prozent der Unternehmen mit 50 bis 249 Beschäftigten nutzen KI. Bei Firmen ab 250 Beschäftigten sind es 57 Prozent.

Ole Also gut jedes dritte Unternehmen in meiner Größe. Gibt es neuere Zahlen?

Henrik Bitkom hat im Sommer 2026 Firmen ab 20 Beschäftigten befragt: 57 Prozent setzen KI ein, nur noch 4 Prozent halten sie für kein Thema. Ein Jahr vorher lag der Anteil der Nutzer bei 36 Prozent.

Ole Dann ist die Frage nicht mehr ob, sondern wie. Woran hängen die, die noch nicht angefangen haben?

Henrik Bei Bitkom nennen 85 Prozent der Nichtnutzer fehlendes technisches Wissen als Hemmnis. 63 Prozent sagen, die Kosten seien schwer kalkulierbar.

Ole Genau da stehe ich. Ich will wissen, was es bringt, was es kostet und was schiefgehen kann.

Henrik Darum gehen wir drei typische Fälle durch. Erst den Pilot, der versandet, dann die Datenpanne mit Ansage, dann das Projekt, das niemand misst.

Ole Wie sieht so ein versandeter Pilot aus?

Henrik Ein typischer Fall: Die Geschäftsführung kauft zwanzig Lizenzen und verteilt sie an Freiwillige. Nach drei Monaten nutzen vier Leute das Werkzeug, und niemand kann sagen, was es gebracht hat.

Ole Das könnte bei mir genauso laufen. Wo liegt der Fehler?

Henrik Es gab ein Werkzeug, aber kein Ziel. Starten Sie mit einer Aufgabe, nicht mit einer Lizenz.

Ole Welche Aufgabe denn? Ich habe Disposition, Vertrieb, Buchhaltung und Lager.

Henrik Bewerten Sie jede Aufgabe mit drei Fragen. Wie oft kommt sie vor, wie lange dauert sie jedes Mal, und wie groß ist der Schaden, wenn die KI danebenliegt?

Ole Also Häufigkeit mal Zeitaufwand mal Risiko. Machen Sie es mir an einem Beispiel fest.

Henrik Ein Angebot für eine Spotladung schreibt Ihr Vertrieb vielleicht zwanzigmal am Tag, je zehn Minuten. Ein Fehler fällt beim Gegenlesen auf, das Risiko ist also gering.

Henrik Eine Zollanmeldung kommt seltener vor, aber ein Fehler kostet richtig Geld. Die gehört nicht an den Anfang.

Ole Häufig, zeitfressend und harmlos zuerst. Welche Einstiege erfüllen das typischerweise?

Henrik Drei Einstiege tauchen immer wieder auf. Der erste sind Texte: E-Mails, Angebote und Zusammenfassungen von Besprechungen, etwa mit Microsoft Copilot oder ChatGPT Enterprise.

Ole Was bedeutet Enterprise in diesem Fall?

Henrik Das ist die Firmenfassung von ChatGPT: Die IT verwaltet sie zentral, angemeldet wird mit dem Firmenkonto. Copilot ist das Gegenstück von Microsoft und arbeitet direkt in Outlook, Word und Teams.

Ole Woran entscheide ich, welches von beiden?

Henrik Arbeiten Ihre Leute ohnehin den ganzen Tag in Outlook und Word, liegt Copilot nahe. Brauchen Sie vor allem längere Texte und Recherche, lohnt der Vergleich mit ChatGPT Enterprise.

Ole Und der zweite Einstieg?

Henrik Die Wissenssuche in eigenen Dokumenten. Ein Disponent fragt, welche Ladezeiten mit einem Kunden vereinbart sind, und bekommt die Antwort samt Fundstelle im Vertrag.

Ole Statt den Kollegen zu suchen, der den Vertrag vor fünf Jahren verhandelt hat.

Henrik So ist es, und zwar mit Beleg. Eine gute Wissenssuche zeigt die Fundstelle an, der Disponent klickt darauf und liest den Vertragstext selbst.

Ole Und wenn die Antwort trotzdem falsch ist?

Henrik Dann sieht er es an der Fundstelle. Laut Bitkom setzen inzwischen 22 Prozent der KI-nutzenden Firmen sie im internen Wissensmanagement ein, der Anteil hat sich gegenüber dem Vorjahr verdoppelt.

Ole Und der dritte?

Henrik Die Auswertung von Belegen und Tickets, also Lieferscheinen, Schadensmeldungen oder Reklamationen. Die KI liest und sortiert vor, ein Mensch entscheidet.

Ole Bei uns liegen jeden Monat Hunderte Schadensmeldungen auf dem Tisch. Das würde etwas bringen.

Henrik Genau dort fängt der Mittelstand an: In den Jahren 2022 bis 2024 nutzten laut KfW 14 Prozent der Mittelständler KI, die Sprache erzeugt. Texterkennung lag bei 10 Prozent, aufwendige Datenanalyse bei 3 Prozent.

Ole Erst die einfachen Dinge. Wie viele Einstiege nehme ich gleichzeitig?

Henrik Einen, höchstens zwei, mit einer Abteilung und einem festen Zeitraum von sechs bis acht Wochen. Danach entscheiden Sie: ausweiten, umbauen oder beenden.

Ole Und was kostet mich das?

Henrik Sie zahlen Lizenzen pro Kopf und Monat, dazu die Zeit für Einrichtung und Schulung. Es lohnt sich, wenn die gesparten Stunden mehr wert sind als beides zusammen.

Ole Was mache ich am Montag?

Henrik Lassen Sie jede Abteilungsleitung fünf Aufgaben aufschreiben, mit Häufigkeit pro Woche und Minuten je Durchgang. Daraus wählen Sie die eine mit der größten Zeitsumme und dem kleinsten Risiko.

Ole Sie sprachen von einer Datenpanne mit Ansage. Was passiert da?

Henrik Ein typischer Fall: Eine Mitarbeiterin fragt Copilot nach Gehaltsbändern für eine Stellenanzeige. Sie bekommt eine Tabelle mit echten Gehältern, die seit Jahren in einem offenen Teams-Ordner liegt.

Ole Dann hat die KI etwas verraten, was sie nicht darf.

Henrik Nein, sie hat sich an die Regeln gehalten. Microsoft schreibt: Copilot zeigt nur Unternehmensdaten an, für die der Benutzer mindestens Anzeigeberechtigung hat.

Ole Also lag der Fehler bei den Berechtigungen, nicht bei der KI.

Henrik Richtig. Die Datei war vorher schon für alle sichtbar, nur hat sie niemand gesucht; die KI findet sie in Sekunden.

Ole Wie verhindere ich das, ohne ein Jahr lang aufzuräumen?

Henrik Vor dem Start klären Sie zwei Dinge. Erstens: Welche Ordner und Teams sind für die ganze Firma offen, und liegt dort etwas Vertrauliches?

Henrik Zweitens: Wer darf Personaldaten, Verträge und Kalkulationen sehen? Das prüfen Sie zuerst für die Abteilung, mit der Sie starten, nicht für das ganze Haus.

Ole Und wenn wir dabei Vertrauliches finden?

Henrik Dann schließen Sie den Ordner für alle außer den Zuständigen, bevor die KI startet. Das ist eine Einstellung, kein Umbau.

Ole Und was ist mit meinen Daten bei Microsoft? Lernt das Modell aus unseren Angeboten?

Henrik Microsoft schreibt, dass Prompts, Antworten und die Firmendaten, auf die Copilot zugreift, nicht zum Training der Basismodelle verwendet werden. Ein Prompt ist der Auftrag, den man der KI eintippt.

Ole Was brauche ich technisch, damit Copilot überhaupt läuft?

Henrik Copilot ist eine Zusatzlizenz zu einem passenden Microsoft-365-Plan, etwa Business Standard oder Business Premium. Er durchsucht E-Mails, Chats und Dokumente in Microsoft 365.

Henrik Was nur auf einem alten Dateiserver liegt, findet er ohne eigene Anbindung nicht. Für die Wissenssuche ist also wichtig, wo Ihre Verträge heute liegen.

Ole Und die Belegschaft? Ich vermute, einige nutzen längst irgendwas privat auf dem Handy.

Henrik Dann geben Sie Spielregeln aus, eine Seite reicht. Welches Werkzeug ist freigegeben, welche Daten kommen nie hinein, und wer prüft das Ergebnis, bevor es rausgeht?

Ole Warum prüfen? Die Texte klingen doch gut.

Henrik Gut klingen heißt nicht stimmen. Microsoft schreibt selbst, dass Antworten generativer KI nicht garantiert zu 100 Prozent sachlich richtig sind.

Ole Und das Rechtliche?

Henrik Die rechtlichen Pflichten lassen Sie von Ihrer Datenschutzberatung prüfen. Für die Entscheidung heute zählen Rechte im System und klare Regeln im Haus.

Ole Was mache ich am Montag in diesem Punkt?

Henrik Bitten Sie Ihre IT um eine Liste aller Ordner, die für die ganze Firma freigegeben sind. Und schreiben Sie die eine Seite Spielregeln, bevor die erste Lizenz verteilt wird.

Ole Bleibt der dritte Fall, das Projekt, das niemand misst.

Henrik Ein typischer Fall: Nach drei Monaten fragt die Geschäftsführung, ob es sich lohnt. Die Antwort lautet: Die Leute finden es gut.

Ole Damit kann ich keine Verlängerung begründen.

Henrik Eben. Messen Sie deshalb vor dem Start den Ist-Zustand, mit zwei Zahlen.

Ole Welche zwei?

Henrik Erstens die Stunden pro Woche für die Aufgabe. Zweitens die Durchlaufzeit, also wie lange es von der Anfrage bis zum fertigen Ergebnis dauert.

Ole Rechnen Sie mir das vor.

Henrik Nehmen wir an, Ihr Vertrieb schreibt 100 Angebote pro Woche, je zehn Minuten. Das sind knapp 17 Stunden pro Woche.

Henrik Spart die KI vier Minuten je Angebot, sind das fast sieben Stunden pro Woche. Das ist ein Rechenbeispiel, keine Zusage; messen müssen Sie es bei sich.

Ole Und was sagt mir die Durchlaufzeit?

Henrik Geht ein Angebot heute erst am nächsten Tag raus und künftig nach zwei Stunden, kann das im Spotgeschäft über den Auftrag entscheiden. Das wiegt oft schwerer als die gesparte Zeit.

Ole Wie messe ich das, ohne dass alle mit der Stoppuhr arbeiten?

Henrik Zwei Wochen vor und zwei Wochen nach dem Start schreibt das Team grob mit, eine Strichliste reicht. Bei Schadensmeldungen zeigt meist schon Ihr System, wann sie eingingen und wann sie erledigt waren.

Ole Und wer kümmert sich darum? Ich habe keinen KI-Beauftragten.

Henrik Dafür brauchen Sie keine neue Stelle, sondern drei Rollen. Eine verantwortliche Person in der Geschäftsführung, eine Fachperson aus der Abteilung und jemanden aus der IT.

Ole Warum nicht einfach die IT?

Henrik Die IT richtet Lizenzen und Rechte ein, kann aber nicht beurteilen, ob ein Angebot fachlich stimmt. Die Fachperson kennt die Aufgabe und sammelt die besten Vorlagen für alle.

Ole Und wenn die Leute nicht mitziehen?

Henrik Das ist ein echtes Risiko: Bei Bitkom nennen 42 Prozent der KI-nutzenden Firmen fehlende Akzeptanz der Beschäftigten als Hemmnis. Darum sollte die Fachperson aus dem Team kommen, nicht von außen.

Ole Und meine Rolle als Chef?

Henrik Sie setzen Ziel, Messzahl und den Termin für die Entscheidung. Und Sie sorgen für Schulung: Laut Bitkom schulen 91 Prozent der Firmen mit KI ihre Beschäftigten.

Ole Wie lang muss so eine Schulung sein?

Henrik Für den Einstieg reicht oft eine Stunde mit echten Aufgaben aus der Abteilung statt einer allgemeinen Vorführung. Danach braucht es eine feste Ansprechperson für Fragen.

Ole Und wann beende ich das Ganze?

Henrik Wenn die gemessene Ersparnis nach acht Wochen unter den Kosten für Lizenzen und Betreuung liegt. Dann war entweder die Aufgabe falsch gewählt oder das Werkzeug.

Ole Und dann?

Henrik Dann nehmen Sie die zweite Aufgabe von Ihrer Liste, statt mehr Lizenzen zu kaufen. Die Liste vom ersten Montag ist Ihr Vorrat für die nächsten Monate.

Ole Was mache ich am Montag?

Henrik Benennen Sie die drei Personen und legen Sie den Entscheidungstermin in acht Wochen fest. Dann lassen Sie die Ist-Zahlen für die gewählte Aufgabe erfassen.

Ole Fassen Sie es für mich in drei Punkten zusammen.

Henrik Erstens: Starten Sie mit einer Aufgabe, nicht mit Lizenzen. Wählen Sie nach Häufigkeit, Zeitaufwand und Risiko, typischerweise Texte, Wissenssuche oder Belegauswertung.

Henrik Zweitens: Prüfen Sie vorher die Berechtigungen, denn die KI findet alles, was ein Mitarbeiter sehen darf. Dazu kommt eine Seite Spielregeln für die Belegschaft.

Henrik Drittens: Messen Sie Stunden pro Woche und Durchlaufzeit vor und nach dem Start. Und benennen Sie drei Verantwortliche mit festem Entscheidungstermin.

Ole Dann weiß ich, was ich am Montag tue: fünf Aufgaben je Abteilung einsammeln und die eine mit dem größten Hebel wählen.

Henrik Das war Weichenstellung, der Podcast von hagel IT für Entscheidungen in der Geschäftsführung.