
Künstliche Intelligenz ist im deutschen Mittelstand angekommen. Laut Statistischem Bundesamt setzte 2025 bereits gut jedes vierte Unternehmen in Deutschland KI ein. Auch kleinere Betriebe mit rund 20 Mitarbeitenden stehen inzwischen vor der Frage, wo sich sogenannte KI-Agenten sinnvoll einsetzen lassen und wo tatsächlich Zeit und Geld gespart werden kann.
Was KI-Agenten von einfachen Chatbots unterscheidet
Klassische generative KI beantwortet einzelne Anfragen. KI-Agenten, oft als Agentic AI bezeichnet, gehen einen Schritt weiter: Sie übernehmen ganze Arbeitsprozesse eigenständig, rufen Werkzeuge auf, greifen auf externe Systeme zu und führen mehrstufige Aufgaben bis zum Ergebnis aus. Technisch braucht ein Sprachmodell dafür ein sogenanntes Agent Harness, also eine Laufzeitumgebung, die dem Modell erst ermöglicht, Tools zu bedienen oder Aufgaben bis zur Fertigstellung durchzuführen. Anbieter wie Microsoft stellen solche Harnesses inzwischen fertig zur Verfügung, was den Einstieg für Unternehmen ohne eigene Entwicklungsabteilung erleichtert.
Wo ein kleiner Betrieb konkret ansetzen kann
Routineaufgaben direkt am Arbeitsplatz
Für Unternehmen dieser Größenordnung eignen sich zunächst wiederkehrende, wenig komplexe Aufgaben: Besprechungsnotizen, E-Mail-Entwürfe oder Zusammenfassungen von Dokumenten lassen sich direkt auf dem Endgerät erledigen, wenn die Hardware dafür ausgelegt ist. Das spart Zeit im Tagesgeschäft, ohne dass sensible Daten die eigene IT verlassen müssen.
Verwaltung und Buchhaltung
Auch in der Verwaltung zeigt sich Sparpotenzial. Arbeitsrechtler Michael R. Fausel beschreibt im Interview mit Markt und Mittelstand ein Beispiel aus der Praxis: Wo früher in der Buchhaltung Arbeit für fünf Personen anfiel, reicht im KI-Zeitalter mitunter die Arbeit für drei. Für einen 20-Personen-Betrieb bedeutet das: Standardisierte Buchungs- und Dokumentationsaufgaben, die bislang mehrere Arbeitsstunden banden, lassen sich mit KI-Unterstützung deutlich schneller erledigen.
Auswertungen und Angebote
Für rechenintensivere Aufgaben wie die Auswertung größerer Datenmengen, etwa bei Angeboten, Ausschreibungen oder Kundendaten, lohnt sich der Blick auf Cloud-Modelle. Sie leisten mehr Rechenkraft als ein einzelnes Endgerät, sollten aber gezielt und nicht für jede Kleinigkeit eingesetzt werden.
Die Kostenfalle: Mehr Effizienz heißt nicht automatisch weniger Ausgaben
Jeder Prompt und jeder automatisierte Arbeitsschritt kostet Rechenleistung. Die Kosten pro einzelnem Modellaufruf sinken zwar, summieren sich aber selbst bei kleinen Teams schneller als viele Budgetplanungen vorsehen. Für Betriebe mit knappen IT-Budgets ist deshalb eine hybride Strategie sinnvoll: Einfache, wiederkehrende Aufgaben laufen lokal auf dem Gerät, komplexere Auswertungen übernimmt gezielt die Cloud. Das senkt laufende Kosten und hält gleichzeitig sensible Daten im eigenen Unternehmen.
Sicherheit nicht aus dem Blick verlieren
KI-Agenten, die direkt auf dem Rechner laufen, bergen eigene Risiken. Sicherheitsforscher von Accomplish AI entdeckten kürzlich eine Lücke im KI-Assistenten Claude Cowork für macOS, über die sich die eigentlich abgeschottete Arbeitsumgebung verlassen und Schreibrechte auf dem gesamten Rechner erlangen ließen. Betroffen waren nach Schätzung des Unternehmens bis zu 500.000 Nutzer. Der Anbieter Anthropic reagierte, indem der Agent inzwischen überwiegend in der Cloud statt lokal ausgeführt wird. Auch Nvidia hat mit der Open Secure AI Alliance, an der unter anderem Microsoft, SAP, Siemens und Cisco beteiligt sind, eine Initiative gestartet, die Werkzeuge zur Absicherung von KI-Agenten entwickeln soll. Für kleinere Betriebe heißt das praktisch: Lokale Agenten sollten nur mit eingeschränkten Rechten und aktuellem Softwarestand betrieben werden.
Rechtliche Seite: Wenn Agenten Aufgaben übernehmen
Wer durch den Einsatz von KI-Agenten Personal einspart, muss die sogenannte Arbeitsplatzverdichtung im Streitfall vor Gericht im Detail nachweisen. Laut Fausel reicht dafür keine kurze Begründung, der Arbeitgeber muss genau darlegen, warum Stellen wegfallen und wie die verbleibende Arbeit neu verteilt wurde. Für kleine Betriebe mit klaren Zuständigkeiten ist das zwar überschaubarer als in großen Organisationen, sollte aber von Anfang an dokumentiert werden.
Praktischer Einstieg für Betriebe mit rund 20 Mitarbeitenden
- Zunächst einfache, wiederkehrende Aufgaben identifizieren, die sich lokal automatisieren lassen
- Cloud-Dienste gezielt für rechenintensive Auswertungen einsetzen, nicht für jede Anfrage
- Zugriffsrechte lokaler Agenten einschränken und Softwarestand aktuell halten
- Bei Personalanpassungen durch KI die Arbeitsverteilung von Beginn an dokumentieren
KI-Agenten bieten auch kleinen Mittelständlern reale Zeit- und Kostenvorteile, allerdings nur, wenn Aufgaben bewusst verteilt, Kosten im Blick behalten und Sicherheitsfragen von Anfang an mitgedacht werden.
Quellen
- Das KI-Paradox im Mittelstand: Mehr Produktivität, mehr Kosten – und der Ausweg heißt hybrid
- Kündigungen im Mittelstand: Warum jetzt härter verhandelt wird als je zuvor
- Lücke: Claude Cowork entkommt macOS-Sandbox
- Nvidia versammelt Tech-Schwergewichte für neue KI-Allianz
- Microsoft Agent Framework bietet ein Harness für .NET und Python