loginai
Farbschema
Prozess besprechen
  1. Startseite
  2. Betrieb und Sicherheit

Kontrolle endet nicht mit der Inbetriebnahme

Modelle, Schnittstellen und Datenquellen ändern sich. Deshalb braucht eine produktive KI-Lösung klare Zuständigkeiten und laufende Überwachung.

Sechs Bereiche, die vor dem Start festgelegt werden

Daten und Hosting

LOGIN dokumentiert Datenarten, Speicherorte, beteiligte Anbieter und Übermittlungen. Das Betriebsmodell sieht je nach Anforderung eine Umgebung in Deutschland oder einem anderen EU-Staat, eine dedizierte Instanz, kundeneigene Infrastruktur, die Verarbeitung direkt auf dem Endgerät oder eine abgestimmte Kombination vor. Die Wahl richtet sich nach den eingesetzten Modellen, Schnittstellen und Datenschutzanforderungen.

Rollen und Berechtigungen

Der Assistent darf nur die Inhalte sehen, die für den jeweiligen Nutzer freigegeben sind. Vorhandene Identitäten und Berechtigungskonzepte werden übernommen.

Quellen und Antwortqualität

Bei wissensbasierten Antworten werden Quellen angezeigt. Wenn keine ausreichende Grundlage vorliegt, macht das System dies kenntlich. Für kritische Antworten wird eine Freigabe vereinbart.

Agenten und Systemaktionen

Ein Agent erhält nur die Werkzeuge und Rechte, die er für seinen Zweck braucht. Schreibende Aktionen, finanzielle Folgen oder externe Kommunikation werden begrenzt und bei Bedarf freigegeben.

Protokollierung

Anfragen, Quellen, Systemaktionen, Freigaben und Fehler werden protokolliert. Umfang, Aufbewahrung und Zugriff richten sich nach dem vereinbarten Konzept.

Support und Störungen

Vor Beginn des Regelbetriebs werden Supportkanäle, Supportzeiten, Prioritätsstufen, Reaktionszeiten und Eskalationswege vereinbart. Die Betriebsbeschreibung hält außerdem fest, wer Schnittstellenfehler untersucht, wer externe Anbieter kontaktiert und wie Änderungen an Modellen oder Datenquellen geprüft werden.

Laufender Betrieb

Diese Aufgaben laufen weiter, solange die Lösung produktiv ist.

  • Verfügbarkeit und Fehler überwachen
  • Modell- und Nutzungskosten prüfen
  • Schnittstellenänderungen behandeln
  • Qualität anhand vereinbarter Fälle testen
  • Berechtigungen und Datenquellen aktualisieren
  • Änderungen dokumentieren
  • Ansprechpartner für Störungen und Anpassungen bereitstellen

Liefergegenstände

Diese Unterlagen erhalten Sie zur Prüfung durch Ihren Datenschutzbeauftragten oder Ihre Rechtsberatung.

  • Datenflussübersicht
  • Liste der beteiligten Anbieter und Unterauftragnehmer
  • Rollen- und Berechtigungskonzept
  • Lösch- und Aufbewahrungsregeln
  • Freigabe- und Eskalationsregeln
  • Betriebs- und Supportbeschreibung
  • Änderungs- und Qualitätsprotokoll

LOGIN liefert die technischen und organisatorischen Informationen; die rechtliche Bewertung bleibt bei Ihrem Datenschutzbeauftragten oder Ihrer Rechtsberatung. Für Projekte in der Schweiz dokumentieren wir Datenflüsse und Anbieter zusätzlich anhand der dort geltenden Datenschutzanforderungen.

KI lokal auf dem Gerät

Für klar umrissene Aufgaben reicht oft ein kleines Modell, das auf dem Rechner eines Mitarbeiters oder auf einem Server im eigenen Netz läuft.

  • Inhalte werden nicht an einen Modellanbieter übermittelt
  • für die verarbeiteten Inhalte ist kein externer KI-Dienst beteiligt
  • Betrieb auch ohne Internetverbindung
  • Modell, Version und Verbindungen sind festgelegt und prüfbar

Lokale Modelle sind kleiner und brauchen passende Hardware. Für Aufgaben mit viel Kontext oder breitem Wissen ist ein großes Modell in einer Umgebung in Deutschland oder der EU oft die bessere Wahl. Welche Variante passt, legt das Betriebsmodell fest.

Beispiel ansehen: VoxaFlow, Diktat mit lokaler KI

Prozess besprechen