Microsoft hat am 19. Oktober beschrieben, wie sogenannte Guardian Agents interne KI-Agenten laufend überwachen und ihre Aktionen kontrollieren sollen. Der Ansatz nutzt Project Perception und richtet den Blick auf KI-Systeme, die ein Unternehmen selbst eingesetzt hat. Für KMU entsteht daraus eine Betriebsfrage: Wer übernimmt, wenn die Überwachung eine Aktion stoppt?
Ein Wächter braucht einen Reaktionsweg
Der Microsoft-Beitrag zur Absicherung interner Agenten verbindet Signale aus mehreren technischen Bereichen mit einer fortlaufenden Risikobewertung. Das Unternehmen beschreibt dabei auch die Nachvollziehbarkeit von Aktionen. Das ist eine Anbieterbeschreibung, kein unabhängiger Nachweis, dass jede unerwünschte Aktion erkannt wird. Konkrete Eignung und Konditionen müssen für den eigenen Einsatz geklärt werden.
Unsere Einordnung: Eine zusätzliche Überwachung ist nur dann betrieblich nützlich, wenn ihre Meldungen jemanden erreichen. Bleibt ein gestoppter Vorgang bis zum nächsten Morgen unbemerkt, kann etwa eine zugesagte Rückmeldung ausfallen. Werden dagegen alle Warnungen ungeprüft bestätigt, verliert die Kontrolle ihren Zweck.
Nächster Schritt
Was heisst das für KI-Regeln und Nachweise?
- Nutzung sichtbar machen: Welche Teams nutzen welche KI-Tools?
- Daten und Freigaben klären: Was darf in ChatGPT, Copilot oder andere Tools?
- Nachweise vorbereiten: Regeln, Rollen und Unterweisung dokumentieren.
DACH-Hinweis: 10min KI Brief bleibt für KMU im gesamten DACH-Raum lesbar; konkrete Praxisangebote sind zuerst CH-first formuliert.
Erkennen, entscheiden, wieder aufnehmen
OWASP beschreibt übermässige Handlungsmöglichkeiten als Risiko und nennt Protokollierung sowie Überwachung als Möglichkeiten zur Schadensbegrenzung. Das NIST-Rahmenwerk ordnet KI-Risikomanagement als fortlaufende Aufgabe ein. Beide Quellen sind unabhängig von Microsoft. Sie begründen den betrieblichen Prüfbedarf, bewerten aber das angekündigte Produkt nicht.
Unser Vorschlag ist eine kleine Alarmkarte pro eingesetztem Agenten: Welche unterbrochene Aufgabe betrifft die Meldung? Wer prüft sie während der Betriebszeit? Wie erfährt das Fachteam, dass der Vorgang pausiert? Und wer darf ihn nach einer Klärung wieder aufnehmen? Diese Angaben gehören zur Einführung der Überwachung ebenso wie das technische Einschalten.
Was heisst das für Ihr KMU?
Spielen Sie mit Ihrem IT-Partner einen harmlosen Alarm in einer Testumgebung durch. Lassen Sie eine vorbereitete Aktion anhalten, informieren Sie die zuständige Person und dokumentieren Sie deren Entscheidung. Messen Sie die Zeit bis zur Übernahme. Prüfen Sie anschliessend, ob das Fachteam den pausierten Vorgang sehen konnte und ob beim Wiederaufnehmen ein doppelter Auftrag entstanden wäre.
Wiederholen Sie den Ablauf mit einem Fehlalarm: Eine erlaubte Aktion wird vorsichtshalber gestoppt. Legen Sie fest, welche Informationen zur Aufklärung reichen und wer die Regel anpassen darf. Der Versuch soll eine belastbare Zuständigkeit liefern. Ein Alarm ohne erreichbare verantwortliche Person ist noch kein betreuter Prozess. Beschränken Sie den Einsatz entsprechend, bis auch Vertretung und Wiederaufnahme geklärt sind.
Halten Sie mit der KI-Regelmappe Zuständigkeiten und Reaktionen auf KI-Warnungen fest.
