Anthropic hat am 15. Oktober einen erweiterten Zugang für externe KI-Prüfer beschrieben. Ein Team der gemeinnützigen Organisation METR erhält Einblick in interne Systeme und soll eigene Risikobewertungen veröffentlichen. Für KMU liefert die Ankündigung einen Anlass, beim KI-Einkauf genauer nach der Aussagekraft externer Prüfungen zu fragen.
Zugang und Publikationsrecht gehören zusammen
Nach Anthropics Originalmitteilung arbeiten sechs METR-Mitarbeitende mit Firmenhardware, Büroplätzen und internem Zugang, der etwa dem der eigenen Risikoprüfteams entspricht. Anthropic kann Veröffentlichungen nicht grundsätzlich verhindern, wohl aber Schwärzungen für vorab definierte vertrauliche Informationsarten verlangen. METR darf diese Eingriffe öffentlich einordnen, ohne die geschützten Inhalte preiszugeben.
Damit beschreibt der Anbieter eine Prüfvereinbarung. Die Ankündigung selbst ist kein abgeschlossenes Gütesiegel und beweist keine Fehlerfreiheit eines Modells. Sie bedeutet auch nicht, dass Kundendaten für beliebige externe Forschende offenliegen: Der Beitrag nennt begrenzte Teams, Vereinbarungen und Ausnahmen beim Informationszugang.
Nächster Schritt
Was heisst das für KI-Regeln und Nachweise?
- Nutzung sichtbar machen: Welche Teams nutzen welche KI-Tools?
- Daten und Freigaben klären: Was darf in ChatGPT, Copilot oder andere Tools?
- Nachweise vorbereiten: Regeln, Rollen und Unterweisung dokumentieren.
DACH-Hinweis: 10min KI Brief bleibt für KMU im gesamten DACH-Raum lesbar; konkrete Praxisangebote sind zuerst CH-first formuliert.
Welche Aussage kauft man mit?
Unsere Einordnung: Die Formulierung «extern geprüft» lässt offen, wer welche Version unter welchen Bedingungen untersucht hat. Ein kurzer Test einer einzelnen Funktion erlaubt andere Schlüsse als ein längerfristiger Einblick in Risikoprozesse. Ebenso relevant ist, ob negative Ergebnisse ohne Zustimmung des geprüften Anbieters erscheinen dürfen.
Das NIST-Rahmenwerk für KI-Risikomanagement bietet einen freiwilligen Bezug für die Bewertung von Vertrauenswürdigkeit. Die KI-Prinzipien der OECD verlangen Transparenz über Fähigkeiten und Grenzen sowie Rechenschaft. Diese unabhängigen Quellen sind keine Zertifizierung von Anthropic oder METR. Sie helfen, eine Prüfaussage auf ihren tatsächlichen Umfang zurückzuführen.
Was heisst das für Ihr KMU?
Nehmen Sie beim nächsten Einkauf einen Prüfbericht oder eine entsprechende Werbeaussage des Anbieters zur Hand. Erfassen Sie fünf Punkte: Prüforganisation, untersuchte Modellversion, Datum, zugängliche Informationen und Recht zur Veröffentlichung. Fehlt der Bericht selbst, markieren Sie die Aussage vorerst als nicht nachprüfbar.
Vergleichen Sie dann den Prüfgegenstand mit Ihrem geplanten Einsatz. Ein Bericht über allgemeine Modellrisiken beantwortet beispielsweise noch nicht, ob Ihre internen Dokumente korrekt gefunden werden. Schreiben Sie die verbleibende eigene Prüffrage daneben und verlangen Sie einen passenden Nachweis. So wird externe Prüfung ein konkreter Beitrag zur Auswahlentscheidung, ohne die betriebliche Abnahme zu ersetzen.
Mit der KI-Regelmappe halten Sie Prüfnachweise und offene Fragen zu Ihren KI-Anbietern fest.
