Anthropic hat am 2. November FlashProve veröffentlicht, einen Forschungsprototyp für überprüfbare KI-Berechnungen. Die Leitfrage ist für Unternehmen verständlich: Stammt eine Antwort tatsächlich von dem Modell, das der Dienst verspricht? Besonders bei zwischengeschalteten Anbietern ist der Modellname in der Oberfläche zunächst nur eine Angabe.
Ein Beleg für die Berechnung
Im Forschungsbericht von Anthropic legt sich der Anbieter zuerst auf bestimmte Modellgewichte fest. Zu einer Berechnung entsteht anschliessend ein kryptografischer Nachweis, den eine andere Partei prüfen kann, ohne diese Gewichte zu erhalten. Die Veröffentlichung beschreibt einen Prototyp mit deutlichem Zusatzaufwand. Sie ist keine Ankündigung einer allgemein verfügbaren Prüffunktion in Claude.
Unsere Einordnung: Modellherkunft und fachliche Richtigkeit sind zwei verschiedene Prüfungen. Selbst wenn eine Berechnung korrekt dem vereinbarten Modell zugeordnet wird, kann die Antwort eine falsche Zahl enthalten oder eine geschäftliche Frage unpassend beantworten. Für eine Offerte bleibt daher die Kontrolle der Preise nötig.
Nächster Schritt
Was heisst das für KI-Regeln und Nachweise?
- Nutzung sichtbar machen: Welche Teams nutzen welche KI-Tools?
- Daten und Freigaben klären: Was darf in ChatGPT, Copilot oder andere Tools?
- Nachweise vorbereiten: Regeln, Rollen und Unterweisung dokumentieren.
DACH-Hinweis: 10min KI Brief bleibt für KMU im gesamten DACH-Raum lesbar; konkrete Praxisangebote sind zuerst CH-first formuliert.
Was ein Herkunftsprotokoll leisten kann
Die PROV-Dokumentation des W3C beschreibt Herkunft anhand von beteiligten Daten, Aktivitäten und verantwortlichen Akteuren. Sie liefert einen allgemeinen Rahmen zur Nachvollziehbarkeit, keine unabhängige Bestätigung von FlashProve. Ein betrieblicher Nachweis sollte entsprechend erkennen lassen, auf welchen Vorgang und welches Ergebnis er sich bezieht.
Das NIST-Playbook empfiehlt, Prüfverfahren, Messgrössen und Grenzen zu dokumentieren. Für den Einkauf leiten wir daraus eine einfache Trennung ab: Was behauptet der Anbieter, was lässt sich technisch prüfen und was muss das Fachteam am Inhalt kontrollieren?
Was heisst das für Ihr KMU?
Nehmen Sie einen bestehenden KI-Dienst in Ihre nächste Lieferantenbesprechung. Fragen Sie, ob Modell und Version je Anfrage dokumentiert werden, ob der Dienst auf andere Modelle ausweichen kann und wie solche Wechsel erkennbar sind. Lassen Sie sich einen anonymisierten Beispielnachweis erklären. Ein blosses Modellfeld im Protokoll ist noch kein kryptografischer Beweis.
Ordnen Sie diesen Nachweis einer konkreten Testanfrage zu. Prüfen Sie getrennt, ob Eingabe und Ausgabe zusammenpassen und ob die Antwort fachlich brauchbar ist. Halten Sie für beide Fragen ein eigenes Ergebnis fest. Das verhindert, dass eine technische Herkunftsbestätigung versehentlich als Qualitätsfreigabe gelesen wird.
Für den Alltag genügt zunächst eine klare Beschreibung der verfügbaren Belege und ihrer Grenzen. Eine Installation des Forschungsprototyps ist dafür nicht erforderlich. Die Veröffentlichung macht vor allem eine neue Prüffrage sichtbar, die bei künftigen Diensten an Bedeutung gewinnen kann.
Mit der KI-Regelmappe Modellangaben und fachliche Freigaben getrennt dokumentieren.
Das könnte dich auch interessieren
Kostenloser Newsletter
Den 10-Minuten-KI-Brief per E-Mail erhalten
Die wichtigsten KI-Neuigkeiten für KMU, kurz eingeordnet. Als Dankeschön erhalten Sie den KI-Werkzeugkasten gratis. Kein Spam, jederzeit mit einem Klick abmeldbar.
Sie erhalten zuerst eine E-Mail mit einem Bestätigungslink. Details in der Datenschutzerklärung.