Heise hat am 14. April über KI-Halluzinationen vor Gericht berichtet. Das Thema ist damit endgültig aus der Theorie raus. Für DACH-KMU heisst das: Wer KI für rechtlich, personell oder vertraglich sensible Texte nutzt, braucht ab sofort einen klaren Freigabeprozess, nicht nur gute Prompts.
Warum das Risiko oft falsch eingeschätzt wird
Viele Unternehmen behandeln KI-Fehler wie normale Tippfehler. Das ist zu harmlos. Wenn ein Modell Quellen erfindet, Klauseln falsch zusammenfasst oder einen Sachverhalt zu sicher darstellt, entsteht kein Schönheitsfehler, sondern ein Geschäftsrisiko. Besonders kritisch wird es bei Angeboten mit Zusagen, HR-Schreiben, Vertragsentwürfen, Datenschutztexten oder Kommunikation mit Behörden.
Das Problem ist nicht, dass KI immer falsch liegt. Das Problem ist, dass falsche Aussagen oft plausibel klingen.
Ein Freigabeprozess ist billiger als der nächste Fehler
DACH-KMU brauchen dafür kein grosses Compliance-Programm. Drei Stufen reichen oft schon. Erstens: Kennzeichnen, welche Textarten kritisch sind. Zweitens: Für diese Texte eine menschliche Fachprüfung fest einbauen. Drittens: Dokumentieren, welche Quelle oder Vorlage für die finale Fassung genutzt wurde.
Damit verhindern Sie nicht jede Halluzination, aber Sie verhindern, dass sie ungeprüft nach aussen geht.
Welche Texte sofort auf die Prüfliste gehören
Ganz oben stehen Verträge, AGB-Änderungen, rechtliche Hinweise, Abmahnungen, HR-Schreiben, Leistungszusagen im Vertrieb und alles, was Fristen oder Haftung berührt. Weniger kritisch sind dagegen interne Ideensammlungen, grobe Gliederungen oder erste Textentwürfe ohne Aussenwirkung.
Diese Trennung ist entscheidend, weil sie Tempo und Sicherheit gleichzeitig ermöglicht. Nicht alles muss langsam werden. Aber Kritisches darf nicht im normalen KI-Fluss verschwinden.
Was Geschäftsführer diese Woche tun sollten
Erstellen Sie heute eine kurze Liste mit fünf Textarten, bei denen nie direkt aus der KI veröffentlicht oder versendet werden darf. Legen Sie daneben fest, wer freigibt, worauf geprüft wird und wo die finale Version abgelegt wird. Das dauert keine Stunde, reduziert aber sofort Ihr Risiko.
Wenn Sie solche KI-Risiken und Chancen für den Mittelstand jede Woche greifbar eingeordnet bekommen möchten, abonnieren Sie den 10min-KI-Brief. Dort geht es nicht um KI-Theorie, sondern um Entscheidungen, die im Betrieb wirklich zählen.
Das könnte dich auch interessieren
💬 Hat dir dieser Artikel geholfen?
Sag uns, was dir gefehlt hat oder was du gerne tiefer erklärt hättest.
✉️ Feedback senden