Die KI klingt sicher. Ist sie auch richtig? So prüfen KMU ihre KI-Ergebnisse

Die Zusammenfassung einer Offerte sieht überzeugend aus. Klare Absätze, eine kurze Empfehlung, sogar Quellenangaben. Erst beim zweiten Lesen fällt auf: Die einmaligen Einrichtungskosten fehlen. Aus dem günstigsten Monatsbetrag wird so die angeblich günstigste Gesamtlösung. Die KI hat viel Schreibarbeit erledigt und gleichzeitig eine wichtige Entscheidungsgrundlage verschoben.

Dieses Beispiel ist erfunden. Die Frage dahinter ist es nicht: Woran erkennen wir, ob ein KI-Ergebnis für unsere Arbeit gut genug ist? «Klingt vernünftig» ist ein schwacher Massstab. Besonders dann, wenn die Antwort so flüssig geschrieben ist, dass man sie gerne sofort übernimmt.

Für ein Schweizer KMU braucht es deshalb nicht zuerst eine komplizierte Testplattform. Es braucht überprüfbare Erwartungen an eine konkrete Aufgabe. Unsere Empfehlung: Prüfen Sie die Qualität dort, wo die Antwort verwendet wird. Eine brauchbare Zusammenfassung, eine korrekte Kundenauskunft und ein guter Textentwurf haben unterschiedliche Erfolgskriterien.

Das NIST beschreibt in seinem Generative-AI-Risikoprofil selbstsicher vorgetragene falsche Inhalte als «Confabulation», oft Halluzination genannt. Das Profil empfiehlt auch, Quellen und Zitate in KI-Ausgaben zu überprüfen. Es ist ein freiwilliger Rahmen zur Risikobeurteilung, keine Schweizer Zertifizierung.

Quelle: NIST AI 600-1, Juli 2024, insbesondere Abschnitte 2.2 und MS-2.5-003.

Im Arbeitsalltag hilft eine breitere Sicht. Eine Antwort muss nichts erfinden, um unbrauchbar zu sein. Sie kann eine Ausnahme weglassen, zwei gültige Dokumente falsch gewichten oder eine alte Regel korrekt wiedergeben, obwohl längst eine neue gilt. Auch eine richtige Zahl kann die falsche Frage beantworten.

Darum sollten Sie nicht bloss nach offensichtlichen Fehlern suchen. Fragen Sie, welche Information für die Entscheidung fehlt und welche Annahme unbemerkt hineingerutscht ist. Die Prüfung beginnt beim Auftrag: Wer nur «Fasse das zusammen» verlangt, hat noch nicht festgelegt, was auf keinen Fall verloren gehen darf.

Microsoft unterscheidet bei der Bewertung von Antworten mit bereitgestellten Quellen unter anderem Quellenbindung, Relevanz und Vollständigkeit. Quellenbindung fragt, ob die Antwort durch den Kontext gedeckt ist. Relevanz betrifft die gestellte Frage. Vollständigkeit vergleicht die Antwort mit erwarteten Informationen. Die am 23. Oktober 2026 geprüfte Dokumentation kennzeichnet einzelne Bewertungsverfahren weiterhin als Preview.

Quelle: Microsoft: RAG-Evaluatoren. RAG bezeichnet hier eine Anwendung, die vor der Antwort passende Informationen aus einem Quellenbestand abruft.

Unsere einfache Übersetzung für die tägliche Arbeit steht in der Tabelle. Sie ist eine Arbeitshilfe, keine offizielle Bewertungsskala.

Eine Antwort kann in einer Spalte gut abschneiden und in einer anderen scheitern. Genau deshalb ist «acht von zehn Punkten» allein wenig hilfreich. Halten Sie den konkreten Fehler fest. Erst dann wird sichtbar, ob der Auftrag, die Quellen oder die Verarbeitung verbessert werden müssen.

Ein Link am Satzende ist kein erledigter Faktencheck. Öffnen Sie die Quelle und suchen Sie die Stelle, die die Aussage tragen soll. Passt der Zeitraum? Bezieht sie sich auf die richtige Produktvariante, Organisation oder Vertragsfassung? Steht dort eine verbindliche Regel, eine mögliche Option oder nur eine Ankündigung?

Bei internen Dokumenten empfehlen wir, nicht nur den Dateinamen zu verlangen. Fragen Sie nach Abschnitt und Version beziehungsweise Datum, soweit diese vorhanden sind. Wenn zwei Unterlagen widersprechen, soll die KI den Widerspruch zeigen. Sie soll ihn nicht geräuschlos durch eine überzeugend formulierte Vermutung auflösen.

Auch Quellenbindung hat eine Grenze: Eine Antwort kann eng an einer veralteten Vorlage bleiben und trotzdem für heute falsch sein. Die Entscheidung, welches Dokument massgeblich ist, gehört daher zur Pflege des Wissensbestands. Ein besser formulierter Prompt repariert keine ungeklärte Zuständigkeit.

Für eine kundenwirksame Aussage würden wir die prüfende Person fragen: Können Sie zeigen, woher dieser Satz kommt und weshalb diese Quelle hier gilt? Wenn die Antwort nur auf die KI verweist, ist die Prüfung noch nicht abgeschlossen.

Unser Vorschlag für den Anfang sind etwa 20 sorgfältig ausgewählte Fälle aus einem klar begrenzten Arbeitsablauf. Das ist eine handhabbare Startgrösse, kein statistischer Nachweis und keine allgemeine Sicherheitsgrenze. Eine einzelne gute Demonstration ist zu wenig; ein riesiger ungepflegter Fragenkatalog hilft ebenfalls wenig.

Nehmen Sie typische Anfragen, schwierige Ausnahmen und Fälle auf, bei denen die Unterlagen keine ausreichende Antwort enthalten. Nutzen Sie freigegebene, anonymisierte oder künstlich erstellte Testdaten. Ein Test soll die Aufgabe abbilden, ohne unnötig vertrauliche Inhalte in weitere Systeme zu verteilen.

Schreiben Sie die erwarteten Kernpunkte auf, bevor Sie die KI-Antwort sehen. Beim Offertenvergleich könnten das Gesamtkosten, Vertragsdauer und ausdrücklich nicht enthaltene Leistungen sein. Bei einer internen Wissensfrage könnte die richtige Reaktion dagegen lauten: Die Zuständigkeit ist aus den vorhandenen Quellen nicht eindeutig erkennbar.

Bewerten Sie nicht, ob die KI exakt denselben Satz schreibt wie Ihre Musterlösung. Prüfen Sie die inhaltlichen Anforderungen. Sonst bestrafen Sie gute Formulierungsvarianten und übersehen womöglich einen schön kopierten, aber sachlich falschen Satz.

Angenommen, eine Person fragt nach der «aktuellen Preisliste». Im Quellenbestand liegen zwei Listen für verschiedene Kundengruppen. Eine brauchbare Antwort könnte zuerst die Kundengruppe klären. Wer jede Rückfrage als Misserfolg zählt, belohnt unter Umständen gerade das Verhalten, das später Ärger macht: selbstsicher raten.

Wir empfehlen deshalb, für jeden Fall festzulegen, ob eine direkte Antwort, eine Rückfrage oder ein begründetes Nichtwissen erwartet wird. Bei unvollständigen Unterlagen ist Zurückhaltung ein Qualitätsmerkmal. Bei einer einfachen, eindeutig belegten Frage sollte der Assistent dagegen nicht mit endlosen allgemeinen Vorbehalten ausweichen.

Gute KI-Qualität bedeutet nicht, immer eine Antwort zu liefern. Sie bedeutet, die richtige Art von Antwort für die vorhandene Grundlage zu liefern.

Prüfen Sie auch Nachfragen im Gespräch. Bleibt eine Einschränkung erhalten, wenn jemand um eine kürzere Version bittet? Wird aus «voraussichtlich» plötzlich eine Zusage? Ein nützlicher Test endet nicht zwingend nach der ersten Antwort. Er sollte den Arbeitsweg abbilden, den Menschen tatsächlich nutzen.

Eine holprige Formulierung und eine erfundene Lieferzusage gehören nicht in denselben Fehlertopf. Legen Sie vor dem Test fest, welche Fehler eine Verwendung ausschliessen. In einer Kundenantwort kann das eine unbelegte Zusage sein. In einer Zusammenfassung kann es das Weglassen einer entscheidenden Bedingung sein.

Für einen internen Ideentext ist eine breitere Toleranz plausibel. Ein Mensch wählt die Vorschläge aus und überarbeitet sie. Wenn die Ausgabe hingegen als Grundlage für eine Bestellung dient, braucht es strengere fachliche Kontrollen. Unsere Empfehlung ist, den Prüfaufwand nach der möglichen Wirkung zu staffeln.

Notieren Sie deshalb neben dem Ergebnis auch die Fehlerklasse: sprachliche Korrektur, fachliche Nacharbeit oder nicht verwendbar. Diese Einteilung ist bewusst einfach. Sie zeigt eher, wie viel Arbeit übrig bleibt, als eine lange Dezimalzahl mit vermeintlicher Genauigkeit.

Ein kritischer Einzelfall darf in einem guten Durchschnitt nicht verschwinden. Wenn eine Anwendung eine wesentliche Vertragsbedingung erfindet, hilft die Feststellung «19 andere Antworten waren gut» bei dieser Entscheidung nicht weiter. Analysieren Sie die Ursache und begrenzen Sie den Einsatz, bis die betreffende Fehlerart angemessen behandelt ist.

Für viele Antworten kann eine automatisierte Bewertung nützlich sein. Microsoft beschreibt in seinem Beitrag zu Evaluatoren aber ausdrücklich auch die Prüfung dieser Bewertungsverfahren selbst: unter anderem mit kontrollierten Fehlern und bekannten erwarteten Ergebnissen. Ein plausibel erklärter Punktwert ist noch keine verlässliche Messung.

Quelle: Microsoft: Who evaluates the evaluators?

Unser praktischer Schluss: Kalibrieren Sie einen automatischen Prüfer mit fachlich bewerteten Beispielen. Erkennt er eine ausgelassene Ausnahme? Lässt er korrekte Antworten passieren? Verwechselt er einen ausführlichen Text mit einem guten Text? Prüfen Sie nicht nur seine Begründung, sondern sein Urteil.

Für den Einstieg reicht meist ein manueller Durchgang mit den zuständigen Fachpersonen. Wenn der Umfang wächst, kann Technik die Vorprüfung beschleunigen. Die fachliche Verantwortung sollte dabei sichtbar bleiben. «Das andere Modell fand es gut» ist für eine relevante Geschäftsentscheidung zu dünn.

Qualität und Nutzen gehören zusammen. Messen Sie deshalb nicht nur, wie schnell ein Entwurf erscheint. Erfassen Sie auch die Zeit zum Öffnen der Quellen, Korrigieren und Freigeben. Wenn aus drei Minuten Texterstellung zehn Minuten Prüfung werden, sieht die Rechnung anders aus als in der Vorführung.

Vergleichen Sie denselben Ablauf einmal mit und einmal ohne KI. Verwenden Sie ähnliche Aufgaben und halten Sie fest, wer geprüft hat. Bei kleinen Stichproben ist das ein Orientierungspunkt, keine belastbare Hochrechnung für das ganze Unternehmen. Der Vergleich sollte trotzdem ehrlich sein.

Unser Rat ist, zuerst den Engpass zu finden. Vielleicht spart die KI bei Standardschreiben viel Zeit, während sie bei komplexen Vertragsvergleichen zu viel Nacharbeit erzeugt. Dann ist eine engere Nutzung eine vernünftige Produktentscheidung. Man muss ein Werkzeug nicht für jede Aufgabe freigeben, damit es sich lohnt.

Ein geänderter Prompt, eine neue Quelle oder eine andere Modellversion kann das Verhalten beeinflussen. Bewahren Sie deshalb einen festen Kern Ihrer Prüffälle auf. Wiederholen Sie diese Fälle nach wesentlichen Änderungen und ergänzen Sie neue Fehler aus dem Betrieb. Unsere Empfehlung ist ein kleiner, gepflegter Testbestand statt einer einmaligen Abnahme, die danach niemand mehr ansieht.

Dokumentieren Sie Datum, Anwendung, sichtbare Modellbezeichnung soweit verfügbar, verwendete Quellen und Ergebnis. Wenn ein Produkt seine internen Komponenten nicht offenlegt, notieren Sie diese Grenze. Erfinden Sie keine Versionssicherheit, die sich nicht beobachten lässt.

Trennen Sie dabei Entwicklung und Abnahme. Wenn Sie einen Prompt ständig auf dieselben 20 Fälle optimieren, kann er dort besser aussehen, ohne neue Aufgaben besser zu lösen. Halten Sie einige zusätzliche Fälle für eine unabhängige Gegenprobe zurück. Auch das ersetzt keine breitere Prüfung bei folgenreichen Anwendungen, macht die erste Entscheidung aber nachvollziehbarer.

Für diese Woche genügt ein konkreter Schritt: Wählen Sie eine wiederkehrende Aufgabe, vereinbaren Sie die unverzichtbaren Inhalte und prüfen Sie einen kleinen Satz typischer sowie schwieriger Fälle. Lassen Sie die fachlich zuständige Person die Ergebnisse beurteilen. Entscheiden Sie danach, wo KI bereits hilft und wo eine klare Grenze nötig bleibt.

Unsere Haltung ist optimistisch, aber anspruchsvoll: Gute KI muss keine makellose Sprache vorführen. Sie muss im vorgesehenen Einsatz brauchbare Ergebnisse liefern, Unsicherheit sichtbar machen und sich vernünftig kontrollieren lassen. Genau damit wird aus einer eindrucksvollen Antwort ein belastbares Arbeitsmittel.