Eine KI kann eine Anweisung zügig ausführen und dabei trotzdem das falsche Objekt auswählen. Für Unternehmen ist deshalb eine praktische Frage entscheidend: Können Mitarbeitende erkennen, was das System verstanden hat, bevor sie eine Aktion freigeben? Eine neue Forschungsarbeit gibt Anlass, solche Übergaben genauer zu gestalten.
Christian Poelitz, Finale Doshi-Velez und Siân Lindley veröffentlichten am 30. September 2026 den Preprint «Referential Uncertainty in Human–AI Collaboration». Untersucht wurde eine Puzzleaufgabe mit mehrdeutigen Beschreibungen. In einem kontrollierten Versuch mit 210 Personen wurden bei der Standardkommunikation rund 78 Prozent der falschen Platzierungen akzeptiert. Präzise Beschreibungen mit gezielten Unsicherheitshinweisen senkten diesen Anteil auf rund 36 Prozent.
Was der Versuch tatsächlich zeigt
Der stärkste Vergleich nutzte Hinweise, die anhand bereits bekannter Fehler gesetzt wurden. Die Forschenden wussten also, welche Auswahl falsch war. Das ist eine experimentelle Bedingung, keine direkt einsetzbare Erkennungsfunktion. Eine Variante, die Hinweise aus der Unsicherheit des Modells ableitete, erzielte nicht denselben Nutzen.
Die Arbeit ist ein Preprint. Ihre Ergebnisse beziehen sich auf die untersuchte Puzzleaufgabe und die jeweiligen Versuchsbedingungen. Sie liefern keine allgemeine Fehlerquote für KI im Unternehmen und keinen Nachweis, dass ein Warnhinweis Geschäftsprozesse um einen bestimmten Prozentsatz sicherer macht.
Unsere Einordnung: Eine Freigabe braucht sichtbaren Inhalt
Für die Gestaltung von Unternehmenssoftware ergibt sich daraus eine sinnvolle Prüfaufgabe: Zeigt die Oberfläche genug Informationen, um eine Entscheidung beurteilen zu können? Ein Knopf mit «Bestätigen» sagt wenig darüber aus, welcher Datensatz gewählt wurde oder welche Änderung bevorsteht.
Unsere Empfehlung ist, Freigaben an einer konkreten Vorschau auszurichten. Diese sollte den betroffenen Eintrag, die geplante Aktion und die wesentlichen Änderungen zeigen. Wer eine E-Mail freigibt, sollte Empfänger und Text sehen können. Wer eine Rechnung zuordnen lässt, sollte die ausgewählte Rechnung und die Zuordnung nachvollziehen können. Das sind Gestaltungsbeispiele, keine in dieser Studie getesteten Anwendungen.
Ähnliche Namen sind ein guter Testfall
Stellen Sie sich einen internen Assistenten vor, der die Anweisung erhält: «Senden Sie das Angebot an Müller.» In der Kundenverwaltung stehen zwei Unternehmen mit diesem Namen. Ein sinnvoller Ablauf könnte beide Treffer mit Firmenname, Ort und Ansprechpartner anzeigen und eine gezielte Auswahl verlangen.
Die Rückfrage würde dann lauten, welches der beiden Unternehmen gemeint ist. Die Oberfläche sollte die Auswahl anschliessend bis zum Versand sichtbar halten. So wird aus einer unklaren Anweisung eine überprüfbare Entscheidung. Ob dieser Ablauf im konkreten System gut funktioniert, muss mit eigenen Fällen getestet werden.
Solche Tests sollten auch kleine Unterschiede enthalten: zwei ähnliche Dateinamen, alte und neue Dokumentversionen oder mehrere Kontakte innerhalb derselben Firma. Gerade dort lässt sich prüfen, ob die Anzeige eine Verwechslung erkennbar macht und ob eine Korrektur einfach möglich ist.
Hinweise müssen zur Entscheidung passen
Wir würden Unsicherheitshinweise nicht als pauschale Dekoration einsetzen. Ein allgemeiner Satz wie «KI kann Fehler machen» erklärt noch nicht, was bei einer bestimmten Aktion unklar ist. Eine hilfreiche Meldung benennt die offene Frage und bietet eine passende Möglichkeit, sie zu klären.
Ebenso sollten angezeigte Prozentwerte nicht ohne Prüfung als verlässliche Wahrscheinlichkeit erscheinen. Für ein eigenes Produkt empfiehlt sich zunächst eine fachliche Bewertung: Worauf beruht das Signal? Welche Fehler erkennt es? Welche übersieht es? Wie oft unterbricht es einen korrekten Vorgang? Diese Fragen gehören in die Erprobung der Anwendung.
Was das für Schweizer KMU bedeutet
Unsere praktische Empfehlung ist, mit einem überschaubaren Prozess zu beginnen. Dokumentieren Sie typische Eingaben, mehrdeutige Fälle und die erwartete Reaktion. Prüfen Sie neben korrekten Ergebnissen auch, ob Nutzende falsche Vorschläge erkennen, berichtigen und gegebenenfalls abbrechen können.
Für Alphalink liegt hier eine konkrete Aufgabe bei der Entwicklung von Webanwendungen und KI-Automatisierungen: die Übergabe zwischen System und Mensch verständlich gestalten. Dazu gehören klare Vorschauen, gezielte Rückfragen und nachvollziehbare Änderungen. Ob diese Gestaltung den jeweiligen Arbeitsablauf verbessert, sollte anhand eigener Beispiele geprüft werden.
Eine menschliche Freigabe ist nur so hilfreich wie die Informationen, die ihr vorausgehen. Der nächste sinnvolle Schritt ist deshalb, die Entscheidungssituation im eigenen Prozess sichtbar und testbar zu machen.
Quellen
Poelitz, Christian; Doshi-Velez, Finale; Lindley, Siân: Referential Uncertainty in Human–AI Collaboration. Preprint, eingereicht am 30. September 2026.
https://arxiv.org/abs/2609.39518
Volltext: https://arxiv.org/html/2609.39518v1
Geprüft am 3. Oktober 2026.