AI

BACS: Wie autonome KI unter Kontrolle bleibt

BACS: Wie autonome KI unter Kontrolle bleibt

Autonome KI-Systeme stehen im Zentrum eines internationalen Cybersicherheitsdialogs mit Schweizer Beteiligung. Das Bundesamt für Cybersicherheit (BACS) berichtete am 12. Oktober 2026 über Gespräche in Dublin und die angekündigte Teilnahme seines Direktors Florian Schütz an der Singapore Cyber Week. Die Meldung dokumentiert den Austausch von Behörden. Sie verkündet weder neue Schweizer Vorschriften noch einen technischen Sicherheitsstandard.

Was die Behörden besprochen haben

Europäische Cybersicherheitsdirektorinnen und -direktoren trafen sich am 8. Oktober in Dublin. Zu den Themen gehörten KI-gestützte Schwachstellensuche, grossflächige Code-Analyse und die menschliche Aufsicht über autonome Agenten. Diskutiert wurden auch operative Risiken, der Missbrauch von KI und das Verhältnis zwischen Chancen und Risiken offener Modelle.

Schütz beteiligte sich zudem an einer Diskussion über digitale Souveränität und widerstandsfähige Lieferketten. Für die Singapore Cyber Week vom 12. bis 15. Oktober kündigt die Mitteilung ein weiteres Panel an. Dort soll die Sicherheit agentischer Robotik mit der Sicherheit physischer Systeme zusammengebracht werden. Die Quelle enthält noch keine Ergebnisse dieses angekündigten Panels.

Warum Befugnisse zur Kernfrage werden

Für die praktische Einordnung lohnt sich eine einfache Unterscheidung: Ein System kann Informationen bereitstellen, einen nächsten Schritt vorschlagen oder eine Aktion tatsächlich ausführen. Diese Aufgaben verlangen unterschiedliche Befugnisse. Wer einen Bericht zusammenfassen darf, benötigt dafür nicht automatisch Zugang zum Versenden von Nachrichten, Ändern von Kundendaten oder Auslösen einer Bestellung.

Der Begriff KI-Agent beschreibt hier einen Ablauf, in dem ein KI-System Werkzeuge nutzt und mehrere Schritte zur Bearbeitung einer Aufgabe miteinander verbindet. Wie selbständig es dabei handelt, hängt von der konkreten Einrichtung ab. Für ein Unternehmen ist deshalb die Bezeichnung weniger hilfreich als eine klare Beschreibung: Welche Daten liest das System? Welche Änderungen darf es vornehmen? An welcher Stelle entscheidet ein Mensch?

Ein Beispiel aus dem betrieblichen Alltag

Als redaktionelles Beispiel könnte ein Agent eingehende Beschaffungsanfragen vorsortieren und einen Bestellentwurf vorbereiten. Ein verantwortlicher Mitarbeiter prüft danach Betrag, Lieferant und Inhalt. Erst nach dieser Prüfung wird die Bestellung freigegeben. Die Informationsverarbeitung und die verbindliche Handlung bleiben damit getrennte Schritte. Dies ist ein vorgeschlagener Ablauf, kein vom BACS getesteter Einsatz und kein dokumentiertes Alphalink-Kundenprojekt.

Für einen ersten Versuch wären freigegebene Testdaten und ein begrenzter Aufgabenbereich sinnvoll. Dabei sollte auch ein Fehlerfall vorkommen: Was passiert bei einer unvollständigen Anfrage, einem widersprüchlichen Dokument oder einem nicht erreichbaren Dienst? Ein brauchbarer Test zeigt nicht nur, ob eine Standardaufgabe gelingt. Er macht auch sichtbar, wann das System stoppt und an eine zuständige Person übergibt.

Kontrolle muss im Ablauf erkennbar sein

Aus Sicht von Alphalink sollten Verantwortliche vor der Einführung drei Dinge festlegen: erlaubte Zugriffe, erforderliche Freigaben und einen nachvollziehbaren Abbruchweg. Ein Protokoll kann dabei helfen, Eingaben, verwendete Werkzeuge und ausgeführte Aktionen später zuzuordnen. Es ersetzt jedoch weder die fachliche Prüfung noch die Entscheidung, welche Daten darin überhaupt gespeichert werden sollen.

Auch die Abhängigkeiten gehören in diese Betrachtung. Wenn ein Ablauf einen externen Dienst benötigt, sollte geklärt sein, wie das Team bei dessen Ausfall weiterarbeitet. Für die Planung kann es hilfreich sein, eine manuelle Alternative durchzuspielen. Das sind redaktionelle Überlegungen zur Einführung, keine neuen Anforderungen aus der Behördenmitteilung.

Bei Robotik wird die Wirkung körperlich

Ein Vorschlag in einer Softwareoberfläche lässt sich prüfen, bevor jemand ihn übernimmt. Bei einem System, das eine Maschine steuert, kann eine Entscheidung unmittelbar in Bewegung übersetzt werden. Das angekündigte Singapur-Panel greift genau diese Verbindung auf. Die Mitteilung liefert dazu aber keine Prüfergebnisse, Zulassung oder Sicherheitsgarantie für einen bestimmten Roboter.

Der internationale Dialog ist damit ein aktueller Anlass, über Verantwortung in autonomen Abläufen nachzudenken. Für einen konkreten Einsatz bleiben Aufgabe, Befugnisse und menschliche Zuständigkeit entscheidend. Aus einer Konferenzmeldung lässt sich noch keine fertige Lösung für den eigenen Betrieb ableiten.

Quellen

Bundesamt für Cybersicherheit BACS: Internationaler Dialog: Direktor BACS an der EU Cyber Week in Irland und an der Singapore Cyber Week. Medienmitteilung vom 12. Oktober 2026. https://www.sepos.admin.ch/de/newnsb/RuBAWC8R9zFg

Quelle geprüft am 13. Oktober 2026. Der Bericht über Dublin und die Ankündigung für Singapur stammen vom BACS; die betrieblichen Beispiele und Empfehlungen sind redaktionelle Einordnung von Alphalink.

Zurück zum Journal