Was darf eine KI in deinem Büro erledigen — und was nie?

Was darf eine KI in deinem Büro erledigen — und was nie? Die Grenze ist einfacher, als die meisten denken. Fünf Paare:

1. Mails sortieren: ja. Mails löschen: nie. Eine falsch einsortierte Mail findest du wieder. Eine gelöschte nicht.

2. Dokumente ablegen: ja. Dokumente verschicken: nie. Die Ablage im falschen Ordner ist ein Klick zurück. Ein Dokument beim falschen Empfänger ist nicht zurückzuholen.

3. Eine Antwort entwerfen: ja. Sie absenden: nie. Der Entwurf spart die Zeit. Das Senden trägt die Verantwortung — und die bleibt bei einem Menschen.

4. Eine Frist erkennen und melden: ja. Entscheiden, ob sie wichtig ist: nie. Die Maschine sieht das Datum. Ob es dein Wochenende wert ist, weisst nur du.

5. Einen Preis aus dem Vertrag heraussuchen: ja. Einen Preis zusagen: nie. Nachschlagen ist Arbeit. Zusagen ist ein Geschäft.

Die Regel dahinter: Die Maschine darf alles, was sich rückgängig machen lässt. Alles, was nach aussen geht oder bindet, bleibt bei einem Menschen. Bei uns läuft das Backoffice seit Monaten so, und keine Mail hat das Haus verlassen, ohne dass jemand auf «Senden» gedrückt hat. Wie das im Alltag aussieht, steht auf der Seite zur Leistung.

Die Grenze kostet ein paar Sekunden pro Entwurf: Jemand liest und drückt auf «Senden». Das ist gewollt. Die eine Mail, die nicht hätte rausgehen dürfen, kostet mehr als alle Sekunden zusammen.

Welches Paar würde bei dir die meiste Diskussion auslösen?

Warum die Grenze auch eine Datenschutz-Frage ist

Jedes der fünf «nie» beschreibt einen Moment, in dem Daten das Haus verlassen oder unwiederbringlich verschwinden: die Mail an den falschen Empfänger, das Dokument beim falschen Kunden, die gelöschte Akte. Das Schweizer Datenschutzgesetz verlangt, Personendaten durch angemessene technische und organisatorische Massnahmen zu schützen (Art. 8), und kennt für Verletzungen der Datensicherheit eine Meldepflicht, wenn ein hohes Risiko für die Betroffenen entsteht (Art. 24). Ein falsch verschicktes Dossier ist genau so ein Fall.

Die Regel «alles, was nach aussen geht, bleibt bei einem Menschen» ist deshalb nicht Vorsicht um ihrer selbst willen. Sie ist die organisatorische Massnahme, die sich am einfachsten erklären und am einfachsten überprüfen lässt.

Die zweite Grenze: Wer sieht was?

Zur Frage, was eine KI tun darf, gehört die Frage, was sie überhaupt zu sehen bekommt. Bei uns ist der Zugriff nach Mandat getrennt: Wer für eine Firma arbeitet — Mensch oder Maschine — sieht die Unterlagen der anderen nicht.

Drei Fragen an jeden Anbieter

1. Welche Handlungen kann die KI ohne Freigabe eines Menschen auslösen?
2. Lässt sich jede davon rückgängig machen?
3. Wer — und was — sieht welche Unterlagen?

Bekommst du darauf keine klare Antwort, ist das die Antwort.