RECO
    Zurück zum Blog
    KI-Prinzipien

    Human in the Loop: Warum KMU-Führungskräfte KI nur dann einsetzen sollten, wenn der Mensch in der Entscheidung bleibt

    Markus C. Weiss, BScMarkus C. Weiss, BScCTO, RECOVeröffentlicht am Zuletzt bearbeitet am 3 Min.

    „Human in the Loop“ klingt auf jeder KI-Konferenz gut. In vielen Unternehmen heißt es in der Praxis, dass irgendwo ein Mensch auf „OK“ klickt. Meine These ist strenger: Ein Mensch ist nur dann im Loop, wenn Sie für jeden Anwendungsfall die Stelle benennen können, an der er freigibt, und wenn diese Freigabe tatsächlich etwas ändern kann. Eine Führungskraft, die Tag für Tag Vorschläge bestätigt, ohne je einen abzulehnen, ist Automatisierung mit Unterschrift.

    Der naheliegende Einwand lautet, dass Freigaben KI langsam machen und den Nutzen auffressen. Das stimmt, wenn man sie überall einbaut. Deshalb gehört die Freigabe nur an die Stellen, an denen ein Fehler einen Menschen trifft oder sich schwer zurückholen lässt. Überall sonst darf die KI laufen.

    Wo der Mensch freigeben muss

    Ich nutze dafür zwei Fragen. Betrifft das Ergebnis eine konkrete Person, etwa Mitarbeitende, Bewerbende oder Kunden? Und lässt es sich nur schwer rückgängig machen, weil es in eine Personalakte, einen Vertrag, eine Zahlung oder eine Kundenmail geht?

    • Beides ja: Ein Mensch entscheidet, die KI liefert nur Kontext. Beispiel: eine Vereinbarung aus dem Mitarbeitergespräch, die in die Personalakte wandert.
    • Eine der beiden Fragen mit ja: Freigabe vor dem Versand, Stichprobe danach. Beispiel: eine Zusammenfassung, die an das Projektteam geht.
    • Beides nein: Die KI arbeitet allein, ein Mensch prüft gelegentlich. Beispiel: interne Recherche oder ein erster Textentwurf.

    Ob die Freigabe echt ist, sehen Sie an einer einfachen Zahl. Zählen Sie über einen festen Zeitraum, wie oft Prüfende einen Vorschlag ändern oder ablehnen. Für dokumentierte Prüfungen und klare Freigaben stellt Das Audit-Desaster den Zusammenhang zu nachvollziehbaren Nachweisen her. Damit wird Wissensvalidierung überprüfbar, weil sich tatsächliche Korrekturen von einer bloß formalen Freigabe unterscheiden lassen. Liegt die Quote bei null, haben Sie entweder ein perfektes System oder eine Prüfung, die niemand ernst nimmt. Ich würde auf die zweite Erklärung wetten.

    Was der EU AI Act dazu sagt

    Für Hochrisiko-Systeme, etwa KI in Bewerberauswahl oder Leistungsbeurteilung, schreibt der AI Act menschliche Aufsicht vor. Artikel 14 verpflichtet den Anbieter, das System so zu bauen, dass Menschen es verstehen, ein Ergebnis verwerfen und das System anhalten können. Ausdrücklich genannt ist auch die Gefahr, sich zu sehr auf die Ausgabe zu verlassen (Automatisierungsbias). Artikel 26 Abs. 2 verlangt vom Betreiber, die Aufsicht Personen mit Kompetenz, Schulung und Befugnis zu übertragen. Für diese Systeme gilt das ab 2. Dezember 2027. Welche Pflichten ein KMU bis dahin sonst hat, steht in unserem Beitrag zum EU AI Act in der Praxis. Diese Einordnung ist keine Rechtsberatung.

    Wie RECO das im Produkt umsetzt

    RECO verarbeitet Mitarbeitergespräche, also fast durchgehend Inhalte, die eine Person betreffen. Wir haben deshalb von Anfang an festgelegt, an welchen Stellen die Führungskraft entscheidet.

    • Vorbereitung eines Mitarbeitergesprächs: RECO stellt Themen, frühere Vereinbarungen und offene Punkte zusammen. Was davon ins Gespräch kommt, entscheidet die Führungskraft.
    • Während des Gesprächs: dezente Hinweise auf Themen, die noch fehlen. Was gesagt wird, bleibt beim Menschen.
    • Nachbereitung: Die KI schlägt Zusammenfassung, Vereinbarungen und Folgetermine vor. Die Führungskraft prüft, korrigiert und gibt frei.
    • Wissensbasis: Inhalte sind versioniert, und bei jeder Empfehlung lässt sich nachvollziehen, aus welchem Gespräch oder Dokument sie stammt.

    Was Geschäftsführungen jetzt tun sollten

    Schreiben Sie für jeden geplanten Anwendungsfall auf, wer an welcher Stelle freigibt, und ordnen Sie ihn mit den zwei Fragen ein. In KMU kann dafür etwa die zuständige Projektleitung Zusammenfassungen prüfen, bevor daraus verbindliche Zusagen an Kunden werden. Verlangen Sie von jedem Tool, dass es seine Quellen zeigt. Kann es das nicht, gehört es nicht in Prozesse, die Menschen betreffen. Schulen Sie Führungskräfte darin, KI-Vorschläge zu prüfen und zu ergänzen statt abzunicken, und halten Sie fest, wer was warum freigegeben hat, damit die Entscheidung auch Jahre später noch nachvollziehbar ist. Messen Sie außerdem regelmäßig die Änderungsquote. Sie sagt Ihnen mehr über Ihre Aufsicht als jede Richtlinie.

    Quellen

    Häufige Fragen zu diesem Thema

    Was ist der Unterschied zwischen Human in the Loop und Human on the Loop?+

    Bei Human in the Loop gibt ein Mensch jedes einzelne Ergebnis frei, bevor es wirkt. Bei Human on the Loop läuft das System selbstständig, und ein Mensch überwacht es und greift bei Auffälligkeiten ein. In der Logik dieses Beitrags entspricht das ungefähr der mittleren Stufe: Freigabe dort, wo ein Ergebnis eine Person betrifft oder schwer rückgängig zu machen ist, Stichproben im Rest. Für Inhalte, die in eine Personalakte gehen, reicht Überwachung allein nicht.

    Ähnliche Artikel

    In einer 30-minütigen Software Demo zeigen wir Ihnen, wie RECO Wissen in Ihrem Unternehmen sichert und weitergibt. Jetzt Demo anfragen, wir melden uns mit einem Terminvorschlag.