Wie Microsoft Responsible AI nutzt, um KI unternehmensreif zu machen
Microsofts sechs Responsible-AI-Prinzipien hängen inzwischen in vielen Präsentationen: Fairness, Zuverlässigkeit und Sicherheit, Datenschutz und Sicherheit, Inklusion, Transparenz, Verantwortlichkeit. Für ein mittelständisches Unternehmen sind sie meiner Einschätzung nach der am wenigsten nützliche Teil dessen, was Microsoft zu dem Thema veröffentlicht hat. Brauchbar wird es eine Ebene tiefer, im Responsible AI Standard v2 von Juni 2022. Dort steht, wer wann was prüfen muss. Diese Mechanik können Sie kopieren, das Plakat mit den Prinzipien brauchen Sie nicht.
Der übliche Einwand lautet, Responsible AI sei etwas für Konzerne mit eigener Ethikabteilung. Ein mittelständischer Betrieb könne sich das nicht leisten. Ich halte das für falsch, weil die Teile, die sich lohnen, auf eine Seite passen. Teuer wird es erst, wenn eine KI-Empfehlung in einer Personalentscheidung oder einem Kundenvertrag falsch war und niemand sagen kann, wer sie freigegeben hat.
Was Microsoft tatsächlich macht
Die Prinzipien sind die Überschrift. Der Standard übersetzt jede davon in Ziele mit konkreten Anforderungen. Unter Verantwortlichkeit stehen etwa eine Folgenabschätzung (A1), die Aufsicht über erhebliche negative Auswirkungen (A2), die Eignung für den Zweck (A3), Daten-Governance und Datenmanagement (A4) sowie menschliche Aufsicht und Kontrolle (A5). Unter Transparenz verlangt das Ziel T3, dass Menschen darüber informiert werden, wenn sie mit einem KI-System interagieren.
Zwei Regeln aus dem Standard halte ich für direkt übertragbar. Die Folgenabschätzung wird früh gemacht, typischerweise wenn Produktvision und Anforderungen eines Systems festgelegt werden, und nicht kurz vor dem Rollout. Und sie wird mindestens einmal im Jahr überprüft, außerdem immer dann, wenn ein neuer Einsatzzweck dazukommt (A1.3). Bei A5 nennt der Standard ausdrücklich die Gefahr, sich zu sehr auf die Ausgabe zu verlassen. Der Fachbegriff dafür ist Automatisierungsbias.
Laut dem Responsible AI Transparency Report 2025 laufen höher riskante Einsätze und Generative-AI-Releases bei Microsoft durch eine Prüfung vor dem Start und durch Red-Teaming, und die Anforderungen des Standards werden über ein internes Workflow-Werkzeug dokumentiert. Die Zahl der geprüften Fälle nennt Microsoft in dieser Zusammenfassung nicht. Das ist eine Lücke, die Sie beim Lesen im Kopf behalten sollten. Es ist eine Selbstauskunft.
Die sechs Prinzipien als Fragen für Ihren Betrieb
Statt die Prinzipien zu erklären, stelle ich zu jedem eine Frage, die Sie für einen konkreten Anwendungsfall beantworten können.
- Fairness: Bewertet oder sortiert das System Menschen, etwa Bewerbungen oder Leistungsdaten? Wenn ja, prüfen Sie stichprobenartig, ob bestimmte Gruppen systematisch schlechter abschneiden.
- Zuverlässigkeit und Sicherheit: Was passiert, wenn das System ausfällt oder Unsinn liefert? Es braucht einen festgelegten Weg zurück zum manuellen Prozess.
- Datenschutz und Sicherheit: Wo werden die Daten verarbeitet, wie lange bleiben sie gespeichert, und werden sie für das Training des Anbieters verwendet? Ein Mitarbeitergespräch ist kein Trainingsmaterial.
- Inklusion: Funktioniert das System auch für die Kollegin im Lager, für Dialekt und für Menschen, die schlecht sehen? Ein Werkzeug, das nur eine Gruppe gut bedienen kann, vergrößert interne Unterschiede.
- Transparenz: Sehen Betroffene, dass KI beteiligt war, und lässt sich eine Empfehlung bis zur Quelle zurückverfolgen?
- Verantwortlichkeit: Welche Person steht für diesen Anwendungsfall mit Namen gerade? „Die IT“ zählt nicht.
Kein Punkt auf dieser Liste braucht ein Ethikgremium. Er braucht eine Person, die die Antwort aufschreibt.
Vom Prinzip zum Betriebsmodell: Govern, Map, Measure, Manage
Für den Betrieb verweist Microsoft auf das AI Risk Management Framework 1.0 des US-amerikanischen NIST aus Januar 2023, seine veröffentlichten Fallstudien stützen sich nach eigener Angabe darauf. Es ist freiwillig und ordnet die Arbeit in vier Funktionen. Govern ist dabei keine Phase, sondern zieht sich laut NIST durch alles. Wie das in einem KMU aussieht, zeige ich an einem Beispiel.
Als Beispiel dient ein typischer Anwendungsfall, frei skizziert und kein realer Kunde. Ein Beratungsunternehmen will seine internen Projektberichte und Meeting-Protokolle mit KI durchsuchbar machen. Neue Kolleginnen sollen selbst nachlesen können, wofür sie bisher viele Flurgespräche brauchten. Ob dieser Wissenstransfer gelingt, zeigt sich daran, ob sie eine typische Projektfrage anhand der zugänglichen Quellen richtig beantworten können.
Govern: Wer entscheidet
Die Geschäftsführung benennt eine verantwortliche Person für das System, im Beispiel die Leiterin Wissensmanagement. Schriftlich festgelegt wird, wer neue Datenquellen freigibt, wer das System abschalten darf und wann die Überprüfung stattfindet, die der Microsoft-Standard mindestens einmal im Jahr vorsieht. Ohne diese Ebene entsteht Schatten-IT, und jedes Team lädt seine Dokumente in ein anderes Tool.
Map: Risiken vor dem Start verstehen
Vor dem Start klärt das Team drei Dinge. Welche Daten fließen ein, und sind Personalakten oder Mitarbeitergespräche darunter? Wer darf welche Antworten sehen, damit vertrauliche Kundenprojekte nicht im Suchergebnis eines anderen Teams auftauchen? Und was ist der schlimmste realistische Fehler, etwa eine veraltete Honorarvereinbarung, die als aktuell ausgegeben wird? Danach wird gezielt versucht, das System zu einer solchen Antwort zu bringen.
Measure: Wirkung messbar machen
Gemessen werden wenige Dinge, die jeder versteht: Anteil der Antworten mit nachprüfbarer Quelle, Anteil der Antworten, die Fachleute in einer regelmäßigen Stichprobe fester Testfragen als falsch markieren, und die Zeit, bis neue Mitarbeitende eine typische Projektfrage selbst beantworten können. Ohne diese Zahlen weiß beim nächsten Prüftermin niemand, ob das System hält, was der Pilot versprochen hat.
Manage: Kontrolle im laufenden Betrieb
Im Betrieb behalten Menschen die Hoheit. Nutzerinnen können Antworten als falsch melden, gemeldete Fehler landen bei der verantwortlichen Person, und bei sensiblen Inhalten entscheidet ein Mensch, bevor etwas weitergegeben wird. Steigt die Fehlerquote in der Stichprobe, wird die betroffene Quelle aus dem Index genommen, bis sie bereinigt ist. Für nachvollziehbare Prüfverantwortung ergänzt Das Audit-Desaster die Sicht auf geordnete Nachweise. So schützt die Wissensvalidierung davor, dass eine bereits erkannte falsche Auskunft weiter als verlässliches Unternehmenswissen erscheint.
Der Aufwand dafür besteht vor allem aus Abstimmung, und das Ergebnis passt auf eine Seite. Vieles davon überschneidet sich mit dem, was der EU AI Act von Betreibern ohnehin erwartet. Welche Pflichten dort konkret gelten, steht in unserem Beitrag zum EU AI Act in der Praxis.
Wie wir die Prinzipien in RECO übersetzen
RECO macht Gespräche wie Mitarbeitergespräche, Jour fixes und Projektübergaben durchsuchbar. Damit landen wir bei fast jedem Prinzip in der heikelsten Ausprägung, denn es geht um Aussagen von Menschen über Menschen.
- Datenschutz und Sicherheit: Die Verarbeitung läuft auf Servern in der EU, auf einem dedizierten Server in Deutschland, für Unternehmen mit strengeren Vorgaben auch on-premises.
- Transparenz: Jede Antwort verweist auf das Gespräch oder Dokument, aus dem sie stammt. Wer sie liest, kann die Stelle selbst prüfen.
- Menschliche Aufsicht: Die KI schlägt Zusammenfassungen und Vereinbarungen vor. Freigegeben werden sie von der Führungskraft. Warum wir das zum Grundprinzip gemacht haben, beschreibt der Beitrag zu Human in the Loop.
- Verantwortlichkeit: Ob ein Gesprächsinhalt in Feedback, Beförderung oder Übergabe einfließt, entscheidet ein Mensch. Das Modell liefert Kontext.
Ein Prüfstein für Ihre nächste KI-Einführung
Bevor Sie ein KI-System für einen neuen Zweck freigeben, sollten vier Antworten auf einer Seite stehen: wer verantwortlich ist, welche Daten einfließen und wer sie sieht, woran Sie beim ersten Prüftermin erkennen, ob es funktioniert, und wann die nächste Überprüfung ist. Fehlt eine davon, ist das System nicht bereit, gleichgültig wie gut die Demo war. Die Prinzipien von Microsoft liefern die Überschriften. Die Arbeit steckt in diesen vier Zeilen.
Quellen
Ähnliche Artikel
In einer 30-minütigen Software Demo zeigen wir Ihnen, wie RECO Wissen in Ihrem Unternehmen sichert und weitergibt. Jetzt Demo anfragen, wir melden uns mit einem Terminvorschlag.
