Ethics by Design: KI-Ethik beginnt vor dem Kauf

Wer ein KI-System für Kreditentscheidungen einkauft, legt bereits in der Ausschreibung fest, ob sich eine Ablehnung später erklären und durch einen Menschen überprüfen lässt. Fehlen diese Anforderungen, kann ein gelungener Modelltest die Lücke nicht einfach schließen. Ethics by Design beginnt deshalb nicht beim Ethik-Workshop nach dem Pilotprojekt, sondern bei der Entscheidung, was das System überhaupt tun soll.

Die Antwort ist knapp: Für entwickelnde Unternehmen bedeutet Ethics by Design, ethische Anforderungen in Ziel, Architektur, Datenarbeit und Tests einzubauen. Für Unternehmen, die fertige KI nutzen, liegt der wirksamste Hebel häufig bei Auswahl, Einführung und laufender Kontrolle des Systems. Wer erst nach dem Kauf nach Fairness, Erklärbarkeit und einer Möglichkeit zum Eingreifen fragt, hat den wichtigsten Verhandlungsmoment verpasst.

Relevant wird die Unterscheidung heute überall dort, wo ein Unternehmen KI nicht selbst baut, sondern als Teil einer Software oder Dienstleistung in einen bestehenden Ablauf einführt: Ein gutes Entwicklungsverfahren beim Anbieter sagt noch wenig darüber, ob der konkrete Einsatz vor Ort verantwortbar ist.

Warum beginnt Ethics by Design vor dem ersten Modelltest?

Die Sechs Leitgedanken: menschliche Handlungsfähigkeit, Privatsphäre und Datenführung, Fairness, individuelles sowie gesellschaftliches und ökologisches Wohlergehen, Transparenz und Verantwortlichkeit. Das klingt nach einem Leitbild, ist aber erst der Anfang der Arbeit. Die entscheidende Übersetzung lautet etwa nicht „Das System soll fair sein“, sondern: Welche Personen könnten benachteiligt werden, welche Daten oder Regeln können das auslösen, wer prüft es und was geschieht bei einem Fehler?

Ein Beispiel macht den Unterschied greifbar. Ein System, das persönliche Kredite bewilligt, braucht eine verständliche Begründung für die einzelne Entscheidung, weil sie das Leben eines Menschen unmittelbar berührt; bei einer Terminverwaltung ist der Transparenzbedarf geringer. Daraus folgt nicht, dass jede KI jede interne Rechenoperation offenlegen müsste. Für die Gestaltung folgt jedoch, vor der technischen Auswahl festzulegen, welche Erklärung im konkreten Fall nötig ist und wie eine betroffene Person eine fragliche Entscheidung überprüfen lassen kann.

Für ein selbst entwickeltes System sollten die folgenden sechs Arbeitsphasen herangezogen werden: vom Zweck über Anforderungen, Architektur und Datenvorbereitung bis zu Entwicklung und Test. Ethische Fragen werden dabei nicht als letzte Freigabe angehängt. Schon beim Datenimport muss geklärt werden, ob wichtige Gruppen fehlen; beim Entwurf braucht es gegebenenfalls Protokolle für spätere Prüfungen; im Test muss nicht nur die Trefferquote, sondern auch das Verständnis der Nutzenden für Grenzen und Ergebnisse geprüft werden. Das ist der praktische Kern des Ansatzes, nicht ein zusätzlicher Absatz im Unternehmensleitbild.

Hier steckt auch ein harter Abbruchpunkt. Wenn schon der Zweck eines Systems Menschen täuschen, manipulieren oder ohne angemessene Eingriffsmöglichkeit über wesentliche persönliche Belange entscheiden soll, reicht eine bessere Oberfläche nicht aus. Dann muss das Vorhaben geändert oder fallengelassen werden. Ethics by Design ist also nicht nur eine Methode, problematische Technik etwas freundlicher zu gestalten, sondern auch eine Methode, ihren Zweck infrage zu stellen.

Was können Unternehmen beim Einkauf tatsächlich prüfen?

Die meisten einkaufenden Unternehmen können das Training eines fremden Modells nicht neu aufrollen. Sie können jedoch vor Vertragsabschluss einen konkreten Einsatzfall beschreiben: Welche Entscheidung wird vorbereitet, wer ist betroffen und welcher Schaden entstünde bei einem falschen Ergebnis? Bei einer Kreditvorprüfung wäre beispielsweise zu klären, ob die Software lediglich Hinweise für Sachbearbeitende liefert oder eine Ablehnung faktisch bereits feststeht, bevor jemand sie prüft. Diese Unterscheidung verändert die Anforderungen an Erklärung, Eingriff und Beschwerdeweg.

Dann braucht es Nachweise statt Etiketten. Die Anbietenden sollte die vorgesehenen Einsatzgrenzen, die relevanten Datenquellen, die bekannten Fehlermuster und den Weg zur menschlichen Überprüfung erläutern können. Für einen Pilotbetrieb lassen sich daraus Testfälle ableiten: Was passiert bei einer fehlerhaften Eingabe, wie wird ein zweifelhaftes Ergebnis dokumentiert und wer kann den Ablauf anhalten? Das sind Anforderungen an einen konkreten Beschaffungsvorgang, keine Behauptung, eine bestimmte Software erfülle sie bereits.

Auch die Verantwortung endet nicht mit der Unterschrift. Unterscheiden Sie zwischen Ethics by Design für die Entwicklung und Ethics of Use für Projektplanung, Beschaffung, Einführung und Beobachtung im Betrieb. Es ist ratsam, sich beim Kauf die Aufsicht und Dokumentation des Anbietenden erläutern zu lassen und nach der Einführung Rückmeldungen sowie unerwartete Auswirkungen zu beobachten. Wer ein Standardprodukt verwendet, muss daher nicht so tun, als habe er das Modell gebaut; jedoch genau prüfen, ob dessen Grenzen zu dem jeweiligen Einsatz passen.

Der Einsatzfall bestimmt den Prüfaufwand. Der Ansatz ist für Teams besonders nützlich, deren KI Empfehlungen oder Entscheidungen mit spürbaren Folgen für Menschen einhergeht. Er ist nicht im selben Umfang nötig, wenn ein System lediglich interne Termine sortiert und Fehler leicht erkennbar und korrigierbar sind. Auch bei niedrigem Risiko bleiben Datenschutz und ein klarer Einsatzzweck wichtig, aber ein identischer Prüfapparat für jede Anwendung wäre Aufwand ohne entsprechendes Erkenntnisziel.

Überschätzt wird die Vorstellung, ethische Prinzipien ließen sich vollständig in ein Modell einprogrammieren. Nutzungskontext und spätere Zweckänderungen können die Wirkung verändern. Ihr Rahmen eignet sich vor allem für wiederkehrende Fragen wie Datenschutz oder Verzerrungen; ungewöhnliche Konflikte verlangen eigene Abwägung, die Beteiligung Betroffener und gegebenenfalls ethische Expertise. Eine Checkliste kann diese Entscheidung vorbereiten, aber nicht für ein Unternehmen treffen.

Ebenso wenig ist Ethics by Design ein Compliance-Siegel. Ob Datenschutzrecht oder andere anwendbare Regeln eingehalten werden, ist gesondert zu prüfen. Wer den Begriff auf eine Einkaufsliste schreibt und daraus Rechtssicherheit ableitet, verwechselt eine Methode mit einem Nachweis.

Konsequenz

Konsequenz daraus ist ein knapper Prüfauftrag vor dem nächsten KI-Pilotprojekt. Fachbereich, Einkauf und verantwortliche Technikseite sollten gemeinsam eine Seite ausfüllen: Einsatzzweck, betroffene Personen, schwerwiegendster plausibler Fehler, erforderliche Anbietendenbelege und zuständige Person für Eingriff und Beschwerden. Wenn diese fünf Punkte nicht beantwortet werden können, ist ein größerer Testlauf zu früh. Wenn sie beantwortet sind, lassen sich die passenden Prüfungen auswählen und später im Betrieb wiederholen, bevor eine Fehlentscheidung eine betroffene Person trifft.