Interview mit Otto: KI fair und inklusiv gestalten

Die KI eröffnet dem Handel einerseits viele Vorteile, andererseits kann KI zu verzerrten und diskriminierenden Inhalten, sogenannten Bias, führen. Wie verhindern Sie bei Otto die Verbreitung von Bias?

Der verantwortungsvolle und reflektierte Umgang mit KI ist für uns von zentraler Bedeutung. Unterschiedliche Perspektiven helfen uns, Bias frühzeitig zu erkennen und zu vermeiden.Unsere KI-Produkte entstehen daher in möglichst heterogenen Teams. In der IT liegt der Frauenanteil beispielsweise bei 31 Prozent – ein Wert, den wir aktiv fördern.Diversität ist für uns nicht nur ein ethischer Anspruch, sondern ein strategischer Erfolgsfaktor.

Können Sie uns ein konkretes Beispiel nennen?

Im Newsletterprozess setzen wir für die Betreffzeile ein Large Language Modell zur Generierung ein – und ein zweites LLM prüft das Ergebnis auf Übereinstimmung mit unseren ethischen Grundsätzen. So stellen wir sicher, dass keine diskriminierenden oder unangemessenen Inhalte entstehen. Wir begrüßen am EU AI Act den Aspekt, der klare Anforderungen an den verantwortungsvollen Einsatz von KI formuliert – darunter auch die Förderung von Diversität und Nichtdiskriminierung. Diese Prinzipien spiegeln sich in unseren internen Strukturen wider. Unser Ziel ist es, KI nicht nur effizient, sondern auch fair und inklusiv zu gestalten.

Gibt es bei Otto ein Qualitätsmanagement, das KI-generierte Produkte kontrolliert?

Wir setzen auf ein mehrstufiges Qualitätsmanagement für KI-generierte Produkte, das sowohl technische als auch ethische Aspekte berücksichtigt. Grundlage dafür sind konzernweite Leitlinien wie die „Legal Guidelines für die Nutzung generativer KI“ und strategische Rahmenwerke wie „Responsible AI“, die klare Anforderungen an Transparenz, Fairness und Qualität definieren. Ein konkretes Beispiel ist der Einsatz des Tools Movex Virtual Content Creator zur Erstellung von Produktbildern: Hier sorgt eine integrierte „Zweite Instanz“ dafür, dass die generierten Inhalte nicht nur kreativ, sondern auch ethisch geprüft sind.

Wie stellen Sie sicher, dass bei Otto nicht nur technologische Fortschritte durch KI erzielt werden, sondern die Mitarbeitenden „mitgenommen“ werden?

Bei Otto ist es uns ein zentrales Anliegen, dass technologische Fortschritte durch KI gemeinsam mit unseren Mitarbeitenden gestaltet werden. Mit dem Gen AI-Ambassadoren-Programm haben wir ein strukturiertes Format geschaffen, das Mitarbeitende befähigt, generative KI sinnvoll in ihren Arbeitsalltag zu integrieren. Die Botschafter:innen agieren als Brücke zu den Fachbereichen und fördern dort den Wissensaufbau, den Austausch und die konkrete Umsetzung. Gleichzeitig arbeiten wir aktiv daran, die sogenannte KI-Kluft zu vermeiden – also die Gefahr, dass einige Fachbereiche bereits sehr weit in der Anwendung von KI sind, während andere sich erst auf den Weg machen.

Welche Rolle spielen bei Otto daten- und KI-gestützte Ansätze dabei, Innovationskraft zu fördern und gleichzeitig einen positiven gesellschaftlichen Beitrag zu leisten?

Transformation bedeutet für uns nicht nur, digitale Prozesse zu implementieren, sondern auch kulturelle Veränderungen aktiv zu gestalten. Daten- und KI-gestützte Ansätze spielen dabei eine zentrale Rolle: Sie helfen uns,Innovationen zu skalieren, Kund:innenerlebnisse zu personalisieren und unsere Prozesse effizienter zu gestalten. Gleichzeitig übernehmen wir Verantwortung – für unsere Mitarbeitenden, unsere Partner und die Gesellschaft. Mit Initiativen wie der Unterstützung der Nationalen Kreislaufwirtschaftsstrategieoder dem Responsible AI Guide gestaltenwir den digitalen Wandel bewusst mit. Unsere Transformationist dabei immer auch kulturell: Formate wie die#CDX25 oder das Change & Transformation Center fördernWirksamkeit, Werteorientierung und Teilhabe. So verbindenwir technologische Exzellenz mit gesellschaftlichem Engagement– und schaffen ein Umfeld, in dem Innovation undVerantwortung Hand in Hand gehen.

Das Interview führte Katharina Sieweke.