Synthetische Bilder gegen den Bias: Warum eine KI nur so gut ist wie ihre Daten
Mir ist diese Woche ein Forschungsprojekt aufgefallen, das auf den ersten Blick nur Mediziner interessiert – das aber eine Lektion enthält, die jedes Unternehmen betrifft, das KI nutzt. Es geht um KI, die Hautkrebs auf Fotos erkennen soll. Eine großartige Sache, die Leben retten kann. Der Haken: Sie funktioniert nicht für alle Menschen gleich gut. Und genau daran lässt sich etwas Grundsätzliches über KI lernen.
Wo ist das Problem?
KI-Modelle lernen aus Beispielen. Bei der Hautkrebserkennung lernen sie aus tausenden Fotos von Hautveränderungen. Das Problem: In diesen Bildersammlungen sind, wie der DFKI-Forscher Stanislav Frolov erklärt, dunklere Hauttypen und jüngere Menschen deutlich seltener vertreten. Die Folge ist logisch und ärgerlich zugleich: Was die KI selten gesehen hat, erkennt sie schlechter. Für Menschen mit dunkler Haut oder im jungen Alter liefert sie also häufiger falsche Einschätzungen. Fachleute nennen so eine eingebaute Schieflage „Bias“ – eine Voreingenommenheit, die niemand absichtlich programmiert hat, die aber trotzdem da ist.
Die überraschende Lösung: künstliche Bilder
Hier kommt das DFKI-Projekt „MedGenAI“ ins Spiel. Das DFKI ist das Deutsche Forschungszentrum für Künstliche Intelligenz, also keine kleine Bastelbude. Die Idee klingt zunächst paradox: Man bekämpft das Datenproblem mit künstlich erzeugten Daten. Eine generative KI – dieselbe Technik, die auch Bilder für Werbung erstellt – produziert gezielt realistische Hautbilder für genau die Gruppen, die in den echten Daten fehlen. Über Parameter wie Hautton, Alter und Geschlecht lassen sich Testgruppen zusammenstellen, die es in der Realität so kaum gibt. So wird die Datenbasis ausgewogener – und die KI fairer.
Wichtig, und das betont auch der Forscher: Diese künstlichen Bilder sollen die echten Daten ergänzen, nicht ersetzen. Mediziner müssen prüfen, ob die erzeugten Bilder klinisch plausibel sind, und vor einem echten Einsatz braucht es Studien mit echten Patienten.
Was heißt das für mein Unternehmen?
Jetzt kommt der Teil, der auch ohne Medizin spannend ist. Die Geschichte führt eine der wichtigsten KI-Wahrheiten überhaupt vor Augen: Eine KI ist immer nur so gut wie die Daten, mit denen sie gefüttert wurde. Das gilt nicht nur in der Medizin.
Wo lauert das in der Praxis?
Ein paar Beispiele aus dem Geschäftsalltag, bei denen versteckte Schieflagen entstehen können:
- Eine KI, die Bewerbungen vorsortiert, lernt aus früheren Einstellungen – und übernimmt womöglich alte Vorurteile.
- Ein KI-Tool, das Kundenanfragen beantwortet, kennt nur die Fälle, die es in den Trainingsdaten gab – ungewöhnliche Anliegen kann es verkennen.
- Eine KI, die Verkaufszahlen vorhersagt, ist blind für alles, was in den historischen Daten nicht vorkam.
Was kann ich konkret tun?
Unser Tipp aus der Praxis: Fragen Sie bei jedem KI-Werkzeug, das Sie einsetzen, nach der Datengrundlage. Worauf wurde es trainiert? Passt das zu Ihrer Kundschaft und Ihrem Geschäft? Und behalten Sie das letzte Wort bei wichtigen Entscheidungen bei einem Menschen. Ehrlich gesagt halte ich dieses Bewusstsein für blinde Flecken für genauso wichtig wie die Begeisterung über das, was KI alles kann.
Unser Fazit
Das MedGenAI-Projekt zeigt zweierlei: Erstens, dass clevere Forschung KI gerechter machen kann. Und zweitens, dass wir alle ein waches Auge auf die Datenqualität haben sollten. Gute Daten, gute Ergebnisse – schlechte oder einseitige Daten, schlechte Ergebnisse. Diese einfache Regel sollte jeder im Kopf haben, der KI im Betrieb einsetzt.
Quellen
- https://www.heise.de/news/KI-Update-Deep-Dive-Synthetische-Bilder-gegen-den-Bias-11341480.html
- https://www.dfki.de/web
Hinweis zur Transparenz: Dieser Beitrag wurde KI-gestützt erstellt und vor der Veröffentlichung redaktionell geprüft. Inhalte können Fehler enthalten — für wichtige Entscheidungen bitte die verlinkten Originalquellen heranziehen.
