Gender Data Gap & KI: Warum unsichtbare Datenlücken echte Folgen haben können

00:00:03: Zwischen zwei Calls.

00:00:06: Hallo und herzlich willkommen zu einer neuen Folge von Zwischen Zwei Calls, einem Podcast von Wee Communications wo wir uns in einem kurzen Format nämlich zwischen zwei Call über Themen aus der Kommunikation so ein Agenturwelt unterhalten.

00:00:17: heute ist die Maler wieder bei mir.

00:00:19: hallo mala.

00:00:21: ja wir haben heute ein spannendes Thema auf der Agenda und zwar gilt ja die KI oft als eher objektiv und sehr datenbasiert.

00:00:33: Gleichzeitig haben wir es aber auch immer häufiger, dass KI bestehende Vorurteile auch verstärken kann.

00:00:41: Und wir wollen uns heute drüber unterhalten wieso das gerade im Gesundheitsbereich eine Rolle spielt.

00:00:47: Du hast dazu ja auch einen Artikel verfasst.

00:00:52: Da ging's auch um den sogenannten Gender Data Gap.

00:00:56: Das ist kein neuer Begriff, der existiert schon lange.

00:00:59: Kannst du mal kurz erklären was dahinter steckt und ja warum Frauen in Medizin und Forschung historisch gesehen da oft nicht ausreichend berücksichtigt wurden?

00:01:11: Du hast es eigentlich gerade schon erklärt und zwar dass Frauen in klinischen Daten oder Studien historisch oft nicht mit präsentiert worden oder sind.

00:01:23: das heißt viele Forschung, Studien was auch immer wurden halt mit Männern gemacht.

00:01:32: Das heißt männliche Symptome oder wie auch Medikamente bei Männern wirken und das heisst viele Annahmen oder viele ja.

00:01:43: doch Annahme ob eben heute was weiß ich.

00:01:47: Klassisches Beispiel ist so der Herzinfarkt dass Frauen ganz andere Symptom haben als Männer.

00:01:52: So, das ist so einer dieser sehr bekannten Proofpoints.

00:01:55: Okay?

00:01:56: Weil halt der Herzinfarkt immer an Männern geforscht wurde sind handels relativ spät als aufgefallen dass eben Frauen ganz andere Symptome haben und ähnlich auch was die Therapie bedingt.

00:02:08: also wie gesagt Gender Data Gap ist quasi Wie gesagt das was du gesagt hast dass Frauen einfach unterrepräsentiert sind.

00:02:14: in klinischen Daten Forschungen oder in Studien

00:02:19: betrifft es dann eigentlich auch sowas Nebenwirkungen, also theoretisch können ja dann eigentlich auch bei Frauen gegebenenfalls ganz andere Nebenwirkungen beim Medikamenten auftreten oder?

00:02:30: Ja definitiv.

00:02:31: Das ist zum Teil auch so das Frauen je nachdem... Also ich bin keine medizinische Biologe.

00:02:37: Das Klammer

00:02:37: an der Stelle!

00:02:41: Aber natürlich, wie gesagt, Medikamente können auch bei Freunden anders wirken weil sie natürlich hormonbedingt einen ganz anderen Stoffwechsel haben wo sich jetzt glaube ich auch nicht in die Tiefe gehen, dass das eigentlich ja Kommenssens ist.

00:02:54: Aber natürlich können auch die Nebenwirkungen einfach dann andere sein und Frauen brauchen zum Teil auch eine andere Dosierung.

00:03:00: also wie gesagt es hat viele Facetten aber

00:03:04: ein größeres Thema.

00:03:05: Da haben wir nicht so viel Zeit zwischen zwei

00:03:08: Jahren noch ein kleines Medizinstudium machen.

00:03:12: Dann

00:03:13: bänden wir mal den Blick mehr Richtung KI zu jetzt, wo quasi alle auf dem gleichen Stand sind was die Gender Data Gap ist.

00:03:21: Also in der KI liegen ja immer irgendwelche Daten zugrunde und wenn jetzt die natürlich schon verzerrt sind weil wir das ja gerade hatten dass oft nur an Männern geforscht wurde und dementsprechend auch die Aussagen finanziell eher für Männern gelten als für Frauen Was passiert denn dann eigentlich, wenn die KI halt jetzt auf diesen verzerrten Daten trainiert wird?

00:03:40: Also was sind da die Auswirkungen?

00:03:43: Ja ist nicht so gut.

00:03:45: Hört sich auch nicht so an!

00:03:47: Nee, das ist natürlich glänig gesagt scheiße weil natürlich dann diese falschen Annahmen reproduziert werden oder beziehungsweise auch in einem großen Maße reproduzieren werden.

00:04:00: also KI Schafft ja keine neuen Daten, sondern nutzt die Daten der KI zur Verfügung stellen.

00:04:07: Und diese Daten sind wie gesagt oft sehr männlich geprägt wenn es um Gesundheitsfragen geht.

00:04:12: und je mehr wir natürlich auch KI nutzen, beispielsweise Gesundheitskonzepte und Kommunikation zu gestalten, desto mehr reproduzieren wir eben diese falschen Bilder oder unvollständigen Bilder, die es da gibt.

00:04:28: Das heißt, wenn ich irgendwie sage okay wieder das klassische Beispiel Herzinfarkt wobei es mittlerweile auch schon viel Informationen zu gibt, dass es bei Frauen anders ist.

00:04:39: Aber wenn ich beispielsweise zum Thema Herzinfakt kommunizieren möchte und da sehr viel beispielsweise jetzt mit der KI zusammenarbeiten nutzt dieser KI natürlich die Daten, die zur Verfügung stehen.

00:04:51: Und wenn das aber eben männlich geprägt Daten sind, dann reproduziere ich sie Im schlimmsten Fall.

00:04:58: sozusagen kann es natürlich auch sein, dass wenn ich dann als Frau die KI befrage oder nutze und sage hey wie ist das irgendwie?

00:05:05: Wenn ich diese Symptome habe was einfach die Fakte immer mehr passiert also gerade im Gesundheitsbereich wird KI massiv viel gefragt.

00:05:15: Dann sehe ich dann halt beispielsweise Symptomen wo ich mich dann aber gar nicht wiederfinde, weil ich denke, ah nee, hab' ich ja doch gar nicht.

00:05:23: Wenn du glaubst, weil sollte man immer natürlich auch zum Arzt gehen, ne?

00:05:26: Aber es ist ja trotzdem so dass ich mich dich noch nicht wieder finde vielleicht weil ich ganz andere Symptome habe die mir die KI aber nicht zeigt.

00:05:33: das ist schon direkt auf Kommunikation bezogen.

00:05:35: aber natürlich wird KI oder auch Daten benutzt um in der Diagnose zu unterstützen also insbesondere im Bereich Radiologie beispielsweise Und da kann es natürlich auch relevant werden, sogar noch viel relevanter.

00:05:50: aber dann wie gesagt ich bin keine Medizinerin.

00:05:52: Aber trotzdem wenn da natürlich auch Daten genutzt werden um beispielsweise in der Diagnose Stellung, wenn ich jetzt einen Röntgenbild habe oder was auch immer und nicht mich darauf Datenbeziehe die eher männlich geprägt sind, kann das natürlich auch wirklich die Diagnosstellung massiv beeinflussen was nochmal ein ganz gravierenderes Problem ist.

00:06:13: Das ist jetzt nicht so ganz klar.

00:06:16: Sondern die

00:06:18: Kommunikation!

00:06:19: Aber es hat wahnsinnig viele Facetten.

00:06:21: einfach, weil natürlich KI mehr und mehr eingesetzt wird sei es wie gesagt auf der Diagnose Seite aber auch bei Therapieentscheidungen, bei Patienten und Patientinnen Und im Prinzip wie gesagt multipliziert KI eben dieses dann doch eher männlich geprägt Bild von Gesundheitsbildern.

00:06:42: Und das ist halt sehr, sehr gefährlich oder kann sehr gefährdlich

00:06:45: sein.

00:06:46: Ja wir hatten es ja auch schon in der Folge zu AI and Health mit Tamara dass A. über Social Media viel gesucht wird und dann aber auch eben über die LLM sei so ChatGPT usw.

00:06:59: und man da halt oft auch vielleicht jetzt nicht mal spezifisch fragt so welche Symptome habe ich bei den Herzinfarkten?

00:07:05: sondern auch wirklich seine Symptomen eingibt und fragt sowas kann sein.

00:07:10: Und dann greift ja Chatty auch auf diese Daten zu und liefert er möglicherweise komplett falsche Ergebnisse oder ist der Herzenfakt überhaupt nicht in der möglichen Liste dabei.

00:07:23: Ich weiß eigentlich überhaupt nicht, wie ernst die Lage vielleicht schon ist.

00:07:30: Großes Risiko.

00:07:33: Ja, es ist schon auf so ein Thema wo ja einfach auch noch gar nicht so viel zu gesprochen wird oder wenn dann halt nur in einem bestimmten Wabbel sozusagen.

00:07:41: deswegen war es mir auch irgendwie zum Anlegen auch darauf, diesen Artikel zu schreiben weil Wenn man sich damit beschäftigt, also mit Frauengesundheit und Gender Health Gap, Gender Data Gaps.

00:07:54: Dann kommt man irgendwann drauf aber so wirklich diskutiert finde ich ist es halt noch nicht oder wirklich das Bewusstsein dafür geschaffen wurde noch nicht und deswegen ist gut und wichtig dass wir wieder heute auch nochmal drüber sprechen.

00:08:04: ja dann sprechen wir doch über die Rolle von uns Kommunikatoren.

00:08:11: Wir gehen

00:08:11: jetzt mal weg vom Medizinischen, aber was können wir da tun um den auch so ein bisschen entgegenzuwirken?

00:08:18: Was ist da die Rolle, die wir einnehmen sollen, können müssen?

00:08:25: Rolle und auch eine prägende Rolle.

00:08:27: Ich meine natürlich haben wir jetzt kein Einfluss darauf, wie jetzt aktuell oder auch in Zukunft Studien gestaltet werden oder geforscht wird.

00:08:34: Da gibt es Fortschritte sicherlich auch noch Luft nach oben aber wie gesagt keine Medizinerin dazu spreche ich nicht.

00:08:41: Mach's gerade trotzdem egal so.

00:08:43: fokus auf die Kommunikation.

00:08:45: Es sind drei Dinge.

00:08:48: das eine ist Sprache.

00:08:50: Wir benutzen Sprache, um Dinge zu kommunizieren.

00:08:53: Sei es irgendwie ein Kampagne mit unseren Kundinnen – das kann eine Awareness-Kampagne sein!

00:08:59: Es können Websites sein und Patienten in den Broschüren sein.

00:09:02: Und da ist natürlich wichtig die Sprache so oder in der Sprache auch so zu gestalten dass halt klar wird dass wir nicht nur davon ausgehen, dass das ein männliches Referenzmodell ist.

00:09:18: Sondern halt wirklich einordnen und offenlegen.

00:09:22: bei Männern oder Frauen kann es andere Diplomaten haben.

00:09:28: Das ist quasi auch schon der zweite Punkt, wenn man noch nicht genug Evidenz hat.

00:09:36: Transparenz zu sein im Sinne von, wenn wir irgendwo in ein Thema tiefer reingehen aufzuzeigen.

00:09:44: Wir wissen bei Männern ist es so und so.

00:09:46: Und bei Frauen ist das so.

00:09:47: oder vielleicht auch zu sagen hey, wir haben noch nicht die komplette Bildwies bei Frauen.

00:09:51: Das halt auch so zu benennen.

00:09:53: Ein dritter Punkt ist dann auch nochmal die Repräsentation also in Form von Bildern Wildsprache, aber eben auch nicht nur.

00:10:04: Auch da geht es wieder Richtung Sprach oder Vollständig halt aufzuzeigen okay das ist jetzt nicht Patient XY und so der Standardpatient weil den gibt es halt nicht sondern halt auch repräsentativ ran zu gehen uns aufzu zeigen ok es gibt verschiedene Symptomatiken die sich unterscheiden können von Männern bei Frauen.

00:10:29: Und das sind so drei Punkte, wo wir in unserer Kommunikation darauf achten können.

00:10:34: Was natürlich auch viel bevor wir überhaupt konfnizieren mit Recherche zu tun haben.

00:10:37: Ich glaube dass es nochmal grundlegend ist und natürlich unsere Hausaufgaben machen und wirklich wissen wie der Status dann ist.

00:10:44: Und dann aber auch wie gesagt über Sprache, über Transparenz und Evidenz.

00:10:53: Es habe ich mir einen dritten Punkt verloren Ja, beziehungsweise Repräsentation.

00:11:01: Danke!

00:11:03: Da zu legen oder ein möglichst authentisches Bild einfach aufzuzeigen?

00:11:09: Weil wenn wir halt natürlich so kommunizieren, füttern wir damit auch die KI.

00:11:16: Das heißt wer wird das Bild ändern würden und ist jetzt nur ein kleiner Teil.

00:11:20: aber wir können dazu beitragen dass KI durch andere authentischerer und korrektere Bilder gefüttert wird.

00:11:28: Das ist doch schon eine wunderbare Zusammenfassung zu dem Thema.

00:11:34: Also wir halten fest Bildsprache!

00:11:37: Repräsentation, Transparenz und die Art und Weise wie wir kommunizieren spielt da eine ganz große Rolle.

00:11:46: Nicht immer auf Aussagen von KI verlassen oder selbst in die Recherche gehen.

00:11:52: Das sowieso nicht!

00:11:53: Und Quellen prüfen?

00:11:55: Das hoffe ich aber auch dass das gerade im Kommunikationsbereich natürlich alle im Kopf haben.

00:12:02: Aber ja... Dann auch so der Tipp an die Unternehmen.

00:12:06: Zeittransparent, wenn es nicht genug Daten gibt.

00:12:10: Wichtig ist dass wir's einfach offenlegen das gegebenenfalls nicht allgemein gültig ist und dann können wir Nicht ganz viel verändern aber doch einiges verändern Und so auch die KI'n bisschen mit trainieren und dafür sorgen das in der Zukunft Das vielleicht auch besser eingeordnet wird von den KI-Modellen.

00:12:28: Auf jeden Fall!

00:12:29: Danke dir für die Insights und wir hören uns bestimmt noch in einer weiteren Folge

00:12:33: Bestimmt.

00:12:34: Bis dann, ciao!

00:12:36: Zwischen zwei Calls.