00:00:05: Künstliche Intelligenz ist nicht neutral.

00:00:08: Im Gegenteil, sie ist sogar ausgesprochen ungerecht weil sie Vorurteile zementiert und Menschen benachteiligt und das auch im Arbeitsleben.

00:00:18: Das geht nicht nur zu Lasten derer die unmittelbar betroffen sind ich denke da etwa an Frauen People of Color oder sexuelle Minderheiten sondern auch zu Last von Unternehmen die in ihren personellen Auswahlmöglichkeiten eingeschränkt werden.

00:00:31: davon jedenfalls ist Eva Gengler überzeugt.

00:00:35: Mit ihrem Buch Feministische KI will die Wirtschaftsinformatikerin und promovierte Wirtschafts- und Sozialwissenschaftlerin dazu beitragen, bestehende Ungerechtigkeiten abzubauen.

00:01:02: Hallo Eva, schön dass du bei uns bist.

00:01:04: Ich grüße dich herzlich willkommen!

00:01:07: Vielen Dank für die Einladung.

00:01:08: ich freue mich sehr aufs Gespräch.

00:01:10: Gut dann legen wir doch mal los und gehen wir doch einfach mal chronologisch vor.

00:01:15: Grab es in deiner Kindheit?

00:01:17: In deiner Jugend schonmal irgendein OH-Erlebnis das sich für das Thema Feminismus...

00:01:24: ja Ich habe tatsächlich oft darüber nachgedacht, wann es eigentlich dazu gekommen ist.

00:01:29: Weil in meiner Erinnerung, wenn ich zurückdenke, war mich schon sehr lang bewusst, dass es Ungerechtigkeiten gibt.

00:01:35: zwischen damals habe ich sehr stark eben Thema Frauen und Männer betrachtet oder Mädchen und Jungs Und ich kann mich gut erinnern, dass es zum Beispiel in der Schulzeit oft so Kommentare gab wie die sehr gute Mathe, also die im Zug auf das Mädchen.

00:01:51: Oder als sich z.B.

00:01:53: in einer Universale Zeit war, da waren meine beste Freundin damals, die war die Beste in Physik und Mathe.

00:01:58: Und quasi auch der Beste, die beste Schüler in der Klasse!

00:02:01: Es war immer eine gewisse Überraschung dabei, wie das dann sein kann, dass das ein Mädchen ist... Wenn ich zurückdenke, ich glaube es hat was mit meinem Namen zu tun.

00:02:10: Also ich heiße Eva und wenn ich zurück denke dann kann ich mich tatsächlich an den Religionsunterricht erinnern.

00:02:17: Ich war also ich bin katholisch getauft worden beim Katholischen Religions Unterricht Und da kommt auch irgendwann...ich weiß nicht genau in welcher Klasse das der Fall ist die Geschichte von Adam und Eva und es geht darum dass quasi Eva diesen diese Frucht vom Baum der Erkenntnis pflückt Auch Adam dazu verführt und quasi so die gesamte Bosheit und Schande und Schuld auf die Menschen bringt, um sie quasi auch vererbt wird an alle Frauen.

00:02:40: Und ich glaube irgendwie hat das was mit mir gemacht weil ich kann mich erstens noch daran erinnern und ich habe mich persönlich irgendwie mehr angesprochen gefühlt, weil es eben eine Eva war.

00:02:49: Ich glaube das hat etwas damit gemacht sicherlich aber auch viele Bücher, die ich von meiner Mama geschenkt bekommen hab Die irgendwie Frauen gezeigt haben, die Abenteuer erleben Auch schon in Zeiten wo das für Frauen nicht unbedingt Standard war.

00:03:01: also ich glaube Es waren viele verschiedene Erlebnisse, Kommentare aber auch Geschichten die mich geprägt haben.

00:03:09: Das Thema das hatte ich ja anscheinend nicht losgelassen.

00:03:13: ist es so dass dir heute noch mal so Meinungen begegnen wie Feminismus?

00:03:16: Das Thema ist doch eigentlich schon längst durch!

00:03:20: Absolut.

00:03:21: also ich glaube auch gerade wenn man grundsätzlich über den Begriff spricht das ist ja immer noch eine Diskussion Nicht zurückdenken, wurde ich auch immer wieder von männlichen Freunden oder Partnern irgendwie als Emanze bezeichnet und also quasi würde er sagen.

00:03:35: Also ich finde Emanzipation ist natürlich an sich ein sehr positives Wort aber das Wort Emanse ist jetzt nicht unbedingt... Also da habe ich mich jetzt nicht drüber gefreut!

00:03:44: Ich würde auch sagen Feministin, ich glaube auch mit dem Wort musste ich mich so ein bisschen anfreunden weil ich auch das anfangs von der Gesellschaft eher als negatives Wort kennengelernt habe.

00:03:52: Das war für mich eher was, was negativ konnotiert ist.

00:03:57: Für mich ist absolut klar und ich finde, wir sehen es an ganz vielen Ecken Gewalt gegen Frauen.

00:04:02: Wir sehen zum Bezug auf Gender Pay Gap also Frauen verdienen weniger.

00:04:05: Gender Health Gap Frauen sind länger zu einer schlechteren Gesundheit unterwegs als Männer.

00:04:10: Es gibt einfach so, so viele Gaps und Lücken und Ungerechtigkeiten.

00:04:14: Ich verstehe nicht wie man es nicht sehen kann wenn ich ehrlich bin.

00:04:17: Aber natürlich ist das ein Thema und ich glaube immer wird die Stimmen immer lauter aktuell, die dann eher sagen jetzt sind wir doch mal weit genug bekommen, jetzt müssen wir ja einmal wieder auf die Männer achten.

00:04:27: Ich glaube das Problem ist dass wir Privilegien... oft nicht wahrnehmen.

00:04:32: Also unsere eigene Privilegien sind für uns so normal, dass wenn sich was verändert und wir das Gefühl haben jemand will uns Privilegend weg nehmen dann fühlt es sich das nicht an als würde sich das ausleveln und als wäre das gerecht sondern es fühlt sich halt eher so an als würden wir das ungrechterweise abgeben müssen.

00:04:46: und ich glaube dass sich viele Männer aktuell so fühlen und deswegen auch wieder eine sehr viel größere.

00:04:54: man spricht von Backlash oder Gegenwehr zu Feminismus und Gleichberechtigung sehen.

00:05:00: Was die Kondologie betrifft, überspringen wir einige Jahre.

00:05:04: Von deiner Kindheit Jugend jetzt mal in die Gegenwacht.

00:05:08: Du forscht ja aktuell noch oder hast lange geforscht zum Thema Wie hat man sich das vorzustellen?

00:05:12: Was machst du da?

00:05:15: Also ich habe an sich angefangen zu forschen, würde ich sagen mit meiner Masterarbeit.

00:05:19: Das war zumindest der erste Versuch zu forschnen.

00:05:21: Da hab' ich Mirkaim Rekruting angeschaut und davon die ethischen Implikationen.

00:05:26: Darab' ich noch nicht von Feminismus gesprochen.

00:05:27: Ich würde aber auch sagen es eigentlich damals auch die Perspektive schon feministisch war.

00:05:32: Und ich hab das mit Interviews gemacht.

00:05:33: also ich habe damals mit einundzwanzig Personen gesprochen aus der Politik, aus der Wissenschaft und aus der Wirtschaft heraus und habe versucht zu verstehen... Kann KI-Rekruting fairer machen?

00:05:43: Und wenn ja, wie.

00:05:44: Das war quasi so die Fragestellung und da habe ich gemerkt, wie spannend es ist finde was für Menschen zu lernen deren Erfahrungen mit denen zu sprechen den Fragen zu stellen und das war tatsächlich auch ein großer Teil der Forschung.

00:05:59: natürlich gehört dazu erst mal muss man sich in die Literatur einlesen.

00:06:02: also hat viel damit zu tun Texte zu lesen von dem zu lernen dass andere Personen bei sich schon geschrieben und erforscht haben Und dann jetzt versuchen, was Neues zu verstehen.

00:06:13: Ich habe vor allem qualitativ geforscht, das bedeutet Fokusgruppen und Interviews geführt und solche Warum-Fragen?

00:06:18: Und warum ist das so zu beantworten?

00:06:20: Also quantitativ wäre eher zahlenbasiert.

00:06:24: Da beschreibt man erst mal sagen einen... Zum Beispiel erfasst man Generative KI System.

00:06:30: Ich habe eine kleine Studie gemacht und hab mir Bayes in Bildern angeschaut von generativer KI, aber das beschreibt eher was wird dargestellt?

00:06:38: Und ich habe mich eher angeschauert versucht herauszufinden warum ist es so und wie kann man das verändern?

00:06:43: solche Fragen habe ich gestellt und es war eben viel sprechen mit Menschen den zuhören und davon lernen.

00:06:49: So Quantitäts ermitteln stelle ich mir rill also vergleichsweise einfach vor Qualität ermittelt.

00:06:55: wow Also wie geht das?

00:06:58: kurz zusammengefasst vielleicht?

00:07:01: Also ich glaube, bei das sollte qualitativ sicher auch hochwertig sein.

00:07:06: Es geht darum zu verstehen es ist weniger ein.

00:07:10: wir erfassen ganz viele Daten.

00:07:13: also zum Beispiel jetzt wären es wären zb umfragen mit hunderten oder tausenden personen wäre zum beispiel quantitativ.

00:07:20: da braucht man ganz ganz viele daten Und anhand von dem kann man statistisch etwas auswerten.

00:07:27: Das bedeutet, man geht quasi eher von den vielen und schließt von dem auch aufs wenige.

00:07:31: Also man sagt okay, statistisch gesehen ist das jetzt sehr mittel wert und das bedeutet XY.

00:07:38: beim qualitativen Forschen geht es eher darum zu sagen wir fragen einzelnen Personen wir versuchen herauszufinden wie ist es zum Beispiel in einer gewissen Firma Wir sehen, dass gewisse Personengruppen und versucht von dem her quasi aufs Große zu schließen.

00:07:51: Und zu sagen okay in der einen Firma.

00:07:53: also man spricht zum Beispiel von einer Fallstudie.

00:07:55: wir haben uns z.B.

00:07:56: Firmen angeschaut und dort mit verschiedenen Menschen gesprochen und gesehen die gehen zum Beispiel so und somit KI um und haben gewisse Regeln für KI und anhand dieser sogenannten Fallstudien haben wir quasi geschlossen wie das vielleicht auch für andere Unternehmen ist die einem ähnlichen Kontext unterwegs sind.

00:08:15: Wir kommen jetzt zu deinem Buch, feministische KI.

00:08:18: Du schreibst darin, ich zitiere mal, KI ist so einem Spiegel der Gesellschaft geworden.

00:08:22: Sie zeigt uns Mehrheitsmeinungen verstärkt Vorurteile und Stereotype.

00:08:28: Dann ist KI für dich ja zumindest im aktuellen Zustand ein eher doch ziemlich zweifelhaftes Instrument.

00:08:36: Wie ist denn dein persönliches Verhältnis zur KI?

00:08:38: Nutzt du sie eigentlich?

00:08:40: also?

00:08:40: ich spoiler jetzt mal und sage du schreibest du hättest deinen buch mithilfe von KI geschrieben.

00:08:47: Also, vielleicht erstmal noch einen winzigen Schritt zurück.

00:08:50: Was ist KI?

00:08:51: Also ich glaube grundsätzlich nutzen wir alle irgendwie KI weil wir zum Beispiel Suchmaschinen nutzen Google, Ecosia, wir nutzen irgendwie soziale Medien oder wie haben wir in Scannerprogrammen und all das ist ja irgendwie auch KI.

00:09:02: also dass sind irgendwie Algorithmen die uns erleben irgendwie bestimmen, die uns helfen wirklich sagen, tun irgendwie alle.

00:09:09: und also wenn wir das nicht tun mit einem Buch schreiben dann weiß ich nicht.

00:09:12: Also wie kann man recherchieren?

00:09:13: Also klar kommt mir jetzt auch eine Bibliothek gehen.

00:09:15: aber im Grundsatz würde ich sagen das sind sicherlich Dinge die alle jeder und jede nutzt.

00:09:20: Ich denke du spielst ja eher auf generativer KI-Systeme an als so etwas wie Chatchity BT und ja ich habe das auch ein Stück weit genutzt für dieses Buch.

00:09:29: Ich habe tatsächlich öfters z.B.

00:09:31: was gekürzt, also es gibt immer... Also ich merke auch in der Forschung ist das so oder es gibt Zeichen-Limits und sehr häufig bin ich da drüber.

00:09:41: Also sehr häufig hab' ich viel mehr geschrieben und muss das kürzen und zum Beispiel finde hier KI sehr hilfreich um quasi ein Stück weit den Inhalt gleich zu behalten aber ein Stück weiter zu straffen.

00:09:53: Also dafür finde ich z. B. KI sehr hilftreich.

00:09:56: Ich habe es zum Beispiel auch genutzt und da habe ich aber auch immer wieder gemerkt, wie wenig ich damit zufrieden bin.

00:10:01: In meinem Buch habe ich einen selbstgeschriebenen Abschnitt.

00:10:05: Ich glaube, das waren so viele um die zwei Seiten oder so.

00:10:07: Habe ich bei ChecheBT reinkopiert und hab gesagt bitte verfasse einen kurzen Zusammenfassendenabschnitt dazu?

00:10:16: Und habe den dann quasi im Buch abgedruckt oder also mitreingenommen dann quasi im Nachgang aufgeklärt, okay das wurde jetzt mit KI geschrieben um zu zeigen dass das zweit sehr logisch klingt.

00:10:28: Dass aber die KI das tatsächlich nicht versteht.

00:10:29: also am Ende ist es ein sehr logisches sinnvoll klingender Text aber am ende beruht es nur auf Wahrscheinlichkeiten und hat nichts damit zu tun dass die KI da tatsächlich verstehen konnte und jetzt reflektiert was ich geschrieben habe.

00:10:42: Tatsächlich jedes mal wenn ich das Buch nochmal bearbeitet und gelesen hab habe in diesem Abschnitt gedacht ah den der gefällt mir nicht.

00:10:49: hier muss sich etwas verändern Bis ich dann den nächsten Satz gelesen habe und gelesen hab, dieser Abschritt wurde mit KI generiert.

00:10:55: Und dann hab' ich natürlich wieder rückgängig gemacht weil ich wollte ja das ist so bleibt.

00:10:59: Ich finde es zeigt auch schon ein bisschen wie oft wenig ich zufrieden damit war.

00:11:03: also ich hab auch Texte mir kürzen lassen, ich hab was straffen lassen Ich habe auch mal ein Stück weit damit recherchiert.

00:11:11: Also ich hab mir damit helfen lassen, aber ich habe nicht im großen Umfang das Buch komplett geschrieben, weil ich damit tatsächlich auch wenn ich es versucht habe wirklich nicht zufrieden war.

00:11:20: Also mein Buch ist in drei Teile aufgeteilt und im dritten Teil habe ich am meisten versucht damit zu kürzen.

00:11:27: Und ich war sehr lange damit beschäftigt diesen KI-Style also vom Schreibstil her wieder rauszunehmen, weil's mich einfach gar nicht gefallen hat.

00:11:35: deswegen... Ich würde sagen, es ist eine Mischung aber sicherlich deutlich mehr menschlich als KI generiert drin.

00:11:42: und für mich war's auch ein Lernprozess dass ich sagen würde.

00:11:45: Ich nutze heute glaube ich KI weniger als als vielleicht anfangs.

00:11:49: und vielleicht noch einen letzten Punkt dazu wo ich tatsächlich oft nutze, ist zum Beispiel um Bilder zu generieren und für meine Vorträge einfach mal aufzuzeigen.

00:11:56: Hey schaut mal zum Beispiel AprisTeaches Keynote at a very important AI Conference ja also eine wichtige Keynote an einer hoch etablierten KI Konferenz.

00:12:07: wenn dann da ein Mann vorne steht vor einem männlichen Publikum Dann finde ich es spricht dieses Bild für sich.

00:12:12: Also für sowas nutze ich z.B.

00:12:13: sehr gerne aber da zeige ich eher den Bayes Exkluzit auf.

00:12:18: Du malst ja auch sehr leidenschaftlich und sehr gut.

00:12:20: Ist das so ein bisschen diese Sehnsucht nach dem händischen dann?

00:12:24: Also ich war auf einem musischen Gymnasium, malen und zeichnen.

00:12:29: Hat irgendwie schon immer zu mir gehört.

00:12:31: Ich würde doch sagen jetzt in meiner Schulzeit war das was ich am meisten für die Schule gemacht habe eigentlich zu malen oder zu zeichnenden.

00:12:36: War Kunst trotzdem leider nicht das wichtigste Fach.

00:12:38: Ich hab mir das immer ein bisschen beibehalten.

00:12:43: Für mich ist es auch etwas was mich sehr... Es ist ein sehr, sehr guter Ausgleich für mich.

00:12:47: Also ich liebe das Hörbuch zu hören und zu malen.

00:12:50: Das bringt mich in so einen stückweit meditativen Prozess rein.

00:12:54: Und ja, ich würde schon auch sagen es ist eine sehr gute Ausgleicht für Arbeiten am PC und also dieses händische oder zum Beispiel auch im Pinsel in der Hand zu haben und also das einfach ein ganz, ganz anderes Gefühl, ein Bild zu generieren.

00:13:08: irgendwie ist es schon auch cool zu sehen wie schnell es geht.

00:13:10: Ist natürlich überhaupt nicht zu vergleichen wenn ich anfange zu maln.

00:13:14: Hundertmal ist wohl langsam wahrscheinlich.

00:13:16: Aber erstens, gut es wird auch nicht unbedingt wenn ich mal immer genauso wie ich mir das vorstelle.

00:13:20: Das würde ich jetzt ja auch nicht sagen.

00:13:22: aber ich finde trotzdem dass oft wenn ich ein Bild mit KI generiere überhaupt nicht so aussieht wie ich mich mir vorstell und der Stil ist oft auf einer Art und Weise wie dass sich einfach sehr stark erkennt dass es mit KIgeneriert.

00:13:34: also irgendwie ist dann gewisses künstlerische Interesse da.

00:13:37: aber ich bevorzuge ich bevorzuge da das händische

00:13:42: Ja, im Postkast geht es in erster Linie oder das geht es um Karriere und Arbeit.

00:13:47: Du hattest ja schon gesagt du hast quasi das Thema angegangen oder bist das Thema angegangen unter dem Gesichtspunkt Recruiting auch.

00:13:54: Das war auch ein Stück für den Anfäng.

00:13:57: Jetzt sagt man über KI dass KI weniger mit Vorurteilen behaftet ist als Menschen und daher auch objektiver ist.

00:14:05: Das ist eigentlich nicht von der anzuweisen?

00:14:09: Also tatsächlich dachte ich das am Anfang auch, ich dachte ja klar also ein Computer irgendwie was was rechnet.

00:14:14: Das muss objektiver sein als Menschen weil es hat ja nicht sage ich mal diese menschlichen Willen.

00:14:18: Es hat nicht die menschliche Vorurteile.

00:14:20: Das ist jetzt niemand der mir etwas Böses will so einen Anfangszeichen und das ist natürlich auch richtig.

00:14:25: Das Problem ist dass wir KI-Systeme mit menschlichem Daten trainieren.

00:14:28: Das bedeutet das sind Daten aus der Vergangenheit im Normalfall teilweise Jahrzehnte zurückgehend wo menschliche Entscheidungen zur Grunde liegen.

00:14:37: Also werden wir jetzt an Recruiting denken, dann sind zum Beispiel ganz klassischerweise Daten, Einstellungsdaten quasi von den Personen die in den letzten Jahren eingestellt worden sind oder nicht eingestellt wurden.

00:14:47: Das bedeutet das haben ja Menschen entschieden.

00:14:50: Menschen haben also gesagt eine gewisse Person stelle ich ein, eine gewissen Person stlle ich nicht ein.

00:14:54: Jetzt mag das auch leistungsbedingt sein und kompetenzbedingte Wesen, aber es gibt auch ganz viele Beise oder Vorurteile im menschlichen Rekoting wo Personen aussortiert werden.

00:15:06: Weil sie Frauen sind weil Sie gewissen Vornamen haben, weil sie ein gewisses Aussehen haben, weiß ich vielleicht Mutters sind und und und Es bedeutet menschliche Entscheidungen sind nicht objektiv und damit trainieren wir KI Systeme.

00:15:19: noch dazu trainieren oder entscheiden Personen über KI-Systeme, die auch relativ homogen sind.

00:15:26: Also hier sehen wir das zum Beispiel jetzt eben in der Entwicklung selbst aber im Ende auch in den Personengruppen, die Führungspersonen sind, die über Budgets entscheiden und die überlegen wo setzen wir KI ein?

00:15:38: Welche Spitze sollte KI haben?

00:15:40: All das sind auch Personengruppnen, die nicht unbedingt neutral sind nicht unbedingt sehr divers.

00:15:49: Also wir sehen auch hier zum Beispiel mehrheitlich Männer, mehrheitliche weiße Menschen, mehrhaltlich privilegierte Menschen.

00:15:54: Deswegen würde ich sagen.

00:15:55: tatsächlich kann KI meines Erachtens nicht neutral oder objektiv sein denn wir lernen aus menschlichen Daten mit menschlicher Entscheidungen quasi und Menschenentscheiden über KI.

00:16:06: Ich denke wir können eher sagen dass wir KI für gewisse Ziele einsetzen und das wir gewisse menschliche Prägungen vorgeben.

00:16:14: Ich würde nicht sagen, das ist neutral aber es kann natürlich dann auch bedeuten dass sie zum Beispiel weniger diskriminieren wenn wir gewisse Weichungen stellen.

00:16:20: Aber auch das ist nicht neutral.

00:16:22: Wo liegt denn da der größte Haken?

00:16:23: oder um das positiv auszubringen?

00:16:25: Der größte Hebel um das zu ändern?

00:16:29: Also wer ist dafür verantwortlich darin wandel zu bewirken?

00:16:33: Also aus meiner Sicht ist der größte Hebel genau der Punkt, dass wir KI ja einsetzen können um bestehendes zu reproduzieren oder am Ende was zu verändern.

00:16:45: Also Recruiting als ich das mit meinem Lieblingsbeispiel weiß glaube ich einfach so gut aufzeigt.

00:16:51: also da gab es ja das Beispiel von Amazon.

00:16:53: die haben eine KI fürs Recruitting entwickelt.

00:16:55: sie haben gelernt auf den eigenen zehn Jahren in den letzten zehn Jahren ihre eigenen Einstellungsentscheidungen im IT-Feld und haben festgestellt, ihr KI-System hat systematisch Frauen aussortiert.

00:17:08: Das ist am Ende nicht überraschend weil sie haben von Daten gelernt wo kaum Frauen vorkamen, weil sie bisher was Domäne eingestellt haben.

00:17:16: Der große Vorteil hieran ist, dass Sie gemerkt haben, Ups, da ist ein Problem.

00:17:19: Sie haben das KI-System abgeschaltet und Sie haben vermutlich sich auch Gedanken darüber gemacht wie haben wir denn bisher eingestellt?

00:17:25: Also erst mal diese Reflexion dieser sogenannte Spiegel den du vorhin noch angesprochen hast.

00:17:30: der ist glaube ich hilfreich weil wir selbst reflektieren was haben wir vielleicht bisher falsch gemacht?

00:17:34: und zum anderen ist glaube Ich der große Hebel etwas zu verändern dass sie überlegen Wie können wir jetzt so einen Prozess wenn wir merken bis er haben wir vor allem Männer eingestellt?

00:17:43: Wie können wir das mit KI verändern?

00:17:45: Und eine Möglichkeit ist zum Beispiel hier in Matching zu machen, also zum Beispiel sagen.

00:17:51: Wir fragen Unternehmen und wir fragen Bewerberinnen wo wollt ihr hin was was könnt ihr bisher welches versuchen Potenzial herauszufinden Also versuchen anhand von Fragen und Antworten quasi zu matchen.

00:18:06: warum?

00:18:07: Wir wissen aus der Forschung oder aus der Studienlage, dass sich Frauen seltener bewerben, wenn sie so eine riesige Liste an Anforderungen haben.

00:18:16: Dass sich Frauen da meistens erst bewerbern, wenn Sie neunzig bis hundert Prozent dieser ganzen Liste erfüllen und Männer schon um die vierzig bis sechzig Prozent erfülle.

00:18:24: Das heißt jetzt bevor so eine Bewerbung überhaupt bei einem Unternehmen eingeht verlieren wir hier schon Frauen.

00:18:31: Und in der IT zum Beispiel haben wir ja auch noch weniger Frauen also grundsätzlich schon.

00:18:35: Und hier jetzt zu sagen, okay.

00:18:37: wir nehmen zum Beispiel eine KI um zu matchen und quasi diese Stellenausschreibung wegzunehmen.

00:18:42: Und deswegen schon viel mehr Frauen zu haben die überhaupt sich vielleicht gar nicht beworben hätten auf so einer Stelle.

00:18:47: Hier wird KI genutzt um den Prozess zu verändern.

00:18:50: und vielleicht auch noch da an Punkt Stellenauschreibungen.

00:18:53: Da gibt es zum Beispiel auch oft das Problem dass da oft Wörter genutst werden in gewissen Kontexten Die z.B.

00:18:58: auch für Frauen eher unattraktiv sind.

00:19:00: also Wörtern die zum Beispiel vorkommen Oft auch in Bezug auf Führungspositionen sind so was wie durchsetzungsstark, ehrgeizig, leistungsstarks, zielorientiert, ambitioniert.

00:19:13: Verantwortung, Kontrolle also Wörter das sind eher Wörtern.

00:19:16: wenn Frauen die lesen tendieren sie dazu sich nicht zu bewerben.

00:19:19: und dann gibt es halt auch Wörte die eher neutraler sind wo sich Frauen eher bewerbern und tatsächlich für Männer macht's kein Unterschied.

00:19:26: Also hier könnten wir natürlich mit KI so eine Stellenausschreibung in der Art und Weise formulieren, dass sie für Frauen attraktiver ist oder eben gleich sagen wir haben diese Stellenauschreibungen schon gar nicht und machen ein Matching.

00:19:38: Und ich glaube das ist der große Hebel von KI, dass wie Sie dafür nutzen wer kann es am Ende tun?

00:19:45: Ich denke das können wir auf ganz vielen Ebenen tun.

00:19:47: also sicherlich kann die Politik gewisse Anreize setzen, gewisse Awareness auch oder Bewusstsein schaffen.

00:19:54: Ich denke großer Hebel liegt in Management-Funktionen, die am Ende darauf achten oder auch wieder im Bewusstsein schaffen bei ihren Mitarbeiterinnen.

00:20:03: Hey das ist ein Thema und wir wollen eigentlich mit KI besser werden.

00:20:06: also ja eigentlich das Ziel!

00:20:07: Wir wollen ja KI nicht einsetzen um die gleichen Fehler zu machen wie bisher sondern wir wollen KI einsetzen, um besser zu werden zum Beispiel mehr Personen zu finden, die in unser Unternehmen passen und natürlich auch in der Nutzung.

00:20:18: Also z.B.

00:20:19: Chech Biti nutzen, um eine Stellenausschreibung inklusiver zu gestalten und vielleicht nicht das Wort Leistung stark zu verwenden, sondern vielleicht ein Wort zu finden.

00:20:28: Was das ähnliches beschreibt aber für Frauen attraktiver klingt.

00:20:31: ja also in der Nutzung ist es so aber sicherlich am Ende auch im Management sehr relevant.

00:20:36: Warum ist das eigentlich noch nicht passiert?

00:20:38: Sind sich die Unternehmen darüber nicht klaren?

00:20:40: Sehen sie die Problematik nicht oder wollen die die vielleicht doch gar nicht sehen?

00:20:46: Also ich glaube tatsächlich dass für viele das noch relativ... unklar ist.

00:20:53: Also ich halte ganz viele Vorträge auch in Unternehmen und bringe ganz viele Beispiele mit von KI-Systemen, die am Ende auch eben diskriminiert haben oder Frauen und andere Personengruppen benachteiligt haben.

00:21:04: Und da ist schon immer sehr viel Schock und sehr viel Unverständnis dabei.

00:21:09: Viele haben irgendwie schon mal davon gehört dass KI Bias oder Vorurteile haben kann das jetzt nichts ganz Neues.

00:21:14: trotzdem ist glaube ich vielen dieses Ausmaß nicht bekannt.

00:21:19: Ich glaube vielen ist im Management nicht bekannt, dass sie Einfluss nehmen können und müssen.

00:21:23: Ich glaube viele denken so ein bisschen naja es ist ein technisches Thema das liegt irgendwie im Entwicklungsteam und die müssen das halt fixen.

00:21:29: Und ich glaube das ist ein großer Urglaube weil am Ende klar spielt auch die Entwicklungsrolle spielen natürlich die Daten Rolle aber die Grundlage setzt am Ende des Management.

00:21:39: also ich ansonstige in unseren Fokusgruppen Auch mit Entwicklerinnen gesprochen, die gesagt haben naja wir haben zum Beispiel gemerkt.

00:21:45: Die Daten sind nicht optimal aber wir haben keine Zeit bekommen das zu beheben weil das Produkt sollte möglichst schnell live gehen.

00:21:52: Wenn also das Management keine zeit einräumt und quasi auch nicht die Priorität hoch setzt dass es wichtig ist, dass wir auch sowas achten Also das kann man auch verunterfassen unter das Wort KI Governance.

00:22:03: also welche Strukturen welche Regeln sehen wir eigentlich vor um mit so einem KI System umzugehen?

00:22:08: Dann wird es auch nicht passieren.

00:22:09: und ich glaube, das ist tatsächlich den Management in ganz vielerlei Hinsicht nicht bekannt.

00:22:13: Also weder das Ausmaß von was kann das bedeuten für Unternehmen unter Unternehmen?

00:22:17: Was kann's für BewerberInnen bedeuten?

00:22:20: Und zu anderen welchen Einfass habe ich eigentlich als Management und welche Verantwortung?

00:22:25: Ich glaube, das ist wirklich noch viel zu wenig bekannt und ich denke auch des Umdenken von ganz viele.

00:22:30: Glauben Sie müssen jetzt um den KI nutzen?

00:22:32: Weil wenn sie jetzt nicht KAI nutzen sind sie abgehängt und jeder nutzt jetzt KI Und wir müssen es jetzt unbedingt ganz schnell machen.

00:22:38: Entschuldigung kann man da vielleicht unterscheiden zwischen KMU kleinen Unternehmen großen Unternehmen mittelunternehmen Mittelgroß unternehmen dass man da individuell hingucken muss und sagen bringt das überhaupt für mich?

00:22:46: was also Großunternehmen?

00:22:47: die haben tausende von Bewerbungen.

00:22:49: Kann man irgendwo verstehen dass das Vorsacht hier voraussucht wird?

00:22:52: aber kleine Unternehmen Bei denen würde ich doch vielleicht lohnen, ein bisschen mehr Mensch einzusetzen als KI.

00:22:59: Absolut.

00:22:59: Aber ich glaube auch kleine Unternehmen fühlen sich gerade ganz schön unter Druck, das zu tun.

00:23:03: vielleicht nicht im Recruiting aber vielleicht dann zum Beispiel in Texte schreiben also vielleicht nicht in der Auswahl aber dann vielleicht kriegen sie jetzt mit sich weniger Zeit stellen Ausschreibungen zu schreiben und generieren da ganz viel mit KI und produzieren dann ohne es zu wissen z.B.

00:23:18: Stereotypen weil Sie ganz viele Wörter benutzen.

00:23:21: Also ich habe jetzt vorhin zwischendurch mal ausprobiert Ich hab mir so einen kleinen Text generieren lassen ich habe geschrieben für eine Führungskraft in der IT auch darum, dass die Person unter Druck und sonst was arbeiten kann.

00:23:31: Und da kam jetzt ganz viele Wörter, die es sehr männlich konnotiert sind.

00:23:36: Wenn ich also nicht mehr viel Zeit habe und so wie im

00:23:39: H.A.,

00:23:39: jetzt wird sich heißt okay ihr könnt doch jetzt K.I.

00:23:41: nutzen, jetzt muss das alles schneller gehen.

00:23:44: oder zum Beispiel auch die Auswahl von Bewerbungen.

00:23:47: Also ich höre immer wieder, dass ganz viele Personen Meinen sie nutzten Chatchabity und solche Systeme, um jetzt Bewerbungen auszuwählen.

00:23:57: Also Sie geben quasi dann die Bewerbung in diese Systeme rein wie Chachabity uns sagen wer ist der Beste?

00:24:04: Und auch das ist extrem fragwürdig weil da sind ja ganz viele Vorurteile in diesen Systemen.

00:24:08: aber also zum einen gebe ich dir recht sicherlich müssen wir schauen welchen Unternehmensgröße es sind.

00:24:13: mir trotzdem denke ich dass auch KMU versuchen KI zu nutzen und das ist auch erstmal nicht schlecht.

00:24:19: Aber da müssen wir eben wissen, was steht dahinter und wo.

00:24:21: es ist vielleicht auch nicht sinnvoll KI zu nutzen.

00:24:23: Und ich denke, Recruiting ist ein so wesentlicher Teil im Unternehmen das wir zumindest sehr genau hingucken sollten, wo wir da KI nutzen und wo nicht.

00:24:36: Wechseln wir die Seiten und gehen mal auf die Seite der Bewerber innen.

00:24:40: Und welche Probleme sich denen stellen?

00:24:42: Du hast im Vorfeld unseres Gesprächs gesagt, du bist keine Coaching.

00:24:47: Trotzdem hast du eben schon gesagt dass Frauen ganz anders an Bewerbungen rangehen.

00:24:52: Sich erst dann melden wenn sie zu neunzig Prozent davon überzeugt sind das die Anforderung auch erfüllen können.

00:25:00: Wie sollten junge Frauen oder Frauen generell natürlich an Bewerbungen rangehend, Offensive oder was meinst du?

00:25:10: Also ich glaube das... also ich finde es immer ein bisschen schwierig zu sagen Frauen müssen sich jetzt verändern wenn eigentlich das System ja schlecht ist.

00:25:18: Also so grundsätzlich gesagt weil ich glaube es gibt auch ganz viel wenn wir zurückdenken diese viele Frauenförderprogramme zum Beispiel finde ich unschönes Wort muss ich eigentlich sagen weil ich glaub nicht dass die Frauen.

00:25:29: Sicherlich ist es immer schön, wenn man Frauen unterstützt.

00:25:33: Aber eigentlich müssen wir an den Strukturen was ändern und nicht an den Frauen.

00:25:36: Also dass sich Frauen am Ende so verhalten sollen, Anführungszeichen wie Männer um in dem System zu funktionieren, das glaube ich ist nicht die Lösung.

00:25:42: Gut aber zu warten bis sich für den Pinguin bis aus der Wüste eine Eislandschaft wird?

00:25:48: Das kann dauern!

00:25:49: Absolut, deswegen genau.

00:25:50: Also wir sind auch in einem gewissen System unterwegs aber wenn ich jetzt eine große Firma denke glaube ich dass es sehr häufig sinnvoller ist sicherlich Frauen vernetzen und Frauen gewisse Skills mitgeben Aber mindestens genauso wichtig ist das an den eigenen Strukturen zu arbeiten.

00:26:04: Wenn ich als Bewerberin bin dann kann ich das erst mal nicht von außen tun.

00:26:09: Ich plädiere absolut dazu mutig zu sein sich auf Stellen zu bewerben wo Frauen vielleicht im ersten Moment denken, da passe ich nicht dazu oder das kann ich noch nicht.

00:26:19: Also da bin ich auch nicht gut genug.

00:26:21: Ich glaube dass wir sehr häufig unser Licht unter den Chefs stellen und denken wir sind noch nicht weit genug und ich glaube da einfach Mutig sein, einfach ausprobieren und am Ende jede Bewerbung bringt.

00:26:31: was dann den Text zu schreiben sich zu überlegen wie pass ich da dazu?

00:26:35: Bewerbungsgespräche machen?

00:26:37: bei jedem Gewerbungs Gespräch lernen wir extrem viel dazu.

00:26:39: also ich glaube wir haben nichts zu verlieren.

00:26:42: Deswegen gewiss das gewisse Mut, sicher ja.

00:26:46: Ich glaube, wir sehen jetzt noch was Neues.

00:26:47: Wir sehen jetzt bei ganz vielen Bewerbungen auf beiden Seiten, dass KI kommt zum Einsatz kommt.

00:26:51: Also Bewerbung werden jetzt im großen Stil mit KI generiert und der anderen Seite wird mit KI ausgewählt.

00:26:58: Ich glaube das ist ein bisschen eine loslose Situation für beide weil da wird es versucht mit gewissen Keynotes heraus also Keywords, also Schlüsselwörter zu verwenden die möglichst gut klingen auf beiden Seiten.

00:27:09: ich denke hier dürfen wir KI nutzen.

00:27:11: aber ich würde auch hier dafür plädieren eher zu überlegen, was ist mein Alleinstellungsmerkmal und sich selbst zu zeigen.

00:27:18: Und nicht eine perfekte Version die jetzt mit KI generiert ist.

00:27:22: Also traut euch, probiert es aus und zeigt wer ihr seid!

00:27:28: Frauen werden eher bewertet anhand ihren Qualifikationen Männer eher anhand ihres Potentials.

00:27:33: das ist leider so also zumindest in Deutschland.

00:27:36: deswegen auf jeden Fall auch zeigen wenn ihr Fortbildungen gemacht habt weiß ich nicht.

00:27:43: Also zeigt ganz viel was ihr gemacht habt, Fortbildungen und so weiter.

00:27:47: also alles was ihr da irgendwie hinbringen könnt schreibt es drauf.

00:27:50: das ist kein Angeben sondern tatsächlich werden Frauen nach sowas immer noch bewertet.

00:27:54: Und weil zu guter Letzt wenn ihr das Gefühl habt dass das alles nichts wird und das für euch KI-Systeme zum Einsatz kommen glaube ich ist auch total hilfreich einfach bei einem Unternehmen mal nachzufragen und sagen hey nutze dir eigentlich KI im Recruiting werde ich mit KI aussortiert.

00:28:08: ihr habt auch immer die Wahl zu sagen ich möchte bitte von den Menschen bewerted werden.

00:28:11: Also auch das ist, glaube ich was wir DFW-TOOF tun können und was uns stückweit auch unsere Motivationen und unser Engagement zeigt.

00:28:20: Und Durchsetzungskraft ja!

00:28:22: Dein Buch heißt der Feministische KI.

00:28:23: Ist der Titel da nicht ein bisschen irreführend?

00:28:26: Weil du kümmerst dich ja in dem Buch nicht nur um Frauen.

00:28:29: Du kümmerst dich ja um Gruppen die bei diesen Themen an den Rand gedrängt werden.

00:28:34: Gelten da ähnliche Tipps?

00:28:36: oder müsste man dann, müsstest du da nochmal einen Buch

00:28:38: schreiben?!

00:28:41: Also ich verstehe Feminismus als intersektional, das bedeutet dass es sich gerade auch über Lappungen anschaut von Diskriminierung.

00:28:50: Es geht nicht nur darum weißen Frauen aus dem Mittelstand irgendwie die Welt gerechter zu machen.

00:28:55: Sonst geht eigentlich der Raum, dass wir grundsätzlich unsere Welt gerechter machen oder damit erkennen wir halt an das Rassismus mit Sexismus zusammenhängt und ganz vielen anderen Unterdrückungsformen.

00:29:07: Und dass wir nicht Sexismus als einzelnen Bereich rausnehmen können und plötzlich ist die Welt für Frauen gerecht sondern wäre erst dann der Fall wenn wir quasi verschiedenste Unterdrückungsmechanismen angehen, weil alles davon zusammenhängt.

00:29:22: Und am Ende bin ich als weiße Frau trotzdem auch sehr privilegiert, weil ich weiß, dass ich in Deutschland lebe und einen Deutsch klingende Namen habe.

00:29:31: Das sind ganz viele Privilegien dabei.

00:29:33: Und das ist in einem modernen intersektionalen Feminismus der Punkt, deswegen eben auch das anerkennen.

00:29:39: Deswegen geht es eigentlich darum, verschiedene Unterdruckungsformen zu verändern und aufzulösen.

00:29:44: Es ist für mich absolut kein ... Kein Widerspruch, auch wenn das natürlich immer wieder zur Diskussion steht.

00:29:51: Wie geht es bei anderen diskriminierten Personen?

00:29:53: Also ich glaube zum Beispiel was in Deutschland ein großes Problem ist, wenn man einen Namen hat der nicht deutsch klingt.

00:29:59: da wird man auf dem Wohnungsmarkt aber auch im Bewerbungen sehr häufig mit sehr sehr viel mehr Skepsis betrachtet.

00:30:06: Ich weiß nicht ob's helfen kann auch in Bewerbung.

00:30:08: Ich würde ein Leben so vielleicht mal zu anonymisieren und das auszuprobieren, vielleicht auch einfach mal im Grundsatz als zumindest in der Forschung wird es immer wieder gemacht.

00:30:16: Auch meine Bewerbung zu schicken mit die eigentlich gleich ist nur mit Deutschklingeln Namen um einfach mal zu sehen würde ich damit weiterkommen.

00:30:29: Aber ich selbst mache keine Arrassismus-Erfahrungen, deswegen glaube ich vielleicht wissen da auch andere Personen tatsächlich mehr oder können mehr Tipps geben.

00:30:36: Im Grundsatz würde ich aber auch hier sagen es braucht uns an allen Tischen, deswegen versuchen zu bewerben.

00:30:44: Wenn ich zurückdenke also ich habe in einem Master studiert und da waren sehr viele internationale Studierende Und eine Freundin von mir, die hat den besten Abschuss in unserem Jahr gemacht und die hat glaube ich dreißig oder fünfunddreizig Bewerbungen geschrieben bevor sie überhaupt eingeladen wurde zum Vorstellungsgespräch.

00:31:01: Bei mir war das ganz anders.

00:31:02: Sie kam aus Bulgarien und ich aus Deutschland.

00:31:04: deswegen... Also das ist da!

00:31:06: Das ist absolut immer auch noch ein Punkt und das kann KI verschlimmern.

00:31:11: Deswegen spreche ich daraus nach privilegierten Lage.

00:31:14: aber ich glaube Genau solche Erfahrungen sind am Ende in einem Unternehmen ganz wichtig und eigentlich sehr stark gebraucht.

00:31:22: Nehmen wir die Glaskugel mal zur Hand und gucken gleichzeitig in die Gegenwacht, in einer Zeit, in der weiße ältere Technokraten oder Autokraten Entschuldigung die Welt regieren?

00:31:34: Wie hoffnungsvoll bist du da dass sich da was ändert?

00:31:39: Wichtige Frage!

00:31:41: fragt mich tatsächlich auch immer wieder in den letzten Monaten oder auch letztes Jahr.

00:31:45: Ich habe meine Desertation abgeschlossen und ich habe ein Stück weit die letzten vier Jahre Revue passieren lassen, reflektiert was ist passiert?

00:31:53: mit welchen Ambitionen habe ich meine Promotion gestartet?

00:31:57: Und wie hoffnungsvoll war ich eigentlich dass wir in den nächsten vier Jahren extrem viel weiter kommen?

00:32:02: Ich würde sagen Wir haben insbesondere seit der Wiederwahl von Trump massive Rückschritte gemacht in ganz vielen Bereichen.

00:32:10: Und wir sehen auch, dass im Bereich KI – auch wenn ich jetzt an so es wie DeepFake-Pornografie und Manipulationen, auch im politischen Sphären

00:32:19: usw.,

00:32:20: denke, wie massive Rückschritte oder Fortschritten im Sinn in Manipulationen gemacht haben.

00:32:26: Da sehe ich schon sehr viel Risiken auch in Bezug auf Demokratie und grundsätzlich unser Zusammenleben in der gesamtgesellschaftlichen oder politischen Lage.

00:32:39: Ich sehe auf der anderen Seite, würde ich sagen kleineren auch sehr viele Fortschritte und ganz viele Chancen weil es immer mehr Menschen gibt und noch tatsächlich ganz viele Frauen die sich damit wissenschaftlich beschäftigen aber auch so viele Frauen, die Startups gründen um KI zu entwickeln und KI einzusetzen um all das sichtbar zu machen und zu verändern.

00:33:02: Ich habe in meinem Buch verschiedenste solche Juscases aufgezeigt, aber ich lerne immer wieder Frauen kennen die ähnliches tun.

00:33:09: Das ist einfach extrem ermutigend.

00:33:12: erstens welche Community da entsteht und wie viele Menschen das nicht akzeptieren wollen dass das KI zum schlechten eingesetzt wird damit auch erfolgreich sind.

00:33:23: Ja, es gibt ganz viel und ich gebe natürlich auch NGOs aber es gibt wirklich viele die das unternehmerisch tun und ich glaube auch dass braucht's.

00:33:29: also wir brauchen auch Business und Investitionen genau hinter solchen Systemen.

00:33:33: das am Ende nicht total leicht.

00:33:35: in der EU haben wir noch Probleme mit Investition und so weiter.

00:33:37: Also ich will nicht sagen ist alles leichtes Aber das macht mir auch wieder extrem viel Mut Und deswegen glaube ich es ist ein Geh Es ist so'n Beeinseite weltpolitisch Auch im Bezug auf Kriege usw.

00:33:48: Ist gerade schon echt düster.

00:33:50: und auf der anderen Seite entstehen da so viele, ich hab's in meinem Buch eine kleine KI-Pflänzchen genannt.

00:33:54: Weil es sind wie kleine Pflänzen, die überall sprießen und die auch extrem viel Power und Gewicht haben und immer mehr Sichtbarkeit bekommen.

00:34:03: Also beides!

00:34:04: Und das ist für mich am Ende ein positives Narrativ und ich glaube, das brauchen wir auch weil wenn wir nur auf das Negative achten dann wirds nicht besser und dann sind wir alle unmächtig und hoffnungslos und das brauchen ja auch nicht sein meines Erachtens sondern gibt es Hoffnung.

00:34:20: Lass uns hoffen, dass aus den Flänzchen ein Wald wird.

00:34:24: Ich danke dir vielmals für deine Zeit, die du genommen hast und wünsche dir alles Gute!

00:34:31: Vielen Dank gleichfalls.