FEMtech Netzwerktreffen vom 9. Oktober 2023

Gesellschaftliche Verbreitung von Stereotypen, strukturelle Diskriminierung und soziale Ungleichheit führen im maschinellen Lernen zu voreingenommenen Modellen und fehlender Repräsentation. Unterschiedliche Bevölkerungsgruppen stoßen im Bereich der Künstlichen Intelligenz auf historische Hürden und aktuelle Vorurteile. Vielfalt ist daher entscheidend, um Modelle zu entwickeln, die für alle funktionieren. Industrie und Forschung müssen aktiv an mehr Inklusion und Diversität arbeiten, damit die Technologie allen gerecht werden kann.

Woher kommen diese Vorurteile und wie können wir ihnen entgegenwirken? Was hat es mit „Automation Bias“ und mangelnder Transparenz im „Deep Learning“ auf sich? Welche rechtlichen Bestrebungen gibt es, um Künstliche Intelligenz (KI) zu regulieren? Darüber hinaus steht im Fokus, vor welche sozialen, wirtschaftlichen und rechtlichen Herausforderungen uns die sogenannte „Generative künstliche Intelligenz“ stellt.

Eröffnet wurde das FEMtech Netzwerktreffen von Christine Haberlander, Landeshauptmann-Stellvertreterin des Landes Oberösterreich: „Beim Thema „Künstliche Intelligenz“ denken viele an Gefahren. Wir in Oberösterreich sehen aber zuerst immer die Chancen! Und da bietet Digitalisierung viele Möglichkeiten - für Jüngere und Ältere, für Männer und gerade für viele Frauen, die Technik mögen und Technik nutzen. In Oberösterreich arbeiten wir heute an einer besseren Version des Morgens. Dazu gehört, dass man sich mit den großen Themen und Trends auseinandersetzt, Möglichkeiten definiert und Chancen ergreift. Das genau tun wir“, so Christine Haberlander. Künstliche Intelligenz steckt mittlerweile in vielen Bereichen unseres Alltags wie beispielsweise in Suchmaschinen, in der Navigation, in den Netflix-Empfehlungen - das ist den Menschen oft gar nicht bewusst. „Die Geschwindigkeit, mit der Künstliche Intelligenz momentan viele Bereiche unseres Lebens erobert, sorgt für Emotionen. Doch nicht nur bei der Faktenlage gibt es Schwachstellen, sondern auch bei der Geschlechtergerechtigkeit. Deshalb braucht es mehr Frauen in der KI, damit die Bedürfnisse von Frauen bei der Programmierung mitberücksichtig werden können“, sagt Frauen-Landesrätin und Landeshauptmann-Stellvertreterin Christine Haberlander. 

Silvia Neumann, Vertreterin des Bundesministeriums für Klima, Umwelt, Energie, Mobilität, Innovation und Technologie (BMK) und verantwortlich für die Initiative FEMtech, stellte in ihren Begrüßungsworten die Intention der FEMtech Netzwerktreffen vor. Sie verwies auf die Wichtigkeit dieses hochaktuellen Themas und auf die Aktivitäten auf europäischer Ebene mit dem sogenannten Artificial Intelligence ACT und auf nationaler Ebene mit der angedachten KI Servicestelle, als Anlaufstelle für Unternehmen und Bürger:innen. KI spielt im Arbeitsalltag eine immer größere Rolle und beeinflusst das tägliche Leben, deshalb sind auch die Bedürfnisse und Interessen möglichst vieler Bevölkerungsgruppe zu berücksichtigen. In diesem Zusammenhang betonte Silvia Neumann die Wichtigkeit von Diversität und Inklusion im gesamten Bereich der KI, insbesondere, dass Frauen, die 50% der Weltbevölkerung ausmachen, in der KI berücksichtigt werden und teilhaben. Abschließend bedankte sie sich bei LH-Stellvertreterin Christine Haberlander und den Kooperationspartner: innen, dem Verbindungsbüro des Landes OÖ in Wien sowie dem Frauenreferat des Landes OÖ, für die hervorragende Zusammenarbeit. 

Carina Zehetmaier, Juristin, Gründerin von Women in AI Österreich[1] und Gründerin von Unternehmen im KI-Bereich, startete ihre spannende Keynote mit der Frage, ob KI die neue Alphabetisierung sei und ob jemand, der sich nicht mit KI auseinandersetze, gleichzusetzen sei mit Menschen, die nicht lesen und schreiben können. Sie präsentierte in ihrer Keynote auch eine Umfrage des Trend Magazins, die besagt, dass 48% der Befragten sicher seien, noch nie KI genutzt zu haben, 20% der Befragten es nicht wüssten und 8% noch nie von KI gehört hätten. Unabhängig von persönlichen Empfindungen habe KI aber längst Einzug in unser aller Leben gefunden und sei schon lange in unserem Alltag integriert. Spätestens mit ChatGPT sei dies nun auch in der Wahrnehmung vieler Menschen angekommen.

Die wichtigsten Aussagen der Keynote kurz zusammengefasst:

KI wird uns helfen große soziale Probleme im Sinne der Sustainable Development Goals (SDGs) der Vereinten Nationen in Angriff zu nehmen, die Produktivität zu steigern und sie wird zu wirtschaftlichem Wachstum führen. Laut einer Studie der International Labour Organization (ILO) würde KI Jobs eher ergänzen als vernichten, allerdings seien beispielsweise Büroangestellte und damit Frauen besonders gefährdet.

KI birgt auch viele Gefahren, die jetzt schon Realität sind, z.B. bei der Verwendung der Gesichtserkennung oder in Form von deep fakes aller Art. Als Beispiel wurde „Revenge porn“ gezeigt, das besonders schädlich für Frauen sei. Darüber hinaus gäbe es für die Entwicklung und Verwendung der Gesichtserkennung eine Vielzahl an Ideen, wie beispielsweise anhand des Gesichtes zu entscheiden sei, ob eine Person homo- oder heterosexuell sei. Dies erinnere stark an die als begraben geglaubte, pseudowissenschaftliche Physiognomie des 19. Jahrhunderts, bei der die äußere Erscheinung als Bewertungskriterium für Charakter oder Persönlichkeit einer Person herangezogen wurde. Mit maschinellem Lernen würde dieser Ansatz wieder aktuell und könne auch gezielt zur Benachteiligung oder Verfolgung gewisser Gruppen eingesetzt werden.

Selbst wenn KI mit bester Absicht entwickelt wird, hat sie das Potential, weitreichenden Schaden anzurichten, weil die Technologie inhärent von Menschen und den von Menschen generierten und ausgewählten Daten geprägt ist. Somit ist KI nicht objektiv und neutral. Sie hat nicht nur das Potenzial, Vorurteile zu reproduzieren, sondern führt durch objektivierte Wahrnehmung auch zur Verstärkung oder Verschleierung von Vorurteilen.

KI basiert auf Klassifikationen. Diese sind der Versuch, die Welt zu erklären oder zu vereinfachen. Sie spiegeln die soziale, kulturelle und politische Dimension einer bestimmten Zeit wider. KI ist daher – vereinfacht ausgedrückt – ein Spiegel unserer Gesellschaft. 

Wenn die Anwendung von (generativer) KI eine Gruppe offensichtlich benachteiligt, kann das auch eine Chance sein, gesellschaftliche Probleme zu erkennen. KI kann unsere systemischen Probleme und gesellschaftliche Vorurteile nicht lösen, aber kategorische Benachteiligung und großflächige Diskriminierung einer Gruppe aufzeigen. 

Es liegt an uns, mutig genug zu sein, die Fehler der Vergangenheit zu bearbeiten, gegenzusteuern und uns aktiv für faire Systeme einzusetzen, nach dem Motto 
„AI only works if it works for all.“

Neben Carina Zehetmaier nahmen Anna Maria Brunnhofer, Gründerin und CEO von Impact AI, Daniel Frixeder, Geschäftsführer von upart Werbung & Kommunikation GmbH, Martina Gaisch, Hochschulforscherin und Professorin an der Fachhochschule Oberösterreich, und Florian Krenn, Geschäftsführer von Compunity GmbH, an der Podiumsdiskussion teil. 

Es folgte eine angeregte Diskussion über Herausforderungen und Erfahrungen mit KI in den unterschiedlichen Bereichen der Unternehmen und Organisationen. Diskutiert wurde auch der risikobasierte Ansatz des EU AI ACTs zur Regulierung der künstlichen Intelligenz. Darüber hinaus brauche es einerseits Maßnahmen, die auf politischer Ebene gesetzt werden, wie Bildungsoffensiven z.B. zum Umgang mit den Werkzeugen und Tools zu KI, die von den Schüler:innen bis hin zu den Senior:innen reichten. Andererseits sei aber auch jede und jeder Einzelne angehalten, Selbstinitiative zu zeigen, kritisch und reflexiv zu sein und für Eigenprävention zu sorgen. Als Tools wurden beispielsweise Faktenchecks oder der Faktenfuchs des bayrischen Rundfunks genannt. 

Einigkeit gab es unter den Podiumsmitwirkenden, dass KI immer einen „zweiten“ Blick auf das Ergebnis brauche, dafür sei der Mensch unersetzbar. Diversität in Forschung und Industrie, aber auch in jedem Unternehmen, in jedem Team, sei DIE Voraussetzung, damit unterschiedlichste Bedürfnisse gesehen und berücksichtigt werden und Technologien, insbesondere KI, allen gerecht werden können. 

Moderiert wurde das FEMtech Netzwerktreffen von Christine Haiden.

[1] „Women in AI“ ist ein gemeinnütziger Do-Tank, der sich für eine geschlechtergerechte KI (Künstliche Intelligenz) einsetzt. Das Netzwerk engagiert sich für mehr Repräsentanz und Beteiligung von Frauen in der KI; „Women in AI Austria“: ist ein lokaler und gemeinnütziger Verein- www.womeninai.at/.