DANIS
- Laufzeit
-
Januar 2023 -- Dezember 2026
- PI
-
Dr. Agnieszka Faleńska
- Beschreibung
-
Der immense Einfluss von NLP-Systemen auf das Leben der Menschen gibt zunehmend Anlass zur Besorgnis über den möglichen Schaden, den diese Werkzeuge anrichten können. Schädliche Verhaltensweisen solcher Systeme werden als Symptome ihrer Voreingenommenheit angesehen, d. h. der systematischen Bevorzugung oder Diskriminierung bestimmter Benutzergruppen. NLP-Tools werden in der Regel auf Textkorpora trainiert, die solche Vorurteile bereits auf der Ebene ihrer Autoren aufweisen. Wikipedia beispielsweise, eine der am häufigsten verwendeten Quellen für Trainingsdaten, wird von einer überwiegend weißen und männlichen Gruppe von Redakteuren erstellt. Ein solcher Mangel an Vielfalt unter den Autoren kann den Einfluss von Daten von Minderheiten verringern und in der Folge zu NLP-Modellen führen, die die zugrunde liegenden demografischen Ungleichgewichte widerspiegeln. DANIS trägt zum Diskurs über Fairness in der KI bei, indem es die Entwicklung von intelligenten NLP-Systemen erleichtert, die Eingaben von unterrepräsentierten Nutzergruppen erkennen und deren Rolle im Trainingsprozess stärken können.
- Geldgeber
