Maschinelle Entscheidungsunterstützung in wohlfahrtsstaatlichen Institutionen: Nutzungsoptionen, Implikationen und Regulierungsbedarfe (MAEWIN)

Künstliche Intelligenz; Algorithmen, Wohlfahrtsstaat; Technikbewertung und Technikfolgenabschätzung; ELSI (ethical, legal and social implications); Algorithmen- und Maschinenethik; Maschinelle Entscheidungsunterstützung (decision support system); Klientenakten; Falldokumentation; Digitalisierung; Intergierte Technikentwicklung

Fachhochschule Bielefeld   

Logo MAEWIN


Fachbereich Sozialwesen
Interaktion 1
33619 Bielefeld

Projektbeteiligung
Universität Bielefeld (CITEC, Prof. Philipp Cimiano & Angelika Maier, M.A.)

Laufzeit
1.1.2018 – 31.12.2022

Projektförderung

 

Logo Ministerium für Kultur und Wissenschaft des Landes NRW


im Rahmen des Verbundprojekts Digitale Gesellschaft

Kurzbeschreibung
Moderne Verfahren der Künstlichen Intelligenz (KI) und des Maschinellen Lernens werden zunehmend in komplexen Entscheidungssituationen angewendet, um menschliche Entscheidungen zu unterstützen oder gar zu ersetzen. Damit geht oftmals ein Verlust von Transparenz und nachvollziehbaren Entscheidungskriterien einher. Insbesondere in (wohlfahrts-)staatlichen Anwendungskontexten besteht daher das Risiko, grundlegend demokratische Prinzipien zu gefährden. Gleichwohl bietet die Auswertung großer, bisher jedoch ungenutzter Datenmengen die Chancen zur Verbesserung der Qualität von Entscheidungen und deren Legitimität mit Blick auf erzielte Wirkungen. In diesem Spannungsfeld verfolgt das Projekt MAEWIN das Ziel, die Chancen und Risiken automatisierter Text- und Datenanalyse für Handlungsempfehlungen im Feld Sozialer Dienste zu prüfen und prototypisch nutzbar zu machen. Dazu sollen die Inhalte von elektronischen Klientenakten aus einem Arbeitsfeld der Sozialen Arbeit mittels maschinellem Lernens und argumentationslogischer Verfahren analysiert und für eine Entscheidungsunterstüzung aufbereitet werden (CITEC). Hierbei sollen ethische, rechtliche und soziale Fragen und Herausforderungen frühzeitig identifiziert, umfassend erörtert und in die weitere (technische) Überlegung und Entwicklung einbezogen werden (FH Bielefeld).