FFG Projektdatenbank

zurück

SocialAI

Chancengerechtigkeit und KI in der Sozialen Arbeit

Projektbeschreibung

Die Anwendung generativer KI-Tools wie ChatGPT nimmt im Bereich der Sozialen Arbeit stark zu. Obwohl diese Technologien große Innovationschancen bieten, verfügen Fachkräfte häufig nicht über ausreichendes Wissen hinsichtlich technischer Funktionsweisen und inhärenter Verzerrungen (Bias). Dies stellt insbesondere angesichts vulnerabler Zielgruppen und sensibler Daten ein Risiko dar, da bestehende Diskriminierungen (in Bezug auf Gender, ethnische Zugehörigkeit oder Alter) durch unreflektierten KI-Einsatz verstärkt werden können. Insbesondere für das frauendominierten Feld der Sozialen Arbeit gilt es zu bedenken, dass stereotype Zuschreibungen technologischer Kompetenzen Frauen systematisch benachteiligen und deren Partizipation an digitaler Innovation behindern. Zudem sind KI-Technologien keine neutralen Artefakte, sondern geprägt von den Perspektiven männlich dominierter Entwicklerteams und verzerrten Trainingsdaten. Indem das Projekt SocialAI Stereotypisierungen in KI-Systemen und bei Nutzer:innen bewusst macht und Gegenstrategien entwickelt, trägt es zur Gestaltung einer chancengerechten Zukunft bei und stärkt die Fachkräfte für einen kompetenten, diversitätssensiblen KI-Einsatz.

Das übergeordnete Ziel von SocialAI ist es, eine fundierte und praxisorientierte Grundlage für den chancengerechten Einsatz generativer KI in der Sozialen Arbeit zu schaffen. Es entsteht erstmals ein strukturiertes Framework speziell für ethisch verantwortliches und diversitätssensibles Prompt Engineering. Innovativ ist der empirische und nutzerzentrierte Ansatz, der bestehende theoretische Konzepte erstmals umfassend in praktische, unmittelbar nutzbare Tools und Guidelines übersetzt.

Zu den sieben zentralen Ergebnissen zählen:
1. Systematisches Literatur-Review zu Bias und Fairness in KI, nach PRISMA-Richtlinien.
2. Organisationsübergreifende Innovationsworkshops mit Führungskräften der Praxispartner:innen (SOS-Kinderdorf und Jugend am Werk) zur Identifikation von Anwendungspotenzialen.
3. Experimentelle Analysen von Prompt-Engineering-Strategien mit aktuellen KI-Modellen, erforschen empirisch verschiedene Prompting-Methoden an praxisnahen.
4. Konzeption eines strukturierten Prompting-Frameworks modulare Komponenten zur Bias-Reduktion.
5. Online-Befragung von Fach- und Führungskräften, um präzise Daten über die aktuelle Nutzung von KI-Tools im Arbeitsalltag zu erhalten.
6. Co-Creation-Workshops mit Praktiker:innen zur Entwicklung praxisnahe Lösungen in einem dreistufigen Lernprozess.
7. Digitaler Orientierungsleitfaden mit Open-Source-Prompt-Pattern-Library, der die Projektergebnisse der Fachöffentlichkeit zugänglich macht.

SocialAI leistet einen wichtigen Beitrag zur nachhaltigen, ethischen und digitalen Transformation im Sozialsektor. Durch Förderung digitaler Teilhabe insbesondere weiblicher Fachkräfte trägt das Projekt zur Verringerung geschlechtsspezifischer Barrieren bei. Dies stärkt Qualität, Innovationsfähigkeit und Nachhaltigkeit sozialer Dienstleistungen und fördert gesellschaftliche Werte wie Chancengerechtigkeit, Diversität und ethische Reflexion im digitalen Zeitalter.

Das SocialAI-Konsortium vereint umfassende Expertise in den Bereichen Soziale Arbeit (SOS-Kinderdorf, Jugend am Werk), Geschlechterforschung, Erziehungs- und Bildungswissenschaft, empirische Sozialforschung (Universität Graz), generative KI und technische Implementierung (Digital Humanities Craft OG) sowie rechtliche und ethische Aspekte (Research Institute AG & Co KG).

Abstract

Generative AI tools such as ChatGPT are increasingly integrated into social service contexts. Despite their substantial innovative potential, social work professionals—predominantly female—often lack essential knowledge concerning technical functionality, ethical risks, and inherent biases of these systems. This poses significant risks, particularly regarding vulnerable client groups and sensitive data, potentially amplifying existing societal biases related to gender, ethnicity, and age.
It is critical that stereotypical attributions of technological competencies systematically disadvantage women and hinder their participation in digital innovation. AI technologies are not neutral artifacts but are shaped by the perspectives of predominantly male-dominated development teams and biased training data. By raising awareness of stereotyping in AI systems and among users and developing counter-strategies, the SocialAI project contributes to creating a future of equal opportunities and empowers professionals for competent, diversity-sensitive AI application.

The overarching goal of SocialAI is to provide an empirically grounded framework specifically designed for ethically responsible and diversity-sensitive prompt engineering in social work.

The seven central outcomes are as follows:
1. The following systematic literature review on the topics of bias and fairness in AI is performed in accordance with the PRISMA guidelines.
2. Cross-organisational innovation workshops with executives from practice partners (SOS Kinderdorf and Jugend am Werk) were conducted to identify potential applications.
3. The present study will involve experimental analyses of prompt engineering strategies with current AI models. This will entail the empirical exploration of various prompting methods in practical examples.
4. The conception of a structured prompting framework with modular components for the reduction of bias is presented in this study.
5. An online survey of professionals and executives to obtain precise data on the current use of artificial intelligence (AI) tools in everyday work.
6. Co-creation workshops with practitioners, are hosted to develop practical solutions in a three-stage learning process.
7. A digital orientation guideline will be made available, accompanied by an open-source prompt pattern library, ensuring that the outcomes of the project are accessible to the professional community.

SocialAI makes an important contribution to sustainable, ethical, and digital transformation in the social sector. By promoting digital participation, especially for female professionals, the project helps reduce gender-specific barriers. This strengthens the quality, innovation capability, and sustainability of social services and promotes societal values such as equal opportunities, diversity, and ethical reflection in the digital age.

The SocialAI consortium combines comprehensive expertise in social work (SOS Kinderdorf and Jugend am Werk), gender studies, education science, empirical social research (University of Graz), generative AI and technical implementation (Digital Humanities Craft OG), as well as legal and ethical aspects (Research Institute AG & Co KG).

zurück