FFG Projektdatenbank

zurück

TRUST-AI4Schools

Foundation Models verstehen & nachhaltig vertrauenswürdig verwenden

Projektbeschreibung

TRUST-AI4Schools: Foundation Models verstehen & nachhaltig vertrauenswürdig verwenden

Ausgangssituation und Motivation
Generative KI-Systeme wie ChatGPT haben den Alltag von Kindern und Jugendlichen grundlegend verändert. Über 70% der Schüler:innen ab der Sekundarstufe I nutzen diese Technologien regelmäßig – oft ohne Verständnis für deren Funktionsweise, Grenzen und Risiken. Das Problem der Halluzinationen (faktisch falsche, aber überzeugend formulierte KI-Ausgaben) stellt im Bildungskontext eine erhebliche Herausforderung dar: Lernende übernehmen unkritisch fehlerhafte Informationen. Systematische Bildungsangebote, die über reine Anwendungsschulung hinausgehen und eine kritische "KI-Mündigkeit" fördern, fehlen weitgehend. Gleichzeitig sind Mädchen und Jugendliche mit Migrationshintergrund im MINT-Bereich unterrepräsentiert.

Ziele und Innovationsgehalt
TRUST-AI4Schools etabliert KI-Kompetenz bei Kindern und Jugendlichen (6-19 Jahre) in Oberösterreich. Im Zentrum steht nicht die Anwendung, sondern die kritische Reflexion und vertrauenswürdige Nutzung von Foundation Models. Das Projekt verfolgt vier Kernziele: Steigerung der KI-Kompetenz und des ethischen Bewusstseins, Förderung der Mensch-KI-Kollaboration, Aufbau von Vertrauen in vertrauenswürdige KI-Systeme sowie nachhaltige Kompetenzentwicklung durch eine Digitale Toolbox.
Die innovative Drei-Säulen-Methodik verbindet Verstehen (theoretische Grundlagen, GeoSocial AI), Entwickeln (Prototypenentwicklung mit dem KI-Unternehmen 506) und Anwenden & Reflektieren (ethische Reflexion, Diversity-Fokus). Einzigartig ist die Co-Creation mit einem echten KI-Unternehmen: Schüler:innen entwickeln eigene KI-Lernassistenten und durchlaufen einen realistischen F&E-Prozess. Greenprompting vermittelt ressourcenschonende KI-Nutzung. Der Demystify-Ansatz von INCHSTONE/Women in AI baut gezielt Schwellenängste ab und fördert Mädchen durch Female Role Model Events und Girls-Only Coding Sessions.

Angestrebte Ergebnisse
Über 28 Monate werden bis zu 1.000 Schüler:innen an fünf Partnerschulen durch 60+ Workshops, 6 Ferien-Bootcamp-Termime und über die Kooperationszuschüsse erreicht. Durch die Einbeziehung der Familien in AI Literacy Workshops werden zusätzlich bis zu 5.000 Familienmitglieder einbezogen. Die gezielte Öffentlichkeitsarbeit über Social Media Kanäle und Veranstaltungen erreicht in Summe bis zu 5.000 Jugendliche.

Konkrete Projektergebnisse umfassen: altersgerecht differenzierte Curricula (Volksschule bis Sekundarstufe II), die "CompanyGPT School Edition" für sicheres KI-Arbeiten, eine nachhaltige Digitale Toolbox mit fertigen Unterrichtsbausteinen (OER auf Eduthek), wissenschaftliche Erkenntnisse zur Wirksamkeit von KI-Bildung (Mixed-Methods-Evaluation) sowie ein Transferkonzept zur Skalierung.

Das Konsortium bestehen aus IT:U Austria (wissenschaftlicher Lead), 506 Data & Performance GmbH (Trustworthy AI, RAG-Systeme) und INCHSTONE/Women in AI (Diversity, IoT). Die wissenschaftliche Begleitforschung mit Längsschnittstudie sichert evidenzbasierte Erkenntnisse für die KI-Bildungsforschung.
TRUST-AI4Schools befähigt junge Menschen, die digitale Transformation verantwortungsvoll mitzugestalten – kritisch, nachhaltig und inklusiv.

Abstract

Generative AI systems like ChatGPT have fundamentally transformed the everyday lives of children and young people. Over 70% of students from lower secondary level onwards use these technologies regularly—often without understanding how they work, their limitations, or their risks. The problem of hallucinations (factually incorrect but convincingly formulated AI outputs) poses a significant challenge in educational contexts: learners uncritically adopt erroneous information. Systematic educational programs that go beyond mere application training and foster critical "AI literacy" are largely absent. At the same time, girls and young people with migration backgrounds remain underrepresented in STEM fields.
Objectives and Innovation
TRUST-AI4Schools establishes AI competency among children and young people (ages 6–19) in Upper Austria. The focus is not on application, but on critical reflection and trustworthy use of Foundation Models. The project pursues four core objectives: increasing AI competency and ethical awareness, promoting human-AI collaboration, building trust in trustworthy AI systems, and sustainable competency development through a Digital Toolbox.
The innovative three-pillar methodology combines Understanding (theoretical foundations, GeoSocial AI), Developing (prototype development with the AI company 506), and Applying & Reflecting (ethical reflection, diversity focus). Unique is the co-creation with a real AI company: students develop their own AI learning assistants and undergo a realistic R&D process. Green prompting teaches resource-efficient AI use. The Demystify approach from INCHSTONE/Women in AI specifically reduces barriers to entry and supports girls through Female Role Model Events and Girls-Only Coding Sessions.
Intended Outcomes
Over 28 months, up to 1,000 students at five partner schools will be reached through 60+ workshops, 6 holiday bootcamp sessions, and cooperation grants. By involving families in AI Literacy Workshops, an additional 5,000 family members will be engaged. Targeted public outreach via social media channels and events will reach up to 5,000 young people in total.
Concrete project outcomes include: age-differentiated curricula (primary through upper secondary level), the "CompanyGPT School Edition" for safe AI work, a sustainable Digital Toolbox with ready-to-use teaching modules (OER on Eduthek), scientific findings on the effectiveness of AI education (mixed-methods evaluation), and a transfer concept for scaling.
The consortium consists of IT:U Austria (scientific lead), 506 Data & Performance GmbH (Trustworthy AI, RAG systems), and INCHSTONE/Women in AI (Diversity, IoT). Scientific accompanying research with a longitudinal study ensures evidence-based insights for AI education research.
TRUST-AI4Schools empowers young people to responsibly shape the digital transformation—critically, sustainably, and inclusively.

zurück