FFG Projektdatenbank

zurück

FHIR Trustworthy AI

Trustworthy AI in the Medical Data Exchange Standard HL7 FHIR

Projektbeschreibung

Mit dem rasanten Fortschritt von KI im Gesundheitswesen entstehen neue Herausforderungen im Hinblick auf Sicherheit, Transparenz und Vertrauenswürdigkeit von KI-generierten medizinischen Daten. Insbesondere fehlt es derzeit an standardisierten Möglichkeiten, solche Daten zu kennzeichnen, zu qualifizieren und deren Herkunft nachvollziehbar zu machen – etwa im Kontext der International bzw. Austrian Patient Summary. HL7 FHIR welcher immer mehr zulauf im Gesundheitswesen findet, eignet sich hier wegen der Aufteilung von Daten in einzelne Ressourcen. Gleichzeitig verpflichten neue Regulierungen wie der EU AI Act zur Nachvollziehbarkeit, Fairness und Absicherung von Hochrisiko-KI-Systemen. Für Unternehmen und Institutionen, die FHIR oder KI in der medizinischen Dokumentation einsetzen, entsteht dadurch ein akuter Qualifizierungsbedarf.

Ziel des Projekts ist die Qualifizierung von Fachkräften zur Anwendung vertrauenswürdiger KI im Gesundheitswesen unter Einhaltung aktueller rechtlicher und ethischer Vorgaben. Im Mittelpunkt steht ein Open-Source FHIR Implementation Guide (IG), der es erlaubt, KI-generierte Inhalte innerhalb von Patient Summaries systematisch zu kennzeichnen und transparent darzustellen. Die Maßnahme verbindet technisches, regulatorisches und ethisches Wissen in einem interdisziplinären Format. Sie bereitet Unternehmen auf künftige Anforderungen im EU-Gesundheitsdatenraum (EHDS) vor und positioniert sie als Vorreiter im Bereich vertrauenswürdiger digitaler Lösungen.

Erwartete Projektergebnisse sind u. a. ein frei nutzbarer FHIR IG zur Annotation von KI-generierten Daten, ein modular einsetzbares Schulungscurriculum sowie praxisnahe Konzepte zur Integration vertrauenswürdiger KI in realen Versorgungsszenarien rund um das Patient Summar zur Prävention von Krankheiten. Darüber hinaus fördert das Projekt den Aufbau eines österreichweiten Netzwerks im Bereich „Trustworthy AI in Health“ und leistet durch gezielte Dissemination (z. B. auf HL7 Jahrestagungen, dHealth, FHIR DevDays, HL7 WGMs) einen Beitrag zur nationalen und internationalen Standardisierung und Weiterverwertung der Ergebnisse.

Abstract

With the rapid advancement of artificial intelligence (AI) in healthcare, new challenges are emerging regarding the safety, transparency, and trustworthiness of AI-generated medical data. In particular, there is currently a lack of standardized approaches to label, qualify, and trace the provenance of such data – for example, in the context of the International or Austrian Patient Summary. HL7 FHIR, which is increasingly adopted across healthcare systems, is particularly well-suited for this purpose due to its modular, resource-based structure. At the same time, new regulations such as the EU AI Act require transparency, fairness, and safeguards for high-risk AI systems. This creates an urgent qualification need for companies and institutions working with FHIR and AI in medical documentation.

The aim of this project is to qualify professionals to apply trustworthy AI in healthcare, in compliance with current legal and ethical frameworks. At the core of the initiative is an open-source FHIR Implementation Guide (IG), enabling the systematic annotation and transparent representation of AI-generated content within Patient Summaries. The program combines technical, regulatory, and ethical expertise in an interdisciplinary format. It prepares organizations for future requirements within the European Health Data Space (EHDS) and positions them as frontrunners in the domain of trustworthy digital health solutions.

Expected project outcomes include a freely available FHIR IG for annotating AI-generated data, a modular training curriculum, and practice-oriented concepts for integrating trustworthy AI into real-world healthcare scenarios centered around the Patient Summary for disease prevention. Additionally, the project supports the establishment of a nationwide Austrian network for “Trustworthy AI in Health” and contributes to national and international standardization and dissemination efforts – including presentations at HL7 Working Group Meetings, HL7 Annual Meetings, dHealth Vienna, and FHIR DevDays Europe.

zurück