FFG Projektdatenbank

zurück

Ethische KI

Software Plattform für die Entwicklung von ethischer KI

Projektbeschreibung

Ethische KI
Künstliche Intelligenz hat enormes Potential. Einen kleinen Teil dessen, was mit KI möglich ist, kann man heute bereits in Anwendungen wie Sprach-Assistenten, Gesichtserkennung oder autonomem Fahren erleben. KI wird die Arbeitswelt grundlegend verändern. Trotz der rasanten technische Entwicklung von Verfahren zum Maschinellen Lernen wurden ethische Perspektiven bisher kaum berücksichtigt. Selbst großen Unternehmen kamen immer wieder in Situationen in denen KI Modelle von Vorurteilen geprägt waren oder in denen es möglich war, aus Datenbeständen vertrauliche Informationen abzuleiten.
Um zukünftigen ethischen Regularien zu entsprechen, muss die Entwicklung von KI-Anwendungen und Modellen des Maschinellen Lernens völlig neu und unter grundsätzlicher Beachtung ethischer Grundsätze betrachtet werden. Ethische Kriterien müssen von Anfang an in der Entwicklung berücksichtigt werden. Dies stellt eine gesellschaftliche Herausforderung und eine große wirtschaftliche Chance dar.
Das Ziel von Gradient Zero ist es daher, gemeinsam mit universitären Partnern Software-Entwicklungswerkzeuge zu entwickeln, die die Programmierung von KI Anwendungen ermöglichen, welche ethischen Prinzipien folgen. Mit einer solchen KI Anwendung können Unternehmen, die über Datenbestände verfügen, diese Datenbestände unter Einhaltung aller ethischer Kriterien Dritten zur Verfügung stellen.
Im Verlauf des dreijährigen Projektes gilt es, erst in Kooperation mit der Universität Wien, Abteilung für Philosophie, die theoretischen Grundlagen Ethischer KI auszuarbeiten und darauf aufbauend die genannte Entwicklungsplattform sowie Prüfmechanismen für Kriterien Ethischer AI wie Erklärbarkeit, Verhinderung von Vorurteilen, Datenschutz, Transparenz und Nachvollziehbarkeit auszuarbeiten und in Pilotprojekten zu evaluieren.
Das Team verfügt bereits über Erfahrung im Projektbereich und hat in der Vergangenheit bereits einige erfolgreiche ethische KI-Projekte in den Bereichen Gesundheitswesen und Verwaltung umgesetzt.

zurück