FFG Projektdatenbank

zurück

KITKA

Künstliche Intelligenz - Transparenz durch katalogbasierte Plattform für Österreich (AT)

Projektbeschreibung

KI Systeme besitzen ein großes Potential für österreichische Unternehmen. Viele Unternehmen schöpfen dieses jedoch noch nicht maximal aus. Ein Mangel an Vertrauen in und Wissen über diese Systeme stellen wesentliche Barrieren für deren adäquate Nutzung dar.
Das übergeordnete Ziel des Projekts ist es, diesen Herausforderungen durch die Bereitstellung von umfassender Information, die von ExpertInnen unterschiedlicher Disziplinen validiert ist, entgegenzuwirken. Dazu wird in einem interdisziplinären Projektteam eine open-access Plattform konzipiert, welche den Zweck hat, Use Cases von KI in ganzheitlicher Form darzustellen und entlang eines entwickelten Kriterienkataloges zu bewerten. Dies bedeutet, dass neben einer technischen Darstellung (worauf sich die meisten Präsentationen von KI Systemen reduzieren) für zunächst zehn ausgewählte KI Use Cases ebenso aus anderen Perspektiven (u.a. Ethik, Soziologie, Wirtschaft, Psychologie, Datenschutz und HCI) evaluiert und bewertet werden.
Um eine ganzheitliche Betrachtung relevanter Use Cases überhaupt zu ermöglichen, muss ein Kriterienkatalog aus der Perspektive diverser Disziplinen erstellt werden. Dieser wird in einer Kombination unterschiedlicher partizipativer Prozesse (qualitative Befragungen, Fokusgruppen, Social Design) mit Fokusgruppen heterogenen Stakeholdern verfeinert und laufend weiterentwickelt. Basierend auf diesem Fragenkatalog werden ausgewählte Use Cases bewertet. Dies dient als Grundlage für die Erstellung eines Konzepts für die Plattform.
Die Entwicklung einer Plattform, die eine Vielzahl von Use Cases umfassend beschreibt und bewertet, ist ein zeit- und ressourcenaufwändiger Prozess, welcher eine vorangehende Exploration und Abwägung der Möglichkeiten und Grenzen einer solchen Plattform fordert. In diesem Sondierungsprojekt soll die Plattform deshalb zunächst konzipiert und an einem Unternehmensbeispiel basierend auf 10 Use Cases getestet werden.
Eine derartige ganzheitliche Beschreibung einzelner in Österreich angebotener KI Systeme und deren Anwendung, die u.a. ethische Gesichtspunkte und mögliche Auswirkungen genauer reflektieren, gibt es bislang noch nicht und hat das Potenzial Unternehmen zu empowern, somit den Wirtschaftsstandort Österreich zu stärken und eine interessierte Öffentlichkeit zu informieren.
Neben den direkten Projektzielen strebt das Projekt eine SWOT Analyse und ein Innovation Readiness Assessment der Plattform an, um die Entscheidungsfindung hinsichtlich weiterer F&E&I-Vorhaben bestmöglich zu unterstützen.

Abstract

AI systems have great potential for Austrian companies. However, many companies do not yet fully exploit this potential. A lack of trust in and knowledge about these systems are major barriers to their adequate use.
The overall goal of the project is to counteract these challenges by providing comprehensive information validated by experts from different disciplines. An interdisciplinary project team will design an open-access platform, which will present AI use cases in a holistic form and evaluate them according to a developed catalogue of criteria. This means that in addition to providing technical information about the AI systems (to which most presentations of AI systems are reduced), ten selected AI Use Cases will be evaluated from other relevant perspectives (e.g., ethics, sociology, management, psychology, data protection and HCI).
In order to enable a holistic view of relevant use cases at all, a catalogue of criteria including various perspectives has to be developed. This catalogue will be refined and continuously developed in the course of different, combined participative processes (qualitative surveys, focus groups, social design) with focus groups of heterogeneous stakeholders. The selected use cases are evaluated on the basis of this questionnaire. This serves as the basis for creating a concept for the platform.
The development of a platform that comprehensively describes and evaluates a large number of use cases is a time-consuming and resource-intensive process that requires prior exploration and consideration of the possibilities and limitations of such a platform. In this exploratory project, the platform will therefore be initially conceptualized in the context of one company example based on 10 use cases.
Such a holistic description of individual AI systems offered in Austria and their application, which also reflects ethical aspects and possible implications, does not yet exist and has the potential to empower companies, thus strengthening Austria as a business location and informing an interested public.
In addition to the primary project goals, the project aims at a SWOT analysis and an innovation readiness assessment of the platform in order to support the decision making regarding further R&D&I projects in the best possible way.

Endberichtkurzfassung

Künstliche Intelligenz (KI) Systeme besitzen ein großes Potenzial für Österreichische Unternehmen, jedoch schöpfen diese das oft nicht zur Gänze aus. Ein Mangel an Vertrauen in und Wissen über diese Systeme stellen wesentliche Barrieren für deren adäquaten Nutzung dar. Hier setzt das einjährige Sondierungsprojekt, das beim FFG Ideen Lab 2019 entstanden ist und von März 2020 bis Februar 2021 implementiert wurde, an. Das interdisziplinäre Konsortium, bestehend aus den drei wissenschaftlichen Partner*innen, dem Institut für Höhere Studien Wien, der Fachhochschule Oberösterreich – Global Sales and Marketing, dem Center for Human-Computer Interaction (Universität Salzburg) und dem Unternehmen ONTEC AG, wollen Vertrauen in KI Systeme mit Hilfe von Informationsvermittlung stärken. Dazu wurde eine open-access Plattform konzipiert, die den Zweck hat, Use Cases von KI in ganzheitlicher Form darzustellen und entlang eines entwickelten Kriterienkatalogs zu beschreiben und zu bewerten. Der Kriterienkatalog, der auf einem systematischen Review basiert und neben der Darstellung von technischen Aspekten (worauf sich die meisten Präsentationen von KI Systemen reduzieren) ebenso die Perspektiven Ethik, Management, Human Computer Interaction und Datenschutz beinhaltet, wurde im Zuge eines mehrstufigen Methodenmix entwickelt und evaluiert. In diesem Prozess, bei dem innovative partizipative Methoden eingesetzt wurden, wurden sowohl KI Entwickler*innen, (potentielle) KI Anwender*innen sowie Expert*innen aus den genannten Bereichen miteinbezogen.

Zunächst wurden zehn ausgewählte KI Entwickler*innen oder Anwender*innen gebeten ein von ihnen entwickeltes oder verwendetes KI System entlang des Kriterienkatalogs zu beschreiben. Im Anschluss wurde von den Personen während eines Interviews Feedback zum Kriterienkatalog eingeholt. Es haben hierbei u.a. folgende Unternehmen teilgenommen: Cloudflight, SAS, Smec, XephorSolutions, Ubitec, blumatix, Sail Labs, Ontec AG und ImageBiopsy Lab.

In den zwei Fokusgruppen haben die insgesamt 12 Expert*innen aus dem Bereichen KI, Ethik und Diversität, Management (insbesondere aus dem Buying Center), Datenschutz und Human Computer Interaction diskutiert, welche Informationen Vertrauen in KI Systeme stärken können. Genannt wurde u.a. die Beschreibung von Zielen, Nutzen und Kosten des KI Systems, ebenso wie die Darstellung von technischen und datenschutzrelevanten Aspekten und Informationen zur Konformität des KI Systems mit Gesetzen und Regularien. In Hinblick auf ethische Gesichtspunkte wurde die Berücksichtigung von Menschenrechten und gesellschaftlichen Werten bei der Entwicklung und Anwendung des KI Systems für wichtig erachtet.

Das Social Design Lab, ein neu entwickelter Aktionsforschungsansatz, der Elemente aus Design Thinking und Social Lab vereint, wurde in zwei Workshops durchgeführt. Im ersten Social Design Lab Workshop wurden den Teilnehmer*innen eine KI Anwendung aus den Interviews präsentiert, bevor sie ein fiktives Unternehmen gegründeten, das aus den unterschiedlichen Abteilungen heraus überlegte, welche Informationen sie für die Implementierung der KI benötigt und was der Mehrwert davon sein könnte. Es wurden u.a. folgende Erwartungen an die Plattform genannt: wirtschaftliche Vorteile durch die KI sollen aufgezeigt werden, effizienteres Arbeiten und Personalentlastung sollen gewährleistet werden, Datensicherheit gemäß DSGVO muss gegeben sein und Verantwortlichkeiten müssen beschrieben sein. Von der Plattform wird des Weiteren erwartet, dass sie ein Bewertungssystem (Ampelsystem) der beschriebenen KI Systeme beinhaltet, eine verständliche Sprache verwendet, eine gute und einfache Navigation hat und barrierefrei gestaltet ist.

Im zweiten Social Design Lab Workshop wurden zunächst mehrere KI Systeme vorgestellt, bevor Personen des Buying Centers mittels der Reserve Thinking Methode reflektierten, welche Informationen zu einem KI System dessen Anwendung verhindern könnten. Hier wurde beispielsweise betont, dass die Weitergabe von persönlichen Daten, Diskriminierung oder fehlende Transparenz abschreckend wirken würden. Bezüglich der Plattformumsetzung wurden Vorschläge wie die Beschreibung von Grundbegriffen, Einbau von kurzen Videos oder die KI erlebbar zu machen (durch Chatbot) diskutiert. Weiters wurde die Wichtigkeit der richtigen Vermarktung über relevante Kanäle betont.

Letztlich wurde noch ein Workshop mit Ethik-Expert*innen durchgeführt, bei dem sowohl allgemeingültige ethische Aspekte der Plattform bzw. des Kriterienkatalogs reflektiert als auch mögliche Indikatoren für die Messung von gesellschaftlichen Auswirkungen von KI Systemen diskutiert wurden.

Nicht nur für die Finalisierung des Kriterienkatalogs wurden die Ergebnisse der Interviews, Fokusgruppen, Social Design Lab Workshops und des Ethik Workshops berücksichtigt, sondern ebenso für die Erstellung des strukturellen Plattformkonzepts und des Dynamisierungskonzepts. Der Showcase wird in einem Mockup dargestellt und Kann so ausprobiert werden. Das Design basiert auf dem strukturellem Plattformkonzept.

Auch wenn der Kriterienkatalog bereits viele Aspekte berücksichtigt, haben sich im Zuge des KITKA Projekts noch Forschungsfragen (beispielsweise: Wie kann mit sozial erwünschten Beschreibungen umgegangen werde? Wie können Kriterien bezüglich Menschenrechte im Einzelnen abgefragt werden? Wie kann die KITKA Plattform das Entstehen einer AI Culture begünstigen?) aufgetan, die es vor der Realisierung der KITKA Plattform noch in einem Folgeprojekt zu untersuchen gilt.

zurück