FFG Projektdatenbank

zurück

PCS

Platform Compliance Study

Projektbeschreibung

Die Anwendung von KI und Algorithmen durch Plattformen und Online-Dienste ermöglicht komplexe Datenanalysen und automatisierte Entscheidungsfindung. Diese Entwicklungen stellen Sicherheitsrisiken vor allem für vulnerable Konsument:innen dar, die von Problemen von Betrug, Manipulation, hin zu fehlender Transparenz und mangelnder Fairness reichen. Denn die Analyse von personenbezogenen Userdaten kann eingesetzt werden, um Prozesse manipulativ bzw. täuschend zu gestalten und Suchergebnisse zu personalisieren bspw. durch die gezielte Platzierung von verhaltensbasierten Werbeelementen.
Im Konsumentenschutz auf EU-Ebene werden diese datengesteuerten, algorithmischen Vorgänge rund um Entscheidungsfindung, Ranking und Prozessgestaltung derzeit verstärkt mit dem Fokus auf Dark Patterns und verhaltensbasierter Werbung problematisiert. Die rechtlichen Möglichkeiten zur Verfolgung von unlauteren Geschäftspraktiken, wie sie im Rahmen von Dark Patterns oder verhaltensbezogener Werbung angewandt werden, sind noch eingeschränkt und neue Rechtsregelungen sind in Arbeit bzw. werden in Österreich noch umgesetzt werden müssen. Es besteht ein wachsender Bedarf an Methoden und Tools, die im Bereich der Rechtsdurchsetzung zur Detektion und Dokumentation von datenbasierten, algorithmischen Ansätzen von Reihung, Empfehlung und Prozessgestaltung eingesetzt werden können.
Die FuE Dienstleistung „Platform Compliance Study“ ist eine umfassende Analyse von unlauteren Geschäftspraktiken auf den für den österreichischen Konsument:innen relevanten Plattformen und Online-Diensten. Das vorliegende Projekt legt den Fokus auf eine Analyse von unlauteren Geschäftspraktiken im Sinne von Dark Patterns und verhaltensbasierter Werbung mit einem Konsortium von Expert:innen des Konsumentenschutzes, KI-Forscher:innen und dem BMSGPK. Das Projekt umfasst (1) Eine Erhebung und Messung von Verstößen im Sinne unlauterer Geschäftspraktiken mit Fokus auf Dark Patterns und verhaltensbasierter Werbung auf für österreichische Konsument:innen relevanten Plattformen und Online-Diensten. (2) Eine Evaluation von vorhandenen Tools und Methoden für die Dokumentation und Beweissicherung durch Verbraucherbehörden und -organisationen. (3) Eine Machtbarkeits-Studie eines Tools für die Detektion und die Dokumentation von Dark Patterns und verhaltensbasierter Werbung.

Abstract

Artificial Intelligence, and its application by online platforms and social media, enables complex data analysis and automated decision-making on a new scale. In turn, this development poses new security risks for consumers due to the endemic collection of data and analysis of user behavior, accompanied by the personalization of interfaces, search results, and advertisements, to name a few. These security risks primarily affect vulnerable consumers and at times include the unlawful use and combination of data to position behavior-based content and design misleading, manipulative, or deceptive processes.
Data-driven, algorithmic processes are also used by fraudulent parties to deceive consumers with targeted advertising. Consumer protection groups address these unfair business practices like data-driven, algorithmic processes around decision-making, ranking, and process design at the European level, with a focus on problematizing dark patterns and behavior-based advertising. Legal options for prosecuting unfair business practices as applied in the context of dark patterns or behavioral advertising are currently limited. Law enforcement registers an emerging need for methods and tools to verify the implementation of the numerous legislative initiatives on data-based, algorithmic approaches to ranking, recommendation, and process design.
The Platform Compliance Study project is a comprehensive analysis of unfair business practices by platforms and applications relevant to Austrian consumers. In this context, these phenomena and related trends are investigated, as well as possible ways to measure these practices and thus create a comprehensive basis to legally prosecute them. This includes (a) A collection and analysis of existing tools and methods for documenting and gathering evidence of dark patterns and behavioral advertising for use by consumer agencies and organizations. (b) The exemplary application of these tools and methods to online platforms and mobile applications relevant for Austrian consumers to make dark patterns and behavior-based advertising visible, for stakeholder education and consumer education. (c) A feasibility study of a tool for detection and documentation of behavioral advertising.

zurück