FFG Projektdatenbank

zurück

AdWatch

Automated Detection and Warning system Against fraudulent Trading and Cybercrime Harms

Projektbeschreibung

Der durch Internetbetrug verursachte Schaden in Österreich nimmt seit Jahren zu. 2023 wurden lt. Cybercrime Report 34.069 Fälle gemeldet, ein Anstieg von 23,3% gegenüber dem Vorjahr. Social Media Plattformen und Suchmaschinen entwickeln sich zunehmend zum Eintrittstor für Cyberkriminelle. V.a. im Bereich betrügerische Investmentwerbung steigen die finanziellen Schäden – ohne dass in der Rechtsdurchsetzung bisher wirkungsvolle Schritte gesetzt wurden.

AdWatch trägt mit Hilfe der neuen regulatorischen Instrumente des Digital Services Act (DSA) zur Verbesserung der Sicherheitslage in Österreich bei, indem betrügerische Werbung effektiv bekämpft wird:

(1) Aufbau einer Wissensbasis über Modi Operandi und Ausmaß betrügerischer Werbung sowie zu Täternetzwerken und Sicherheitslücken: Die Wissensbasis umfasst die Auswertung bestehender Verdachtsfälle, die (Cluster-)Erhebung weiterer Fälle, Analysen zu Reichweiten, Targeting, Täterstrategien und die Machine-Learning-gestützte Identifikation von Betrugsindikatoren, die die Früherkennung neu auftretender betrügerischer Werbung unterstützt. Die Ergebnisse gehen über bisherige Einzelfallanalysen zum Thema hinaus und werden u.a. in einem Studienbericht veröffentlicht.

(2) Teilautomatisierung relevanter Workflows zur Detektion, Analyse, Dokumentation und Meldung verdächtiger Werbeanzeigen: In enger Abstimmung mit dem Bedarfsträger werden Workflows definiert, die den Arbeitsprozess von der Detektion und Analyse konkreter Verdachtsfälle über die Dokumentation bis hin zur Meldung betrügerischer Werbung abdecken. Die durch den DSA verpflichtend gewordenen API-Schnittstellen der Werbebibliotheken sehr großer Plattformen und Suchmaschinen (VLOPs, VLOSEs) werden genutzt, um ein robustes System zu entwickeln, das die definierten Workflows teilautomatisiert und die gerichtsfeste Beweissicherung von Betrugsfällen sowie die rasche Entfernung betrügerischer Werbung unterstützt.

(3) Erarbeitung von Handlungsempfehlungen zur Verbesserung der DSA-Compliance: Aufbauend auf rechtlichen Analysen und empirischen Erhebungen werden die neuen Ansätze des DSA hinsichtlich ihrer Wirksamkeit evaluiert und Handlungsempfehlungen abgeleitet. Durchgeführt werden Analysen zu den Transparenzpflichten der Werbebibliotheken, zu Meldeprozessen sowie zu systemischen Risiken und den Mitigationsstrategien der Plattformen.

(4) Unterstützung der Behörden bei der Rechtsdurchsetzung: Die Ergebnisse unterstützen nicht nur den Bedarfsträger bei der Strafverfolgung, sondern richten sich auch an die Aufsichtsbehörden des DSA (Europäische Kommission, KommAustria), um Daten, Analysen und Tools für eine effiziente Rechtsdurchsetzung des DSA bereitzustellen. Weitere Stakeholder werden in ihrer Beratungs-, Präventions- und Policy-Arbeit unterstützt. Disseminationsaktivitäten über reichweitenstarke ÖIAT-Informationskanäle (z.B. Watchlist Internet) schützen Konsument:innen zielgruppengerecht vor Betrug durch Werbeanzeigen.

Geleitet wird das Projekt vom ÖIAT, das zahlreiche Forschungsprojekte zu Cybercrime und automatisierter Betrugsdetektion erfolgreich umgesetzt hat. Die Expertise des AIT im Bereich KI und maschinellem Lernen sowie die Erfahrung der TU Wien in der Entwicklung von Crawler-Systemen ergänzen die Kompetenzen. Damit schafft das Projekt die Basis für eine systematische Bekämpfung betrügerischer Werbung und trägt dazu bei, das Vertrauen in digitale Infrastrukturen zu stärken und volkswirtschaftliche Schäden zu minimieren.

Abstract

The prevalence of internet fraud in Austria has been increasing for years, causing growing financial damages for victims. According to the Cybercrime Report, 34,069 cases were reported in 2023, an increase of 23.3% compared to the previous year. Social media platforms are increasingly becoming a gateway for cybercriminals, leading to increased financial losses - particularly regarding fraudulent investment advertisements. Legal remedies have, as of now, not been effectively implemented.

Making use of the new regulatory instruments of the Digital Services Act (DSA), AdWatch contributes to improving security in Austria by effectively combating fraudulent advertising:

(1) Establishing a knowledge base pertaining to the modi operandi and extent of fraudulent advertising as well as on criminal networks & vulnerabilities: The knowledge base encompasses the evaluation of existing suspected cases, the (cluster-) analyses of further cases, analyses of scope, targeting metrics, criminal strategies and the machine learning-based identification of fraud indicators, which supports the early detection of newly emerging fraudulent advertising. The results go beyond previous individual case analyses on the topic and will be published in a study report.

(2) Partial automation of relevant workflows for the detection, analysis, documentation and reporting of suspicious/fraudulent advertisements: In close cooperation with the Federal Ministry of the Interior (BMI), workflows are defined that cover the process from detecting and analyzing suspicious cases to the documentation and reporting of fraudulent advertising. The development of a robust system that partially automates the defined workflows is facilitated by the use of the API interfaces of the advertising libraries of very large platforms and search engines (VLOPs, VLOSEs), which have become mandatory under the DSA. The system is designed to support court-proof documentation of evidence in cases of fraud and the rapid removal of fraudulent advertisements.

(3) Development of recommendations to improve DSA compliance:
Drawing upon the findings of legal analyses and empirical evaluations, the novel DSA approaches are evaluated in terms of their effectiveness. In turn, policy recommendations are derived. Analyses will be carried out on transparency obligations with regard to advertising libraries, reporting processes, systemic risks, and the platforms' mitigation strategies.

(4) Supporting authorities in law-enforcement: Firstly, the results support the authorities in law enforcement, secondly, they are aimed at the supervisory authorities of the DSA (European Commission, KommAustria). Other stakeholders are supported in their advisory, prevention, and policy work. Dissemination and awareness work will be conducted via the ÖIAT channels (e.g. Watchlist Internet) to protect consumers in a target group-oriented manner from damage by fraudulent advertising.

The project is led by ÖIAT, which has successfully implemented numerous research projects on cybercrime and automated fraud detection. AIT's expertise in AI and machine learning and TU Vienna's experience in the development of crawler systems complement these competencies. The synergy between the partners is set to establish a foundational framework for the systematic identification and mitigation of fraudulent advertising practices, thereby contributing to enhancing trust in digital infrastructure and the reduction of economic losses.

zurück