Detailansicht
The regulation of emotion recognition systems in the EU
Katja Kolman
Art der Arbeit
Master-Thesis (ULG)
Universität
Universität Wien
Fakultät
Postgraduate Center
Studiumsbezeichnung bzw. Universitätlehrgang (ULG)
Universitätslehrgang Informations- und Medienrecht [Berufsbegleitend]
Betreuer*in
Nikolaus Forgó
DOI
10.25365/thesis.79957
URN
urn:nbn:at:at-ubw:1-12887.12760.665952-3
Link zu u:search
(Print-Exemplar eventuell in Bibliothek verfügbar)
Abstracts
Abstract
(Deutsch)
In den letzten Jahren ist ein wachsender Trend von Emotionserkennungssystemen zu beobachten. Gleichzeitig nimmt die Kritik an ihrer wissenschaftlichen Grundlage und Zuverlässigkeit sowie ihrer Eingriffstiefe zu. Dies führte auch zu einer verstärkten regulatorischen Aufmerksamkeit gegenüber solchen Systemen, was zu einer ausdrücklichen Regulierung von KI-basierten Emotionserkennungssystemen im Rahmen der EU-Verordnung zur KI (KI-VO) führte. Die KI-VO ist jedoch nicht das einzige Instrument das Emotionserkennungssysteme reguliert. Andere anwendbare EU- und nationale Rechtsvorschriften gelten weiterhin für das Anbieten oder Betreiben von solchen Systemen. Die Masterarbeit untersucht den aktuellen Stand der Entwicklung und Nutzung von Emotionserkennungssystemen und die damit verbundene Kritik. Anschließend analysiert sie die wichtigsten Elemente des EU-Rechtsrahmens, der Emotionserkennungssysteme regelt – die KI-VO sowie auch die grund- und datenschutzrechtlichen Anforderungen. Dabei werden drei Fragen untersucht. Zunächst wird analysiert, inwieweit Emotionserkennungssysteme unter der KI-VO und die darin enthaltenen verschiedenen Risikokategorien fallen. Die Arbeit zeigt, dass die Anwendung der KI-VO auf Emotionserkennungssysteme in der Praxis begrenzt ist aufgrund einiger recht restriktiver Definitionen und Ausnahmen von dem Anwendungsbereich der KI-VO. Zweitens untersucht die Arbeit inwieweit die Entwicklung und Nutzung von Emotionserkennungssystemen nach dem EU-Grundrecht und insbesondere nach dem EU-Datenschutzrecht zulässig ist, sofern dies nicht durch die KI-VO verboten ist. Sie zeigt, dass die Entwicklung und der Betrieb von solchen Systemen viele Grundrechte beeinträchtigen und mit mehreren Datenschutzgrundsätzen und -anforderungen unvereinbar sein könnten. Letztendlich stehen solche Systeme oft im Widerspruch zu den Anforderungen der Notwendigkeit und Verhältnismäßigkeit in beiden Rechtsbereichen. Abschließend enthält die Arbeit einige Überlegungen und Empfehlungen zur Regulierung von Emotionserkennungssystemen de lege ferenda. Eine strengere Regulierung, einschließlich eines Verbots der Verwendung von solchen Systemen in asymmetrischen Machtverhältnissen und für rein kommerzielle Interessen, ist vorgeschlagen.
Abstract
(Englisch)
In recent years, a growing trend of emotion recognition systems can be observed. At the same time, criticism about their scientific basis and reliability as well as intrusiveness is mounting. This led also to increased regulatory attention in such systems, resulting in the explicit regulation of AI-based emotion recognitions systems under the EU AI Act. The AI Act is, however, not the sole instrument regulating emotion recognition systems. Other applicable EU and national law continue to apply to their development and use. The master thesis examines the current state of development and use of emotion recognition systems and related criticism. It then analyses key pieces of the EU regulatory framework that govern emotion recognition systems – the EU AI Act, fundamental rights law, and data protection law. It explores three questions. First, it analyses the extent to which emotion recognition systems are covered by the AI Act and the different risk categories contained therein. It demonstrates that the AI Act’s application to emotion recognition systems is limited in practice, due to some rather restrictive definitions and exceptions from the AI Act’s scope. Second, the thesis explores the extent to which the development and use of emotion recognition systems can be permitted under EU fundamental rights law and more specifically the EU data protection acquis, whenever not prohibited by the AI Act. It shows that such development and use might adversely impact many fundamental rights and be incompatible with several data protection principles and requirements. They may be ultimately often at odds with necessity and proportionality requirements under both legal areas. Finally, the thesis sets forth some reflections and recommendations on the regulation of emotion recognition systems de lege ferenda, proposing their stricter regulation, including by prohibiting their use in asymmetrical power relationships and for purely commercial interests.
Schlagwörter
Schlagwörter
(Deutsch)
Emotionserkennungssysteme KI-VO Grundrechte Datenschutz
Schlagwörter
(Englisch)
Emotion recognition systems AI Act Fundamental rights Data protection
Autor*innen
Katja Kolman
Haupttitel (Englisch)
The regulation of emotion recognition systems in the EU
Publikationsjahr
2025
Umfangsangabe
85 Seiten : Illustratonen
Sprache
Englisch
Beurteiler*in
Nikolaus Forgó
Klassifikation
86 Recht > 86.86 Europarecht. Allgemeines
AC Nummer
AC17739835
Utheses ID
78430
Studienkennzahl
UA | 992 | 942 | |