Detailansicht

Learning about evidence

encountering algorithmic infrastructures for criminal investigations

Sofie Kronberger

Art der Arbeit

Masterarbeit

Universität

Universität Wien

Fakultät

Fakultät für Sozialwissenschaften

Studiumsbezeichnung bzw. Universitätlehrgang (ULG)

Masterstudium Science-Technology-Society

Betreuer*in

Katja Mayer

URN

urn:nbn:at:at-ubw:1-11232.58714.586412-4

Link zu u:search

(Print-Exemplar eventuell in Bibliothek verfügbar)

Abstracts

Abstract

(Deutsch)

Der schnell wachsende Fortschritt im Bereich von Künstlicher Intelligenz (KI) verspricht eine KI-Revolution, die sämtliche Bereiche menschlichen Lebens betrifft. Zeitgleich werden mehr und mehr kritische Stimmen laut, welche, verstärkt durch Vorfälle von diskriminierenden und intransparenten Einsätzen der Technologie, zu einer Polarisierung der öffentlichen Debatte führen. Die Suche nach Methoden zu Entwicklung von vertrauenswürdiger KI erlangen daher immer größerer gesellschaftliche Bedeutung. Ausgehend von der Perspektive der Wissenschafts- und Technikforschung (STS) untersuche ich die Art und Weise, wie sich auf Machine Learning (ML) basierte Methoden in das soziotechnische System der Beweisführung in Strafverfahren einbetten und diese selbst beeinflussen. Diese wissenschaftliche Arbeit basiert auf eineinhalb Jahren teilnehmender Beobachtung an einem interdisziplinären Forschungsprojekt zur Erstellung eines auf ML basierenden multimodalen Klassifikationssystems. Ich beginne mit einer Beschreibung der soziotechnischen Elemente der Erstellung von ML. Dabei zeige ich die Wirkung des Forschungsprojekts als Grenzobjekt (Star and Griesemer 1989) auf, und schlage das Konzept des „learning multiple“ vor, um die komplexen und kooperativen Lernprozessen zwischen verschiedenen menschlichen und nichtmenschlichen AkteurInnen zu erfassen. Meine Arbeit zeigt die Bedeutung von situiertem Wissen, und der „Multiplizität“ (A. Mol 2005) von Beweismitteln bei der Erstellung von ML auf. Ich zeige wie die Zunahme digitaler Daten als Katalysator für die Entwicklung algorithmischer Infrastrukturen dient. Zeitgleich bleibt dies nicht ohne Auswirkungen auf diese Systeme selbst: die Grenzen zwischen digitaler Forensik und ErmittlerInnen werden poröser. Weiters untersuche ich, wie Strafverfolgungsbehörden die Beziehung zwischen ihrer Arbeit, ML und vertrauenswürdigen Beweismittel verstehen, und gebe einen Überblick über zwei Denkrichtungen: „staying in charge“ und „epistemic modesty“ (Pickersgill 2016). Abschließend untersuche ich drei mögliche Spannungsfelder von ML im Bereich strafrechtlicher Ermittlungen und drei potentielle Abhilfen. Ich untersuche diese als „Schauplätze ethischer Auseinandersetzungen“ (Heimstädt and Dobusch 2020) mit politischen Auswirkungen, in denen das Verständnis von Transparenz, Verantwortung, vertrauenswürdigen Beweismittel als auch Machtverhältnisse von Staat und BürgerInnen ausgehandelt werden.

Abstract

(Englisch)

The vast advances in the field of AI have seen a push of the technology into more and more fields. However, discriminatory and blackboxed outcomes of AI-based technologies have started to polarize the debate around their usage. As a consequence, the quest for trustworthy AI has begun to become more and more important. Drawing from the perspective of science and technology studies (STS), I investigate how ML-based methods embed themselves in the sociotechnical system of making evidence in criminal proceedings and account for the constitutive character of and expectations around AI. This research is based on participant observation of one and a half years and a total of 15 interviews, conducted within an interdisciplinary research project which proposes an ML-based approach to classify document (segments). I explore the research project’s function as a boundary object (Star and Griesemer 1989) and propose the concept of the “learning multiple” to fully capture the complex learning process between the human and non-human participants of the project. I discuss the importance of accounting for the situatedness of knowledge and the multiplicity (A. Mol 2005) of evidence. The introduction of more complex technological methods facilitates changes in these systems, dissolving some of the boundaries between digital forensics and investigative practices. I explore how law enforcement practitioners understand the relationship of their work, ML, and trustworthy evidence by giving an overview of two lines of thought: staying in charge and epistemic modesty (Pickersgill 2016). Finally, I explore potential tensions and potential remedies of the introduction of ML-based technologies and the sociotechnical system of making evidence. I discuss them as sites of ethical contestations (Heimstädt and Dobusch 2020) in which understandings of transparency, accountability and trustworthy evidence are contested and debated. I explore their inherent ontological politics, potentially affecting the power relations between states and citizens.

Autor*innen

Sofie Kronberger

Haupttitel (Deutsch)

Learning about evidence

Hauptuntertitel ()

encountering algorithmic infrastructures for criminal investigations

Paralleltitel (Deutsch)

Über das Lernen von Beweismitteln : algorithmische Infrastrukturen in strafrechtlichen Ermittlungen

Publikationsjahr

2021

Umfangsangabe

159, a-m Seiten : Illustrationen

Sprache

Deutsch

Beurteiler*in

Katja Mayer

Klassifikation

70 Sozialwissenschaften allgemein > 70.00 Sozialwissenschaften allgemein: Allgemeines

AC Nummer

AC16488726

Utheses ID

60843

Studienkennzahl

UA | 066 | 906 | |

Detailansicht

Abstracts

Schlagwörter