Detailansicht

Detecting latent linguistic traces of phantom borders in large language models
Annika Franziska Süß
Art der Arbeit
Masterarbeit
Universität
Universität Wien
Fakultät
Fakultät für Geowissenschaften, Geographie und Astronomie
Studiumsbezeichnung bzw. Universitätlehrgang (ULG)
Masterstudium Kartographie und Geoinformation
Betreuer*in
Krzysztof Janowicz
Volltext in Browser öffnen
Alle Rechte vorbehalten / All rights reserved
DOI
10.25365/thesis.81081
URN
urn:nbn:at:at-ubw:1-29910.17336.653771-9
Link zu u:search
(Print-Exemplar eventuell in Bibliothek verfügbar)

Abstracts

Abstract
(Deutsch)
Phantomgrenzen sind historische Grenzen, die auch lange nach ihrer formellen Aufhebung weiterhin zu lokalen Unterschieden beitragen. Während die traditionelle Raumanalyse davon ausgeht, dass Nähe Ähnlichkeit bedingt, führen diese Grenzen zu starken Diskontinuitäten bei demografischen, wirtschaftlichen oder politischen Indikatoren. Obwohl Zensus-Daten solche Trennlinien leicht erfassen, bleiben die subtilen, kontextabhängigen und kulturellen Unterschiede, die durch diese Grenzen verursacht werden, in der lokalen Sprache verborgen und darin, wie Menschen über Orte, Ereignisse und alltägliche Themen sprechen. Dies macht es schwierig, sie zu erkennen. Gleichzeitig werden large language models (LLMs) zunehmend für räumliche Aufgaben und Forschungsanwendungen eingesetzt. Es stellt sich die Frage, wie Systeme der künstlichen Intelligenz (KI) geografische Phänomene wie Phantomgrenzen kodieren und interpretieren. Die Untersuchung dieser Frage ist besonders wichtig, da LLMs auf großen Korpora von menschlich generierten Texten trainiert werden, die implizit historische, kulturelle und geografische Biases enthalten können. Dies führt zu der Forschungslücke, ob und zu welcher Stärke diese latenten geografischen und kulturellen Signale in der Sprache eingebettet sind und ob LLMs sie erkennen und gleichzeitig in ihren Schlussfolgerungen und Erklärungen widerspiegeln können. Die Arbeit befasst sich mit dieser Forschungslücke und zielt darauf ab, diese latenten sprachlichen Spuren aufzudecken, um festzustellen, ob Phantomgrenzen im Alltagsdiskurs und in der lokalen Sprache sichtbar werden können. Als Fallstudie konzentriert sich die Arbeit auf die historische Teilung zwischen Ost- und Westdeutschland nach dem Zweiten Weltkrieg. Auch wenn die politische Grenze verschwunden ist, bestehen die Unterschiede zwischen Ost- und Westdeutschland in vielfältigen Parametern fort. Um zu untersuchen, ob ähnliche Spuren in der lokalen Sprache existieren und durch LLMs erkannt werden können, wird ein Datensatz mit 11.856 geolokalisierten Zeitungsartikeln aus Ost- und Westdeutschland erstellt. Alle expliziten geografischen Verweise werden mithilfe einer LLM-basierten Vorverarbeitung aus den Texten entfernt, um reine semantische Hinweise zu isolieren. GPT-5.1 wird verwendet, um die geografische Herkunft dieser Artikel vorherzusagen und Begründungen zu liefern. Ein Embedding-Modell analysiert sprachliche Hinweise ohne zusätzliche Schlussfolgerungsebenen. Die Ergebnisse zeigen, dass LLMs die geografische Herkunft mit einer Genauigkeit von 72% vorhersagen können, während die Begründungen jedoch mehrdeutig bleiben. Die Analyse der Embeddings deckt zudem semantische Unterschiede zwischen sprachlichen Mustern auf, die mit der ehemaligen deutschen demokratischen Republik und der Bundesrepublik Deutschland assoziiert werden. Insbesondere neigt das Modell dazu, standardmäßig Westdeutschland vorherzusagen, wenn die sprachlichen Hinweise auf Ostdeutschland schwach sind. Diese Ergebnisse unterstreichen das Potenzial von LLMs für komplexe räumliche Analysen sowie die entscheidenden Herausforderungen hinsichtlich der Verzerrung von Trainingsdaten und der Ausrichtung der KI.
Abstract
(Englisch)
Phantom borders are historical borders that continue to drive local divergencies long after their formal abolition. Although traditional spatial analysis assumes that proximity dictates similarity, these borders create sharp discontinuities in demographic, economic, or political characteristics. Although census data easily captures such divides, the subtle, context-dependent, and cultural variations caused by these borders remain hidden in local language and, more specifically, in how people talk about places, events, and everyday topics. This makes them difficult to detect. At the same time, large language models (LLMs) are increasingly used for spatial tasks and research applications. The question of how artificial intelligence (AI) systems encode and interpret geographic phenomena, such as phantom borders, arises. Investigating this is particularly important because LLMs are trained on large corpora of human-generated text, which may implicitly encode historical, cultural, and geographic biases. This creates the research gap of whether these latent geographic and cultural signals are embedded in language and if LLMs can detect them, while also reflecting them in their reasoning and explanations. The thesis addresses this research gap and aims to uncover these latent linguistic traces, aiming to detect whether and to which extend phantom borders can be visible in everyday discourse and local language. As a case study, the thesis focuses on the historical division between East and West Germany following World War II. Even though the political border disappeared, the differences between East and West Germany persist in multiple parameters. To examine whether similar traces exist in local language and can be detected through LLMs, a dataset of 11,856 geolocated newspaper articles from East and West Germany is created. All explicit geographic references are removed from the texts using LLM-based preprocessing to isolate pure semantic cues. GPT-5.1 is used to predict the geographic origin of these articles and provide justifications. An embedding model analyzes linguistic cues without additional reasoning layers on top. The results show that LLMs can reasonably predict the geographic origins with the accuracy of 72% with varying extent, while justifications remain ambiguous. Embedding-based analysis also reveals semantic differences between linguistic patterns associated with the former East and West Germany. In particular, the model tends to default to predicting West Germany when Eastern linguistic cues are weak. These findings highlight the potential of LLMs for complex spatial analysis and the critical challenges regarding training data bias and AI alignment.

Schlagwörter

Schlagwörter
(Deutsch)
Phantomgrenzen künstliche Intelligenz Large Language Models Deutschland
Schlagwörter
(Englisch)
spatial dependence phantom borders spatial reasoning Germany
Autor*innen
Annika Franziska Süß
Haupttitel (Englisch)
Detecting latent linguistic traces of phantom borders in large language models
Publikationsjahr
2026
Umfangsangabe
viii, 72 Seiten : Illustrationen
Sprache
Englisch
Beurteiler*in
Krzysztof Janowicz
Klassifikationen
54 Informatik > 54.72 Künstliche Intelligenz ,
74 Geographie > 74.20 Deutschland. Österreich. Schweiz
AC Nummer
AC17887073
Utheses ID
80598
Studienkennzahl
UA | 066 | 856 | |
Universität Wien, Universitätsbibliothek, 1010 Wien, Universitätsring 1