Detailansicht
Advanced machine learning techniques for gravitational wave detection
overcoming high-noise challenges via convolutional autoencoders
Kristyna Vitulova
Art der Arbeit
Masterarbeit
Universität
Universität Wien
Fakultät
Fakultät für Geowissenschaften, Geographie und Astronomie
Studiumsbezeichnung bzw. Universitätlehrgang (ULG)
Masterstudium Astronomy
Betreuer*in
Josef Pradler
DOI
10.25365/thesis.79853
URN
urn:nbn:at:at-ubw:1-29755.66816.418648-0
Link zu u:search
(Print-Exemplar eventuell in Bibliothek verfügbar)
Abstracts
Abstract
(Deutsch)
Die Gravitationswellenastronomie ist ein leistungsstarkes Instrument zur Erforschung extremer astrophysikalischer Phänomene. Dennoch stoßen die derzeitigen Detektionspipelines – die auf dem Matched Filtering beruhen – an ihre Grenzen, da sie auf vordefinierte Wellenform-Templates angewiesen sind. Dies kann dazu führen, dass bis zu 10 % der Ereignisse nicht erkannt werden und potenziell falsche Gravitationswellenformen einem detektierten Signal zugeordnet werden. Darüber hinaus ist die Methode des Matched Filtering rechnerisch sehr aufwendig. Diese Herausforderungen werden sich mit der bevorstehenden dritten Generation von Gravitationswellenobservatorien, wie dem Einstein-Teleskop (ET), voraussichtlich verschärfen. Das ET wird eine beispiellose Empfindlichkeit im Niederfrequenzbereich erreichen, ist jedoch auch anfälliger für komplexe Rauschartefakte. Diese Arbeit befasst sich mit der Möglichkeit, Convolutional Autoencoders (CAEs) zur unüberwachten Detektion von Gravitationswellensignalen in stark verrauschten Umgebungen einzusetzen. Hierbei werden realistische Simulationsdaten der ET-Kollaboration verwendet. Die vorgeschlagene Methodik besteht darin, CAEs ausschließlich mit Rausch-Spektrogrammen zu trainieren, sodass das Modell das Muster des Detektorhintergrunds erlernt und Abweichungen über den Rekonstruktionsfehler erkennt. Zusätzlich zum vollständig unüberwachten Training wird eine Phase der schwachen Überwachung (Weak Supervision) eingeführt, in der ein begrenzter Satz von injizierten Signalen mit niedrigem Signal-Rausch-Verhältnis die Hyperparameter-Optimierung auf eine höhere Empfindlichkeit für subtile Anomalien ausrichtet. Die in dieser Arbeit beschriebenen Experimente werden in zwei Phasen durchgeführt: (i) Training und Optimierung mit reinem ET-Rauschen und (ii) Auswertung während der Parametrisierung mit injizierten binären Schwarzen-Loch-Wellenformen unterschiedlicher Massen und Leuchtweitendistanzen. Die Hyperparameter werden mit dem Optuna-Framework optimiert, wobei die Rekonstruktionsgenauigkeit für reine Rauschdaten mit der Maximierung der Gap-Metrik kombiniert wird, um die relative Trennung zwischen Rausch- und Anomalie-Rekonstruktionsfehlern zu vergrößern. Die Ergebnisse dieser Untersuchung zeigen, dass der unüberwachte CAE eine robuste Rekonstruktion des Rauschens erreicht, während die Einführung der schwachen Überwachung die Trennschärfe zwischen Rausch- und Anomaliedaten erheblich verbessert. Für Signale mit hohem Signal-Rausch-Verhältnis wird eine Erkennungsrate von bis zu 100 % bei einer Falschalarmrate von 0 % erzielt. Diese Ergebnisse verdeutlichen, dass Convolutional Autoencoders, insbesondere in Kombination mit schwacher Überwachung, eine effektive und effiziente Detektionsmethode darstellen können, die Anpassungsfähigkeit an nicht vordefinierte Wellenformen und seltene Quellen bietet. Darüber hinaus hebt diese Arbeit das Potenzial tiefenlernender Methoden zur Anomalieerkennung in datenreichen, rauschdominierten Umgebungen der nächsten Detektorgeneration hervor.
Abstract
(Englisch)
Gravitational wave astronomy is a powerful tool for probing extreme astrophysical phenomena, yet current detection pipelines – relying on matched filtering – face limitations due to their dependence on predefined waveform templates. This can lead to up to 10% of detected events being missed and to potential mismatches in assigning incorrect gravitational waveforms to detected signals. The matched filtering method is also computationally demanding. These challenges are expected to intensify with the upcoming third generation of gravitational wave observatories, such as the Einstein Telescope (ET), which is anticipated to operate with unprecedented low-frequency sensitivity but also increased susceptibility to complex noise artefacts. This thesis focuses on the possibility of using convolutional autoencoders (CAEs) for the unsupervised detection of gravitational wave signals in high-noise environments, using realistic mock data from the ET collaboration. The proposed methodology is to train CAEs exclusively on noise-only spectrograms, allowing the model to learn the pattern of the detector's background and to flag any deviations via reconstruction error. In addition to fully unsupervised training, a weak supervision stage is introduced, in which a limited set of low-SNR injected signals guides hyperparameter optimization towards higher sensitivity to subtle anomalies. The experiments presented in this thesis are conducted in two stages: (i) training and optimization on pure ET noise, and (ii) evaluation during parametrization with injected binary black hole waveforms of varying masses and luminosity distances. Hyperparameters are tuned using the Optuna framework, combining reconstruction accuracy on noise-only data with the maximization of the gap metric – enlarging the relative separation between noise and anomaly reconstruction errors. The results of this research show that while unsupervised CAE achieves robust noise reconstruction, introducing weak supervision significantly improves the separability between data containing noise and anomalies, achieving up to a 100% detection rate and a 0% false alarm rate for high-SNR signals. These findings present that convolutional autoencoders, especially when paired with a weak supervision approach, can provide an effective and efficient detection method, offering adaptability to non-predefined waveforms and rare sources. This work also highlights the possibility of deep learning-based methods for anomaly detection in the data-rich, noise-dominated environments of next-generation detectors.
Schlagwörter
Schlagwörter
(Deutsch)
Gravitationswellen Konvolutionale Autoencoder Maschinelles Lernen Rauschen Einstein-Teleskop Optimierung Schwache Überwachung Detektion
Schlagwörter
(Englisch)
Gravitational Waves Convolutional Autoencoders Machine Learning Noise Einstein Telescope Optimization Weak Supervision Detection
Autor*innen
Kristyna Vitulova
Haupttitel (Englisch)
Advanced machine learning techniques for gravitational wave detection
Hauptuntertitel (Englisch)
overcoming high-noise challenges via convolutional autoencoders
Publikationsjahr
2025
Umfangsangabe
xi, 54 Seiten : Illustrationen
Sprache
Englisch
Beurteiler*in
Josef Pradler
Klassifikationen
39 Astronomie > 39.12 Astronomische Instrumente ,
39 Astronomie > 39.19 Praktische Astronomie. Sonstiges
AC Nummer
AC17732511
Utheses ID
77502
Studienkennzahl
UA | 066 | 861 | |