Detailansicht
Sustaining Edge AI training under intermittent power
migration strategies for energy-harvesting devices
Fabian Hengstberger
Art der Arbeit
Masterarbeit
Universität
Universität Wien
Fakultät
Fakultät für Informatik
Studiumsbezeichnung bzw. Universitätlehrgang (ULG)
Masterstudium Informatik
Betreuer*in
Atakan Aral
DOI
10.25365/thesis.82084
URN
urn:nbn:at:at-ubw:1-15848.87800.273482-4
Link zu u:search
(Print-Exemplar eventuell in Bibliothek verfügbar)
Abstracts
Abstract
(Deutsch)
Edge Devices, die in abgelegenen Orten eingesetzt werden, sind zunehmend auf Strom aus erneuerbaren Energien angewiesen, um die lokalen Berechnungen und das Training von KI-Modellen aufrechtzuerhalten. Die durch Energy Harvesting gewonnene Energie ist jedoch von Natur aus unzuverlässig, weshalb die Ausführung von KI-Modellen durch unvorhersehbare Energieausfälle jederzeit unterbrochen werden kann. Daher stellt die Persistenz des Trainingsfortschritts über solche Ausfälle eine grundlegende Herausforderung in Edge Computing Szenarien dar, in denen eine stabile Verbindung zur Cloud nicht gewährleistet oder gänzlich unverfügbar ist. Diese Arbeit untersucht, wie das KI-Training auf Edge Devices aufrechterhalten werden kann, indem die Workloads, bestehend aus dem KI-Modell selbst oder den Trainingsdaten, vor einem Informationsverlust auf benachbarte, aktive Edge Devices migriert werden. Zu diesem Zweck werden 3 verschiedene Migrationsstrategien evaluiert, welche eine reaktive, eine proaktive und eine hybride Strategie umfassen. Die reaktive Strategie basiert auf einem serverzentrierten Heartbeat-Monitoring, welches die Erstellung eines Checkpoints des KI-Modells oder der Trainingsdaten auslöst und diesen bei Bedarf auf einen verfügbaren Partner überträgt. Der proaktive Ansatz hingegen lässt die Edge Devices ihre eigene Energieversorgung überwachen. Diese Devices verwenden einen definierten Schwellenwert in der Stromzufuhr als Auslöser, um eine vollständige Migration des KI-Modells oder der gesamten Datenmenge einzuleiten. Die hybride Strategie hingegen kombiniert schließlich beide vorangegangenen Mechanismen indem die Edge Devices ihre eigene Energieversorgung überwachen. Sobald der Schwellenwert unterschritten wird, wird ein Checkpoint erstellt und ein Partner mit ausreichender Rechenkapazität ausgewählt, welcher den Checkpoint übernimmt und die Ausführung fortsetzt. Dabei setzt die hybride Strategie auf eine uneingeschränkte Partnerwahl, variable KI-Modell Limits pro Gerät und dynamische Stromschwellenwerte. Ergänzend wird untersucht, welchen Einfluss Optimierungsmaßnahmen wie Load Balancing und die Erweiterung der Edge Devices um eine Batterie auf die Gesamtperformance haben. Die Evaluierung dieser Arbeit erfolgt mithilfe einer Simulation, welche auf real gemessenen Solar- und Winddaten basiert. Diese Daten stammen aus dem Datensatz "UK Power Networks Photovoltaic Solar Panel Energy Generation" von der Regionalverwaltung des Großraums Londons [Aut]. Der Datensatz umfasst 69.480 Einträge mit 38 Attributen und wurde an 5 verschiedenen Messstationen in London über einen Zeitraum von November 2013 bis zum November 2014 erhoben. Da die Simulation auf empirischen Messdaten und nicht auf synthetischen Daten beruht, bildet der experimentelle Aufbau die Gewinnung von Solar- und Windenergie realitätsnah ab. Die Ergebnisse der Experimente zeigen, dass die reaktive Strategie nur bei einer großen Anzahl an Partnern eine hohe Zuverlässigkeit erreicht. Grundsätzlich ist die proaktive Strategie dadurch eingeschränkt, dass Schwankungen in der Stromversorgung nicht zuverlässig von tatsächlichen Stromausfällen unterschieden werden können, weshalb häufig falsch-positive Migrationen eingeleitet werden. Dem gegenüber erzielt die hybride Strategie, sowohl für die Datenmigration als auch für die Migration von KI-Modellen, die höchste Migrationserfolgsrate (MSR) von etwa 99.4% im Durchschnitt. Darüber hinaus steigert das Load Balancing die MSR der reaktiven Strategie auf 96% und reduziert die Migrationshäufigkeit der proaktiven Strategie um 39% bis 45%. Die Einführung einer kleinen Batterie verringert die Migrationshäufigkeit über alle 3 Strategien hinweg, während die dynamischen Stromschwellenwerte der hybriden Strategie einen gegenteiligen Effekt auf das Migrationsverhalten aufweisen. Hinsichtlich der Kontinuität der KI-Modellausführung, gemessen am kumulativen Program Counter aller 9 KI-Modelle, erzielt die hybride Strategie mit einem Wert von 8932 von maximal 9000 die höchste Leistung. Die reaktive Strategie erreicht maximal einen Program Counter von 8776, während die proaktive Strategie maximal 4598 erzielt. Die Erweiterung der Geräte um eine kleine Batterie verbessert den Program Counter bei der reaktiven und proaktiven Strategie erheblich und versetzt die hybride Strategie in die Lage, die vollständige Ausführung aller KI-Modelle über die gesamte Simulation hinweg zu gewährleisten. [Aut] Greater London Authority. Photovoltaic (pv) solar panel energy generation data. Accessed: 2024-11-13.
Abstract
(Englisch)
Edge devices deployed in remote environments increasingly depend on energy harvesting to sustain local computation and AI model training. Nevertheless, the harvested power supply is inherently variable and consequently the execution on such devices becomes intermittent due to repeated unexpected power depletions. Therefore, preserving the progress of AI training across power interruptions represents a fundamental challenge in energy constrained edge computing deployments where cloud connectivity is unreliable or unavailable. This thesis investigates how Edge AI training can be sustained across energy harvesting devices by migrating workloads, consisting of either the AI model or the data, to neighbouring nodes before power depletion causes an irreversible loss of progress. Specifically, 3 migration strategies are proposed and evaluated, namely the reactive, the proactive and the hybrid migration strategy. The reactive strategy uses a server-centric heartbeat monitoring to trigger the checkpoint generation of the AI model or data and migrates the checkpoint to an available device. In the proactive approach the edge devices monitor their own power supply and use a power threshold to initiate a migration of the AI model or data if an undercut of the threshold is detected. Lastly, the hybrid strategy combines both previous mechanisms, monitoring the power supply of the edge devices and using the checkpoint generation in the migration phases with an open partner discovery system and dynamic service constraints. Additionally, optimization techniques including load balancing and dynamic thresholds are analyzed together with the impact of extending devices with a battery on overall migration reliability. The evaluation is conducted through a simulation driven by real world solar irradiance and wind speed traces derived from the weather data sheet of the UK Power Networks Photovoltaic Solar Panel Energy Generation dataset published on the London Datastore [Aut]. The weather data comprises 69.480 rows of records across 38 attributes and was collected at 5 different monitoring sites in the Greater London area over 371 days spanning from 25 November 2013 to 30 November 2014. As the simulation is based on empirical data rather than relying on synthetic power models, the experimental setup reproduces the intermittent nature of solar and wind energy harvesting that edge devices encounter in real-world deployments. The experimental results demonstrate that the reactive strategy achieves a high reliability only within a narrow range of partner device configurations, whereas the proactive strategy is inherently limited by its inability to distinguish momentary power fluctuations from genuine depletion events. The hybrid strategy, however, consistently achieves the highest mean of the Migration Success Rate (MSR) of approximately 99.4% for both, the data and AI model offloading and under battery free conditions. Moreover, the load balancing elevates the MSR to 96% for the reactive strategy and reduces the migration frequencies about 39% - 45% for the proactive approach. Additionally, the introduction of a small battery significantly reduces the migration frequencies across all 3 strategies, whereas the dynamic threshold system enabled in the hybrid approach has a counter effect on the migration behavior. Regarding the computational continuity, measured by the cumulative Program Counter (PC) across all 9 AI models over 1000 timesteps, the hybrid strategy achieves the highest battery-free performance at 8932 from a theoretical maximum of 9000. The reactive strategy reaches up to 8776 and the proactive strategy yields the lowest values of 4598 at best. Extending the devices with the small battery elevates the reactive and proactive strategies' Program Counter and helps the hybrid strategy to gain the full computational continuity throughout the entire simulation. [Aut] Greater London Authority. Photovoltaic (pv) solar panel energy generation data. Accessed: 2024-11-13.
Schlagwörter
Schlagwörter
(Deutsch)
Edge AI Edge Computing Unterbrechbares Rechnen Migrationsstrategie Energie erntende Geräte Verfügbarkeit Resilienz Masterarbeit Informatik Universität Wien
Schlagwörter
(Englisch)
Edge AI Edge Computing Intermittent Computing Migration Strategy Energy Harvesting Devices Availability Resilience Master Thesis Computer Science University of Vienna
Autor*innen
Fabian Hengstberger 
Haupttitel (Englisch)
Sustaining Edge AI training under intermittent power
Hauptuntertitel (Englisch)
migration strategies for energy-harvesting devices
Publikationsjahr
2026
Umfangsangabe
xvii, 77 Seiten : Illustrationen
Sprache
Englisch
Beurteiler*in
Atakan Aral
Klassifikation
54 Informatik > 54.00 Informatik. Allgemeines
AC Nummer
AC18050221
Utheses ID
82021
Studienkennzahl
UA | 066 | 921 | |