Detailansicht
Bayesian active learning for microscopy image segmentation
Jakob Bleiberschnig
Art der Arbeit
Masterarbeit
Universität
Universität Wien
Fakultät
Fakultät für Physik
Studiumsbezeichnung bzw. Universitätlehrgang (ULG)
Masterstudium Computational Science
Betreuer*in
Sebastian Tschiatschek
DOI
10.25365/thesis.77978
URN
urn:nbn:at:at-ubw:1-26091.20872.216910-8
Link zu u:search
(Print-Exemplar eventuell in Bibliothek verfügbar)
Abstracts
Abstract
(Deutsch)
Daten-effiziente Lernalgorithmen sind der Schlüssel, um maschinelles Lernen in Bereichen zu ermöglichen, in denen wenig Daten vorhanden sind. Ein Beispiel für einen solchen Bereich sind Mikroskopiebilder, da die Erstellung und insbesondere die Annotation solcher Bilder oft kostspielig ist. Diese Abschlussarbeit behandelt die Anwendung der Instanz-Segmentierung, bei der ein Modell lernt aus annotierten Trainingsdaten einzelne Objekte auf einem Mikroskopiebild zu identifizieren. Die Erstellung manuell annotierter Trainingsbilder ist zeitaufwändig und muss von Experten im jeweiligen Fachgebiet durchgeführt werden. Daher ist es unser Ziel, die Anzahl der benötigten Trainingsbilder so weit wie möglich zu reduzieren. Um dieses Ziel zu erreichen, trainieren wir das Modell durch Active-Learning. Dadurch wird das Modell in die Lage versetzt, selbst zu entscheiden, welche Bilder als nächstes annotiert und für das Training verwendet werden sollen. Auf diese Weise soll das Modell nur aus Trainingsbildern mit einem maximalen Informationsgehalt lernen, anstatt Ressourcen für die Annotation weniger informativer Bilder zu verschwenden. Wir nutzen ein neuronales Netzwerk mit einer U-Net-Architektur als Basismodell zur Segmentierung der Mikroskopiebilder. Ein Standard-neuronales Netzwerk lernt eine Punktschätzung der Netzwerkparameter für einen gegebenen Datensatz, was zu niedriger Genauigkeit führen kann, wenn der Trainingsdatensatz die zugrunde liegende Datenverteilung nicht gut repräsentiert. Das kann leicht der Fall sein, wenn wir einen kleinen Trainingsdatensatz haben. Im Gegensatz dazu lernen Bayessche neuronale Netzwerke keine Punktschätzung, sondern eine Verteilung über die Parameter. Dies ermöglicht es, eine Verteilung über mögliche Ausgaben für ein einzelnes Eingabebild vorherzusagen. Ein Bayessches neuronales Netzwerk kann daher als Ensemble unendlich vieler neuronaler Netzwerke betrachtet werden, bei denen jedes Netzwerk eine leicht unterschiedliche Lösung für ein gegebenes Eingabebild erzeugt. Diese Netzwerke sind ein sehr leistungsfähiges Werkzeug, um von Unsicherheiten in den Trainingsdaten zu lernen und dadurch den Informationsgehalt der Eingabebilder abzuschätzen. Unser Hauptbeitrag besteht darin, die Trainingsbilder aktiv zu sampeln, indem wir die durch ein Gaußsches Bayessches neuronales Netzwerk generierte Unsicherheitsschätzung als Maß für den Informationsgehalt eines Bildes nutzen. Diese Arbeit ist eine der ersten Studien, die diesen Bayesschen Active-Learning Ansatz auf die Instanz-Segmentierung von Mikroskopiebildern anwendet. Gaußsche Bayessche neuronale Netzwerke sind teurer im Training als andere gängige Bayessche Methoden und erfordern einen zusätzlichen Hyperparameter, bieten jedoch den Vorteil einer komplexeren Parameterverteilung, die zu einer detaillierteren Schätzung der Unsicherheit führen kann. Es wurden Experimente mit vier verschiedenen Mikroskopie-Datensätzen durchgeführt, bei denen Active-Learning mit Uniform-Sampling verglichen wird. Zusätzlich wird der Effekt untersucht, der sich ergibt, wenn das U-Net auf einem anderen Datensatz vortrainiert wird. Es konnte festgestellt werden, dass das gewählte Active-Learning-Framework in zwei von vier verwendeten Datensätzen Uniform-Sampling übertrifft. Eine Limitierung dieser Arbeit ist, dass die Annotationskosten für alle Bilder als konstant betrachtet werden. Zukünftige Studien könnten diese Arbeit dahingehend erweitern.
Abstract
(Englisch)
Data efficient learning algorithms have been the key to enable machine learning applications in domains where data is scarce. An example of such a domain are microscopy images, since in many cases the generation of such images and especially the annotation is costly. This thesis focuses on instance segmentation whereby a model learns from training data to identify individual objects on a microscopy image. The creation of manually annotated training images is time consuming and needs to be done by experts in the respective field. Thus, our goal is to reduce the number of training images as much as possible. To achieve this goal, we train the model by using active learning. Through active learning, the model is enabled to decide on its own, which images should be annotated next and used for training. By this we want the model to only learn from training images with a maximum level of information, instead of wasting annotation effort on images that are less informative. We utilize a neural network with a U-Net architecture as the base model for segmenting the microscopic images. A standard neural network learns a single point estimate of the network parameters for a given dataset, which can have low performance if the training set does not represent the underlying data distribution well. This can easily be the case if we have a small training set. In contrast to this, Bayesian neural networks learn not a point estimate, but a distribution over the parameters. This further allows to predict a distribution of possible outputs for a single input image. A Bayesian neural network can thus be seen as an ensemble of infinitely many neural networks. They are a very powerful tool for learning the uncertainty caused by limited data, and therefore capable of estimating the informativeness of the input images. Our main contribution is to actively sample the training images by utilizing the uncertainty estimation generated by a Gaussian Bayesian neural network as a measure of informativeness. This work is one of the first studies that apply this Bayesian active learning approach to instance segmentation of microscopy images. Gaussian Bayesian neural networks are more expensive to train than other common Bayesian based methods and require an additional hyperparameter, but come with the advantage of a more complex parameter distribution that can lead to a more detailed estimation of the uncertainty. We conduct experiments on four different microscopy image datasets, where we compare active learning with uniform sampling as a baseline. Additionally we pretrain each U-Net on another dataset in a transfer learning manner. We find that our chosen active learning framework can outperform uniform sampling and thus reduce the amount of training images for two of our four used datasets. A limitation of this work is, that the annotation costs are considered to be constant for all images. Future research could extend this work in that matter.
Schlagwörter
Schlagwörter
(Deutsch)
Active Learning Bayesische Statistik Bayesische Neuronale Netze Unsicherheitsvorhersage Instanz Segmentierung Mikroskopiebilder
Schlagwörter
(Englisch)
Active Learning Bayesian Statistics Bayesian Neural Networks Uncertainty Prediction Instance Segmentation Microscopy Image
Autor*innen
Jakob Bleiberschnig 
Haupttitel (Englisch)
Bayesian active learning for microscopy image segmentation
Publikationsjahr
2025
Umfangsangabe
55 Seiten : Illustrationen
Sprache
Englisch
Beurteiler*in
Sebastian Tschiatschek
Klassifikation
54 Informatik > 54.72 Künstliche Intelligenz
AC Nummer
AC17470726
Utheses ID
74426
Studienkennzahl
UA | 066 | 910 | |