Bild: Sono Creative

Gezieltes Training von KI mit Hilfe von Variabilitätsmodellen

Durch Reinforcement Learning (Bestärkendes Lernen) können selbstadaptive Systeme automatisiert lernen, sich an wechselnde Umgebungssituationen anzupassen. In einem frisch erschienenen Artikel zeigen Andreas Metzger und seine Co-Autoren, wie sich Reinformcement Learning durch eine Integration von Variabilitätsmodellen beschleunigen lässt.

Variabilitätsmodelle (Feature Models) können eingesetzt werden, um die zulässigen Anpassungsmöglichkeiten eines adaptiven Software-Systems zu spezifizieren. Dr. Andreas Metzger und seine Forschungspartner haben untersucht, wie sich diese Art der Spezifikation nutzen lässt, um den Lernprozess der Systeme zu verbessern.

Sie adressieren damit zwei Herausforderungen des Reinforcement Learnings für selbst-adaptive Systeme. Zum einen ermöglichen Variabilitätsmodelle bei einer hohen Anzahl von Adaptionsmöglichkeiten eine systematische Exploration während des Lernens; passende Adaptionen können demnach gezielter ausgewählt werden.

Zum anderen erlauben Variabilitätsmodelle die Berücksichtigung von Software-Evolution im Lernprozess. Software-Evolution, welche z.B. durch die Integration neuer Funktionen auftritt, verändert die Anpassungsmöglichkeiten eines adaptiven Software-Systems. Unterschiede in den Variabilitätsmodellen vor und nach einer Evolution können die Exploration gezielt zu diesen neuen Adaptionsmöglichkeiten hinführen.

Ihren Ansatz haben die Autoren erstmals auf der ICSOC 2020 vorgestellt, wo er mit dem Best Paper Award ausgezeichnet wurde (News: Best Paper Award auf der ICSOC). Eine Erweiterung des Ansatzes wurde jetzt als Open-Access-Artikel im Computing Journal veröffentlicht. Der Beitrag beschreibt insbesondere die Anwendung auf einen weiteren, weitverbreiteten Reinforcement-Learning-Algorithmus sowie die experimentelle Validierung anhand eines zusätzlichen Softwaresystems.

Hier gelangen Sie zum Volltext:

https://link.springer.com/article/10.1007/s00607-022-01052-x

Publikation

Andreas Metzger, Clément Quinton, Zoltán Ádám Mann, Luciano Baresi and Klaus Pohl: Realizing self-adaptive systems via online reinforcement learning and feature-model-guided exploration.Computing, Mar 2022.  [DOI]