Evolutionary, Bayesian, and Quasi-Monte Carlo hyperparameter tuning
Lade...
Autor:in (Körperschaft)
Publikationsdatum
2025
Typ der Arbeit
Studiengang
Typ
04B - Beitrag Konferenzschrift
Herausgeber:innen
Herausgeber:in (Körperschaft)
Betreuer:in
Übergeordnetes Werk
Information Systems for Intelligent Systems. Proceedings of ISBM 2024
Themenheft
DOI der Originalpublikation
Link
Zugehörige Forschungsdaten
Reihe / Serie
Reihennummer
Jahrgang / Band
2
Ausgabe / Nummer
Seiten / Dauer
555-567
Patentnummer
Verlag / Herausgebende Institution
Springer
Verlagsort / Veranstaltungsort
Singapore
Auflage
Version
Programmiersprache
Abtretungsempfänger:in
Praxispartner:in/Auftraggeber:in
Zusammenfassung
This study provides a comprehensive evaluation and comparison of different families of optimization methods, including probabilistic methods (e.g., Bayesian optimization), evolutionary, and random methods (e.g., Monte Carlo), in the context of hyperparameter tuning for a gradient boosting model applied to a multiclass classification problem. The study evaluates these methods based on their performance in finding optimal solutions, the computation time and computational resources required, and their behavior in terms of the search space exploration and exploitation trade-off. The results indicate that probabilistic methods show superior performance in exploiting optimal solutions, but at the cost of increased computational time. Monte Carlo methods, on the other hand, are based on sampling the search space, potentially leading to diverse solutions. Evolutionary algorithms demonstrate a balance between exploration and exploitation, whereas random methods show mixed behavior. The study also highlights the importance of specific hyperparameters and the complex interplay between them.
Schlagwörter
Fachgebiet (DDC)
Veranstaltung
World Conference on Information Systems for Business Management (ISBM 2024)
Startdatum der Ausstellung
Enddatum der Ausstellung
Startdatum der Konferenz
Enddatum der Konferenz
Datum der letzten Prüfung
ISBN
978-981-96-1210-9
978-981-96-1209-3
978-981-96-1209-3
ISSN
Sprache
Englisch
Während FHNW Zugehörigkeit erstellt
Ja
Zukunftsfelder FHNW
Publikationsstatus
Veröffentlicht
Begutachtung
publication.page.reviewtype.Peer-Reviewed
Open Access-Status
Closed
Lizenz
Zitation
Molina Van den Bosch, M., Montalbano, C., Dornberger, R., & Hanne, T. (2025). Evolutionary, Bayesian, and Quasi-Monte Carlo hyperparameter tuning. In C. So In, N. S. Londhe, N. Bhatt, & M. Kitsing (Eds.), Information Systems for Intelligent Systems. Proceedings of ISBM 2024 (Vol. 2, pp. 555–567). Springer. https://doi.org/10.1007/978-981-96-1210-9_48