Garbage Collector Agnostic Load Barriers: Moving Towards Flexible Ahead-of-Time Java Compilation
2025 (English)Independent thesis Advanced level (degree of Master (Two Years)), 20 credits / 30 HE credits
Student thesisAlternative title
Skräpsamlingsoberoende inläsningsbarriärer : Mot flexibel ahead-of-time-kompilering av Java (Swedish)
Abstract [en]
Java, executed on the HotSpot Java Virtual Machine, benefits from just-in-time compilation, in which profiling guides optimizations. There is also ongoing research on ahead-of-time compilation for Java, which has the benefit of reduced startup time compared to just-in-time compilation. One challenge is that ahead-of-time compilation forces a choice in one of several garbage collectors, to the detriment of runtime flexibility. This is due to opaquely inserted instructions called barriers, which facilitate communication between the garbage collector and application. These barriers are primarily emitted during field accesses and updates, and their concrete instructions depend on the garbage collector. This thesis investigates garbage-collector-agnostic load barriers, instructions for field accesses that the Serial, Parallel and Z garbage collectors can leverage. Presently, only G1 and Z have load barriers. The research objectives are to 1) develop; and 2) measure the impact of agnostic load barriers in terms of execution time and latency of real-world applications. An agnostic load barrier algorithm, called the Patching Barrier, is developed. The Patching Barrier emits mostly-correct machine code, which is then just-in-time modified by the garbage collector during runtime for correctness. The implementation takes advantage of existing mechanisms in HotSpot. Serial, Parallel and G1 see the introduction of more machine code. Benchmarking the Patching Barrier on the DaCapo Chopin suite indicates regressions in execution time and latency. Execution time increases up to 17% for Serial, 19% for Parallel, 17% for G1 and 23% for Z, although outlier programs which perform better exist. Latency also increases up to 15% for Serial, 17% for Parallel, 20% for G1 and 39% for Z. Smaller heaps generally perform better in execution time tests, but no such trend was found for latency. These results indicate that agnostic load barriers are feasible, at the cost of higher execution time and latency regressions. However, there is still room for further performance optimizations. This thesis provides real-world insights that will guide researchers and developers in their trade-off decisions in the future.
Abstract [sv]
Java, som körs på HotSpot Java Virtual Machine, drar nytta av just-in-time-kompilering där profilering används för att styra optimeringar. Det pågår även forskning kring ahead-of-time-kompilering av Java, vilket har fördelen av kortare uppstartstid jämfört med just-in-time-kompilering. En utmaning med ahead-of-time-kompilering är att den kräver att man väljer en specifik skräpsamlare, vilket minskar flexibiliteten under körning. Detta beror på icke-transparenta instruktioner, så kallade barriärer, som infogas för att möjliggöra kommunikation mellan skräpsamlaren och applikationen. Dessa barriärer genereras främst vid fältläsningar och fältuppdateringar, och deras exakta instruktioner beror på vilken skräpsamlare som används. Detta examensarbete undersöker skräpsamlaroberoende läsbarriärer – instruktioner för fältläsningar som kan utnyttjas av skräpsamlarna Serial, Parallel och Z. För närvarande har endast G1 och Z stöd för läsbarriärer. Forskningsmålen är att 1) utveckla och 2) mäta påverkan av sådana oberoende läsbarriärer med avseende på exekveringstid och latenstid i verkliga applikationer. En algoritm för skräpsamlaroberoende läsbarriärer, kallad Patching Barrier, har utvecklats. Patching Barrier genererar maskinkod som är till största delen korrekt och modifieras just-in-time av skräpsamlaren under körning för att säkerställa korrekthet. Implementeringen drar nytta av befintliga mekanismer i HotSpot. Serial, Parallel och G1 har utökats med denna maskinkod. Prestandamätningar med Patching Barrier på DaCapo Chopin-sviten visar på försämringar i både exekveringstid och latenstid. Exekveringstiden ökade med upp till 17% för Serial, 19% för Parallel, 17% för G1 och 23% för Z, även om det finns undantag där vissa program presterade bättre. Latenstiden ökade med upp till 15% för Serial, 17% för Parallel, 20% för G1 och 39% för Z. Mindre heapstorlekar tenderar att ge bättre exekveringstid, men någon liknande trend för latenstid kunde inte observeras. Resultaten visar att skräpsamlaroberoende läsbarriärer är genomförbara, men med en kostnad i form av ökad exekveringstid och latenstid. Det finns dock utrymme för ytterligare prestandaoptimeringar. Examensarbetet ger praktiska insikter som kan hjälpa forskare och utvecklare att fatta välgrundade beslut kring avvägningar i framtida arbete.
Place, publisher, year, edition, pages
2025. , p. 80
Series
TRITA-EECS-EX ; 2025:450
Keywords [en]
Garbage Collection, Garbage Collector Barriers, Just-in-Time Compilation, Java Virtual Machine
Keywords [sv]
Skräpsamling, Skräpsamlarbarriärer, Just-in-time-kompilering, Java Virtual Machine
National Category
Computer and Information Sciences
Identifiers
URN: urn:nbn:se:kth:diva-368017OAI: oai:DiVA.org:kth-368017DiVA, id: diva2:1986672
External cooperation
Oracle Global Services Sweden AB
Supervisors
Examiners
2025-08-102025-08-012025-08-10Bibliographically approved