Conversational user interfaces (CUIs) offer natural, intuitive ways for users to interact with digital systems. While generative language models (LMs) have significantly advanced natural language understanding, existing models are not readily suited for closed-domain, locally operating CUIs. This thesis presents a general method for LM-based CUIs based on function calling and domain-specific alignment. Specifically, it studies the fine-tuning of open-weight language models for closed-domain conversation and information retrieval in a smart building environment. Several models were fine-tuned using a combination of synthetic and publicly available data to handle queries about real-time and historical sensor data, while rejecting out-of-domain input. The results demonstrate the feasibility of this approach, with the fine- tuned models agreeing closely with teacher-generated reference output. It is also found that fine-tuning instruct-tuned base models has both advantages and disadvantages, being better at function calling but more difficult to align to closed domains. More work is needed in building appropriate datasets and aligning language models to operate correctly and reliably with function calling in closed domains.

Konverserande användargränssnitt (CUIs) möjliggör ett naturligt och enkelt sätt att interagera med digitala system. Generativa språkmodeller (LMs) har gjort stora framsteg inom automatisk språkförståelse, men existerande modeller är inte anpassade för slutna domäner eller lokalt körande gränssnitt. Den här rapporten presenterar en generell metod för LM-baserade CUIs baserad på funktionsanrop och domänspecifik anpassning. Det undersöks hur öppna språkmodeller kan finjusteras för att hantera konversation och informationssökning i sluten domän, med fokus på smarta byggnader. Flera modeller finjusterades med en blandning av syntetisk och offentligt tillgänglig data för att besvara frågor om realtids- och historisk sensordata, samt för att avvisa irrelevanta frågor. Resultaten visar att metoden är effektiv, med flera av de finjusterade mo- dellerna starkt överensstämmande med testdata producerat av en lärarmodell. Det visas även att det finns både för- och nackdelar med att finjustera modeller som redan är instruktionstränade, där de är bättre på funktionsanrop men svårare att anpassa till stängd domän. Mer arbete krävs för att skapa passande dataset och anpassa språkmodeller för att fungera korrekt och pålitligt med funktionsanrop i slutnen domän.