Machine Activity Recognition (MAR) is gaining popularity due to its diverse applications, including improving efficiency, predicting maintenance needs, and identifying anomalies and unsafe behavior patterns. At the same time Large Language Models (LLMs) has shown strengths in similar domains where labeled training data is hard to come by. This paper explores the application of LLMs on Controller Area Network (CAN) data from forklifts for MAR. Conducted in partnership with TMHMS, our research aims to develop an unsupervised method for predicting forklift activities by tokenizing CAN data and using a custom Generative Pre-trained Transformer (GPT) model. A key focus is identifying significant changes for discrete values in CAN data to train the model and evaluate its performance.

Our research makes several contributions, including the creation of a new language for encoding forklift activities and a method for tokenizing CAN data. By using three different own defined vocabularies to train the GPT model, which was then compared to traditional statistical models. Quantitative analysis using Bilingual Evaluation Understudy (BLEU) scores and sequence accuracy showed that the GPT model outperformed the statistical models. Qualitative analysis indicated that the generated sequences were plausible, though further exploration is needed. Our findings suggest that while the GPT model can identify complex patterns in CAN data that statistical models can not. Although the GPT model's predictions did not always align perfectly with the reference data, they were reasonable and demonstrated potential as a powerful tool if human intervention is reduced,  providing a more predictable action chain. Additionally, plotting synthetic sequences with t-Distributed Stochastic Neighbor Embedding (t-SNE) and comparing them with training data showed that the synthetic sequences were more coherent and plausible than those generated by traditional statistical models or random processes.

Stora språkmodeller (LLMs) blir alltmer populära, och många företag utvecklar modeller anpassade till deras specifika behov. Att skapa effektiva skräddarsydda träningsuppsättningar är dock ofta en utmaning. Denna studie undersöker tillämpningen av LLMs på Controller Area Network (CAN) data från gaffeltruckar för maskinaktivitet igenkänning. I samarbete med Toyota Material Handling, syftar vår forskning till att utveckla en unsupervised metod för att förutsäga gaffeltruckars aktiviteter genom att tokenisera CAN-data och använda en anpassad Generative Pre-trained Transformer (GPT) modell. Ett viktigt fokus är att identifiera changepoints i CAN-data för att träna modellen och utvärdera dess prestanda.

Vår forskning bidrar på flera sätt, såsom att skapa ett nytt språk för kodning av gaffeltruckars aktiviteter och utveckla en metod för tokenisering av CAN-data. Vi tränade GPT-modellen med tre olika fabricerade vokabulärer och jämförde den sedan med traditionella statistiska modeller. Kvantitativ analys med BLEU-poäng och sekvensnoggrannhet visade att GPT-modellen presterade bättre än de statistiska modellerna. Kvalitativ analys visade att de genererade sekvenserna var trovärdiga, även om ytterligare forskning behövs. Våra resultat tyder på att GPT-modellen kan identifiera komplexa mönster i CAN-data som statistiska modeller inte kan. Även om GPT-modellens förutsägelser inte alltid exakt matchade referensdatan, var de rimliga och visade potential som ett kraftfullt verktyg med mindre mänsklig intervention. Dessutom visade visualisering av syntetiska sekvenser med t-Distributed Stochastic Neighbor Embedding (t-SNE) och jämförelser med träningsdata att de syntetiska sekvenserna var mer sammanhängande och trovärdiga än de som genererades av traditionella statistiska modeller eller slumpmässiga processer.