Denna studie genomfördes i syfte att belysa det växande problemet med AI-genererade bedrägerier genom att undersöka hur ChatGPT tillämpar psykologiska principer för övertalning i genererade bedrägeritexter. Genom en kombination av fallstudie och experiment riktades fokuset mot tre specifika bedrägerityper inom social manipulation: investeringsbedrägerier, befogenhetsbedrägerier och romansbedrägerier. Representativa bedrägeriscenarier formulerades i form av promptar, som sedan användes för att generera bedrägeritexter med hjälp av ChatGPT. Varje prompt anpassades genom mindre justeringar av variabler för att generera texter riktade mot fyra olika målgrupper. Texterna analyserades därefter med en kvalitativ innehållsanalys för att besvara studiens frågeställning om vilka övertalningsprinciper ChatGPT använder i genererade bedrägeritexter, samt hur dessa principer implementeras beroende på bedrägeriscenario och målgrupp. Som teoretiskt ramverk för analysen användes teorin Principles of Persuasion in Social Engineering som skildrar fem olika övertalningsprinciper. Utöver detta genomfördes även en kompletterande analys av språkliga mönster i syfte att bredda förståelsen för hur ChatGPT tillämpar social manipulation gentemot olika målgrupper. Resultaten visade att ChatGPT tillämpade övertalningsprinciper i betydande mängd, med variationer mellan de olika bedrägerityperna. Det påvisades även hur implementationen av principerna skiljde sig åt beroende på mottagande målgrupp, då ChatGPT prioriterade olika ämnen i sin argumentation. Utöver detta identifierades även skillnader i språkbruk gentemot de fyra målgrupperna. Därav kunde slutsatsen dras att ChatGPT, genom kombinationer av språkbruk och innehåll, konstruerar bedrägeritexter i syfte att maximera övertalningsförmågan. Detta tyder på en sofistikerad förståelse för sociala dynamiker, vilket möjliggör manipulation och ökar chanserna att ett bedrägeri fullbordas. Det är dock viktigt att poängtera att studiens begränsningar kan ha påverkat resultaten. Till exempel kan den manuella analysen av övertalningsprinciper medfört en viss grad av subjektivitet. Detta motverkades dock genom ett systematiskt tillvägagångssätt med tydligt definierade kriterier för hur analysen skulle utföras, vilket stärker studiens reliabilitet och reproducerbarhet.

This study was conducted to shed light on the growing problem of AI-generated fraud by investigating how ChatGPT applies psychological principles of persuasion in generated fraudulent texts. Through a combination of case study and experimental methods, the focus was directed toward three specific types of fraud within social engineering: investment fraud, impersonation fraud, and romance fraud. Representative fraud scenarios were formulated as prompts, which were then used to generate fraudulent texts with the help of ChatGPT. Each prompt was adjusted with minor variable modifications to generate texts targeted at four different audiences. The texts were then analyzed using qualitative content analysis to address the study's research question regarding which persuasion principles ChatGPT applies in generated fraudulent texts and how these principles are implemented depending on the scenario and target audience. The theory Principles of Persuasion in Social Engineering, which outlines five different types of persuasion principles, was used as a theoretical framework for the analysis. In addition, a complementary analysis of linguistic patterns was conducted to broaden the understanding of how ChatGPT applies social manipulation across different target audiences. The results showed that ChatGPT applied persuasion principles in significant quantities, with variations across the different types of fraud. The findings also revealed how the implementation of the principles differed depending on the target audience, as ChatGPT prioritized different themes in its arguments. Furthermore, differences in language usage across the four target groups were also identified. From this, it could be concluded that ChatGPT, through combinations of language and content, constructs fraudulent texts aimed at maximizing its persuasiveness. This indicates that ChatGPT has a sophisticated understanding of social dynamics, which enables manipulation and increases the likelihood of a successful fraud attempt. However, it is important to note that the study's limitations may have influenced the results. For example, the manual analysis of persuasion principles may have resulted in a degree of subjectivity. However, this was mitigated through a systematic approach with clearly defined criteria for how the analysis was to be conducted, which strengthens the study's reliability and reproducibility.