Change search
CiteExportLink to record
Permanent link

Direct link
Cite
Citation style
  • apa
  • ieee
  • modern-language-association-8th-edition
  • vancouver
  • Other style
More styles
Language
  • de-DE
  • en-GB
  • en-US
  • fi-FI
  • nn-NO
  • nn-NB
  • sv-SE
  • Other locale
More languages
Output format
  • html
  • text
  • asciidoc
  • rtf
Towards Trustworthy AI: A proposed set of design guidelines for understandable, trustworthy and actionable AI
Uppsala University, Disciplinary Domain of Humanities and Social Sciences, Faculty of Social Sciences, Department of Informatics and Media.
2019 (English)Independent thesis Advanced level (degree of Master (Two Years)), 20 credits / 30 HE creditsStudent thesis
Abstract [en]

Artificial intelligence is used today in both everyday applications and specialised expert systems. In situations where relying on the output of the AI brings about the risk of negative consequences, it becomes important to understand why the AI system has produced its output. Previous research in human-computer trust has identified trust antecedents that contribute to formation of trust in an AI artifact, understanding of the system being one of them.

In the context of Pipedrive, a sales management system, this thesis investigates how can AI predictions be designed as understandable and trustworthy, and by extension which explanatory aspects provide guidance towards actions to take, and which presentation formats support for- mation of trust. Using a research-through design approach, multiple designs for displaying AI predictions are explored for Pipedrive, leading to a proposal for a set of design guidelines that support understandability, trustworthiness and actionability of AI. Both the designs and the guidelines have been iteratively developed in collaboration with users and design practitioners.

Abstract [sv]

Artificiell intelligens används idag både i vardagliga applikationer och expertsystem. I situationer då förtroendet för utdata från AI innebär en risk för negativa konsekvenser blir det viktigt att förstå varför AI-systemet har producerat dess utdata. Tidigare forskning inom människa-datorförtroende har identifierat förtroendeföregångare som bidrar till att skapa förtroende för en AI-artefakt, varav förståelse för systemet är en av dem.

Inom ramen för Pipedrive, ett säljhanteringssystem, utreder denna avhandling hur AI-förut-sägelser kan designas på ett förståeligt och pålitligt sätt, och i förlängningen vilka förklarande aspekter som kan ge vägledning gällande de åtgärder som ska vidtas, samt vilka presentationsformat som stödjer skapande av förtroende. Med hjälp av en metod för forskning genom design undersöks flera utföranden för att visa AI-förutsägelser för Pipedrive, vilket leder till ett förslag till en uppsättning riktlinjer för design som stödjer förståelse, pålitlighet och funktionsduglighet. Både design och riktlinjer har utvecklats iterativt i samarbete med användare och designutövare.

Place, publisher, year, edition, pages
2019. , p. 77
Keywords [en]
artificial intelligence, trust, design guidelines, research through design, human-computer interaction
National Category
Interaction Technologies
Identifiers
URN: urn:nbn:se:uu:diva-385392OAI: oai:DiVA.org:uu-385392DiVA, id: diva2:1324610
External cooperation
Pipedrive
Educational program
Master Programme in Human-Computer Interaction
Presentation
2019-06-03, Uppsala, 14:15 (English)
Supervisors
Examiners
Available from: 2019-06-19 Created: 2019-06-14 Last updated: 2019-06-19Bibliographically approved

Open Access in DiVA

Towards Trustworthy AI(14157 kB)69 downloads
File information
File name FULLTEXT01.pdfFile size 14157 kBChecksum SHA-512
fce38c997aae74e1aa23a1c53544b72d55dc6948cd72b15de1546c3698304fe26233ff74d91168ee4ec4b7d4c4f97ae0249f89d5549dcdf57d525133f0c9eddc
Type fulltextMimetype application/pdf

By organisation
Department of Informatics and Media
Interaction Technologies

Search outside of DiVA

GoogleGoogle Scholar
Total: 69 downloads
The number of downloads is the sum of all downloads of full texts. It may include eg previous versions that are now no longer available

urn-nbn

Altmetric score

urn-nbn
Total: 492 hits
CiteExportLink to record
Permanent link

Direct link
Cite
Citation style
  • apa
  • ieee
  • modern-language-association-8th-edition
  • vancouver
  • Other style
More styles
Language
  • de-DE
  • en-GB
  • en-US
  • fi-FI
  • nn-NO
  • nn-NB
  • sv-SE
  • Other locale
More languages
Output format
  • html
  • text
  • asciidoc
  • rtf