Mange forbrukere bekymrer seg for hvordan bedrifter bruker kunstig intelligens – og om det skjer på en etisk forsvarlig måte. I tillegg er det langt færre i dag som har høye forventninger til hvordan KI kan forbedre deres kundeopplevelse. Dette viser undersøkelsen Connected Customer fra Salesforce.
Blant funnene i undersøkelsen konkluderes det med at denne globale megatrenden for alvor begynner å svekke forbrukernes tillit til hvordan selskapene bruker teknologien. En økende grad både profesjonelle og private kunder stiller spørsmål ved og er opptatt av hvordan KI benyttes gjennom hele kundereisen.
Forbrukerne bruker i økende grad kunstig intelligens i hverdagen. Fordelene og mulighetene med teknologien er mange. Samtidig kan forbrukernes tillit og teknologiens pålitelighet være en barriere for utvikling. Det er viktig å gi forbrukerne de riktige verktøyene og insentivene, slik at de tør å omfavne teknologien og bruke den, sier Rune Reikerås, salgsdirektør i Salesforce Norge.
Han har jobbet mye med disse problemstillingene og mener erfaringer fra forbrukernes egen bruk av kunstig teknologi har stor betydning for fremtiden.
I Norden er 72 prosent av de spurte forbrukerne bekymret for om bedrifter bruker KI på en etisk forsvarlig måte. Kun 29 prosent mener at generativ KI kan gi like gode svar som et menneske.
Dessuten har antallet forbrukere som mener at KI kan brukes til å forbedre kundeopplevelsen falt fra 82 til 73 prosent blant profesjonelle kunder og fra 65 til 51 prosent blant forbrukerne. Flere ønsker at et menneske skal verifisere svarene generert av KI – og etterspør åpenhet.
Vær åpen om KI-skapt innhold
Reikerås mener altså at forbrukerne bør ha enkel tilgang på de riktige verktøyene og at insentiver bør brukes for at de skal tørre å omfavne teknologien. Det kan man oppnå ved å være ærlig og transparent, mener salgsdirektøren.
Fortell kunden hvordan du bruker dataene deres, og gjør informasjonen lett tilgjengelig slik at de kan forstå dem. Ikke skjult som en lenke nederst i en 30 sider lang tekst. Vær åpen om at det er KI som har skapt innholdet og gjør det enkelt for forbrukeren å komme i kontakt med et menneske i bedriften om det er ønskelig, sier Reikerås.
Forbrukerne i undersøkelsen er først og fremst nysgjerrig på KI og kun 29 prosent av de nordiske forbrukerne stoler på at KI er like nøyaktig som et menneske. Om hvorfor et så stort flertall er skeptiske til teknologiens evner og heller ønsker seg en menneskelig dialog, bemerker Reikerås at vi fremdeles er i en tidlig fase av teknologien.
Generativ KI har potensialet til å gjøre alle til eksperter gjennom tilgang til mer informasjon enn en person kan samle på egen hånd, men det er heller ikke feilfritt. Vi tar derfor nesten alltid til orde for å involvere et menneske for å kritisk vurdere og sikre at svarene er relevante, avslutter Reikerås.
Undersøkelsen Connected Customer viser også følgende statistikk blant Salesforce' kunder (med nordiske tall i parentes):
- 68 prosent (66) sier at fremskritt innen KI gjør det viktigere for bedrifter å være pålitelige
- 74 prosent (72) er bekymret for uetisk bruk av KI
- 63 prosent (56) sier at generativ KI vil føre til utilsiktede konsekvenser for samfunnet
- 89 prosent (85) sier det er viktig å vite når de kommuniserer med KI eller et menneske
- 80 prosent (72) sier at det er viktig for et menneske å verfisere svarene som KI gir
- Bare 37 prosent (29) stoler på at KI er like nøyaktig som et menneske
