In AI vertrouwen we: determinanten van continu vertrouwen in de interactie tussen gebruiker en systeem

Het aantal interacties tussen mens en digitale technologieën groeit snel. De literatuur over acceptatie van technologie en automatisering onderzoekt deze interacties en identificeert vertrouwen als een van de belangrijkste bepalende factoren. Als gevolg van menselijke vooroordelen en technologiestoringen nemen echter ook foutieve interacties toe en neemt het voortdurende vertrouwen van gebruikers in technologieën af. Dit kan leiden tot onbruik, misbruik of sabotage, wat kan leiden tot suboptimale systeemprestaties, nadelige gevolgen voor bedrijven of, erger nog, kritieke incidenten.

In de context van vertrouwen in op artificiële intelligentie gebaseerde systemen in organisaties bestaan ​​er momenteel geen modellen die de verschillende factoren van vertrouwen in op AI gebaseerde systemen verklaren, en evenmin heeft de literatuur baat bij een gevalideerd meetinstrument.

Dit doctoraatsproject bestaat uit drie onderzoeken. De eerste studie is een kwalitatieve studie om te onderzoeken welke factoren het voortdurende vertrouwen van gebruikers in op AI gebaseerde systemen beïnvloeden en vervolgens een empirisch model te ontwikkelen dat deze factoren representeert. De tweede studie is een kwantitatieve studie waarin we het voorlopige model van studie 1 zullen testen door een enquête te ontwikkelen en te valideren om het voortdurende vertrouwen van gebruikers te meten. De derde studie combineert een kwantitatieve benadering en een case study-benadering om dieper in te gaan op de rol van persoonlijkheidskenmerken, en meer specifiek Sensory Processing Sensitivity (SPS), met betrekking tot het vertrouwen van gebruikers. SPS beschrijft de verhoogde gevoeligheid van individuen voor zowel positieve als negatieve stimuli in de omgeving die, in een context van digitale transformatie en toenemend technologiegebruik, verschillende behoeften kunnen creëren voor verschillende SPS-groepen met betrekking tot het opbouwen van vertrouwen.

Over het algemeen streven we ernaar om het inzicht van academici en praktijkmensen in de innerlijke werking van de voortdurende vertrouwensrelatie van gebruikers met op AI gebaseerde systemen op de werkplek te vergroten. De ontwikkeling van een enquête-instrument dat als standaardinstrument kan dienen om genoemd vertrouwen te meten en te begrijpen, is een kernelement van ons onderzoeksproject om inzicht te krijgen in deze vertrouwensrelatie.