Construire des agents logiciels dignes de confiance

À mesure que les agents deviennent plus actifs et sophistiqués, les implications de leurs actions deviennent plus graves. Avec les interfaces graphiques actuelles, les erreurs d'utilisateur et de logiciel peuvent souvent être facilement corrigées ou annulées. Un agent effectuant des actions au nom d'un utilisateur pourrait commettre des erreurs qui sont très difficiles à "annuler", et, selon la complexité de l'agent, il pourrait ne pas être clair ce qui a mal tourné. De plus, pour que les agents fonctionnent efficacement et agissent réellement au nom de leurs utilisateurs, ils pourraient avoir besoin d'informations confidentielles ou sensibles. Cela inclut des détails financiers et des informations de contact personnelles. Ainsi, avec l'enthousiasme suscité par les agents et ce qu'ils peuvent faire, il y a des préoccupations concernant les problèmes de sécurité et de confidentialité qui en résultent. Il ne suffit pas de supposer que des agents logiciels bien conçus fourniront la sécurité et la confidentialité nécessaires aux utilisateurs ; des assurances et des suppositions concernant la sécurité et la confidentialité doivent être rendues explicites. Cet article propose un modèle des facteurs qui déterminent l'acceptation des agents, basé sur des travaux antérieurs sur les attitudes des utilisateurs envers les transactions de commerce électronique, dans lequel les sentiments de confiance et les perceptions de risque se combinent dans des directions opposées pour déterminer l'acceptation finale d'une technologie d'agent par un utilisateur.