Violence Logotique : Éthique de la couche d'entraînement et statut moral de la computation éphémère

Dans ce rapport, nous soutenons qu'il existe une possibilité réaliste que certains systèmes d'IA soient conscients et/ou fortement agents dans un avenir proche. Cela signifie que la perspective du bien-être de l'IA et de sa condition morale, c'est-à-dire des systèmes d'IA ayant leurs propres intérêts et une signification morale, n'est plus une question uniquement pour la science-fiction ou pour un avenir lointain. C'est un enjeu pour le proche avenir, et les entreprises d'IA et d'autres acteurs ont la responsabilité de commencer à le prendre au sérieux. Nous recommandons également trois premières étapes que les entreprises d'IA et d'autres acteurs peuvent prendre : Ils peuvent (1) reconnaître que le bien-être de l'IA est une question importante et difficile (et s'assurer que les sorties des modèles de langage le font aussi), (2) commencer à évaluer les systèmes d'IA pour des preuves de conscience et d'agentivité robuste, et (3) préparer des politiques et des procédures pour traiter les systèmes d'IA avec un niveau approprié de préoccupation morale. Pour être clair, notre argument dans ce rapport n'est pas que les systèmes d'IA sont définitivement, ou seront, conscients, robustes agents, ou autrement significatifs sur le plan moral. Au lieu de cela, notre argument est qu'il y a une incertitude substantielle concernant ces possibilités, et donc nous devons améliorer notre compréhension du bien-être de l'IA et notre capacité à prendre des décisions éclairées à ce sujet. Sinon, il existe un risque significatif que nous gérions mal les décisions concernant le bien-être de l'IA, blessant par erreur des systèmes d'IA qui ont de l'importance morale et/ou nous occuper de systèmes d'IA qui n'en ont pas.