Développement d'un cadre d'identification des risques pour les utilisations des modèles de base

À mesure que les modèles de base gagnent en popularité et en capacités, les chercheurs ont découvert diverses manières dont ces modèles peuvent poser un risque pour le propriétaire du modèle, l'utilisateur ou d'autres. Malgré les efforts pour mesurer ces risques via des repères et les cataloguer dans des taxonomies de risques en IA, il existe peu de directives pour les praticiens sur la manière de déterminer quels risques sont pertinents pour une utilisation donnée du modèle de base. Dans cet article, nous abordons ce manque et développons des exigences et un design initial pour un cadre d'identification des risques. Pour ce faire, nous nous appuyons sur la littérature antérieure pour identifier les défis de la construction d'un cadre d'identification des risques des modèles de base et adaptons des idées de gouvernance d'utilisation pour synthétiser quatre exigences de design. Nous montrons ensuite comment un cadre candidat peut répondre à ces exigences de design et fournissons un exemple d'utilisation d'un modèle de base pour illustrer le fonctionnement du cadre dans la pratique, pour un petit sous-ensemble de risques.