AIモデルリスクカタログ：開発者と研究者が見落とす実世界におけるAIの危害

私たちは、Hugging Faceからの約460,000のAIモデルカードを分析し、開発者がリスクをどのように報告しているかを調査しました。そこから約3,000のユニークなリスク言及を抽出し、AIモデルリスクカタログを構築しました。これらをMITリスクリポジトリの研究者によって特定されたリスクやAIインシデントデータベースからの実世界の事件と比較しました。開発者はバイアスや安全性といった技術的な問題に焦点を当てていましたが、研究者はより広い社会的影響を強調していました。両グループとも、AIとの関わり方から生じる一般的な危害である詐欺や操作にほとんど注意を払っていませんでした。私たちの調査結果は、設計プロセスの初期に人間の相互作用やシステムリスクについて考えるのを助ける、より明確で構造化されたリスク報告の必要性を示しています。