Sobre conjuntos de datos de aprendizaje automático responsables que enfatizan la equidad, la privacidad y las normas regulatorias con ejemplos en biometría y atención médica

Resumen La inteligencia artificial (IA) se ha integrado sin problemas en numerosos dominios científicos, catalizando mejoras sin precedentes en un amplio espectro de tareas; sin embargo, su integridad y confiabilidad han surgido como preocupaciones notables. La comunidad científica se ha centrado en el desarrollo de algoritmos de IA confiables; sin embargo, los algoritmos de aprendizaje automático y aprendizaje profundo, populares en la comunidad de IA hoy en día, dependen intrínsecamente de la calidad de sus datos de entrenamiento. Estos algoritmos están diseñados para detectar patrones dentro de los datos, aprendiendo así los objetivos de comportamiento deseados. Cualquier insuficiencia en los datos tiene el potencial de traducirse directamente en algoritmos. En este estudio, discutimos la importancia de los conjuntos de datos de aprendizaje automático responsables a través de la lente de la equidad, la privacidad y el cumplimiento regulatorio, y presentamos una gran auditoría de conjuntos de datos de visión por computadora. A pesar de la ubicuidad de los desafíos de equidad y privacidad en diversos dominios de datos, los marcos regulatorios actuales abordan principalmente las preocupaciones sobre datos centrados en humanos. Por lo tanto, enfocamos nuestra discusión en conjuntos de datos biométricos y de atención médica, aunque los principios que delineamos son ampliamente aplicables en varios dominios. La auditoría se realiza a través de la evaluación de la rúbrica responsable propuesta. Después de encuestar más de 100 conjuntos de datos, nuestro análisis detallado de 60 conjuntos de datos distintos destaca una susceptibilidad universal a problemas de equidad, privacidad y cumplimiento regulatorio. Este hallazgo enfatiza la urgente necesidad de revisar las metodologías de creación de conjuntos de datos dentro de la comunidad científica, especialmente a la luz de los avances globales en la legislación de protección de datos. Afirmamos que nuestro estudio es críticamente relevante en el contexto contemporáneo de la IA, ofreciendo perspectivas y recomendaciones que son tanto oportunas como esenciales para la evolución continua de las tecnologías de IA.