O que significa para uma IA clínica ser justa: conflitos entre a justiça local e a adequação ao propósito?

Tem havido repetidos apelos para garantir que a inteligência artificial (IA) clínica não seja discriminatória, ou seja, que forneça seu benefício pretendido a todos os membros da sociedade, independentemente do status de quaisquer características protegidas dos indivíduos cuja saúde a IA possa participar. Também tem havido repetidos apelos para garantir que qualquer IA clínica seja adaptada à população local na qual está sendo usada, para garantir que seja adequada ao propósito. No entanto, pode haver um conflito entre esses dois apelos, uma vez que adaptar uma IA a uma população local pode reduzir sua eficácia quando a IA é usada no cuidado de indivíduos que têm características que não estão representadas na população local. Aqui, exploro o conceito bioético de justiça local aplicado à IA clínica. Primeiro, introduzo a discussão sobre justiça e desigualdades na saúde e como esse problema continuou nas tentativas de desenvolver cuidados de saúde aprimorados por IA. Em seguida, discuto vários aspectos técnicos que podem afetar a implementação da justiça local. Depois, introduzo algumas considerações do Estado de Direito na discussão para contextualizar melhor a questão, traçando paralelos importantes. Por fim, discuto algumas soluções técnicas potenciais que foram propostas para abordar a questão da justiça local. Finalmente, esboço quais soluções considero mais propensas a contribuir para uma IA adequada ao propósito e justa.