Key points are not available for this paper at this time.
Os sistemas de aprendizado de máquina requerem representações do mundo real para treinamento e teste - eles precisam de dados, e muitos deles. Coletar dados em larga escala apresenta desafios logísticos e éticos, e os dados sintéticos prometem uma solução para esses desafios. Em vez de precisar coletar fotos de rostos de pessoas reais para treinar um sistema de reconhecimento facial, um criador de modelos poderia criar e usar rostos sintéticos fotorrealistas. A facilidade comparativa de gerar esses dados sintéticos ao invés de depender da coleta de dados tornou isso uma prática comum. Apresentamos dois riscos principais do uso de dados sintéticos no desenvolvimento de modelos. Primeiro, detalhamos o alto risco de falsa confiança ao usar dados sintéticos para aumentar a diversidade e representação do conjunto de dados. Baseamos isso na análise de um caso de uso real de dados sintéticos, onde conjuntos de dados sintéticos foram gerados para uma avaliação da tecnologia de reconhecimento facial. Segundo, examinamos como o uso de dados sintéticos pode contornar o consentimento para o uso de dados. Ilustramos isso considerando a importância do consentimento na regulamentação da coleta de dados pela Comissão Federal de Comércio dos EUA e modelos afetados. Por fim, discutimos como esses dois riscos exemplificam como os dados sintéticos complicam a governança e a prática ética existentes; ao desacoplar os dados daqueles que impacta, os dados sintéticos tendem a consolidar o poder longe dos mais afetados por danos mediados por algoritmos.
Whitney et al. (Mon,) estudaram essa questão.