O aprendizado contrastivo (CL) baseado em codificadores de sequência Transformer oferece uma estrutura robusta para recomendação sequencial ao abordar efetivamente problemas de ruído e escassez de dados. Ao utilizar as vantagens do CL, esses modelos conseguem aprender representações ricas a partir de sequências de interações históricas dos usuários, levando a recomendações aprimoradas e maior satisfação do usuário. No entanto, métodos recentes de CL são afetados por duas limitações. Em primeiro lugar, abordagens de CL são principalmente projetadas para processar sequências de entrada em única direção, ou seja, da esquerda para a direita, o que é subótimo para tarefas de predição sequencial, pois as interações históricas dos usuários podem não estar em uma sequência fixa e única. Em segundo lugar, esses modelos se concentram em projetar objetivos de CL baseados exclusivamente na sequência de entrada, negligenciando as valiosas características de auto-supervisão disponíveis como informação auxiliar de texto descritivo. Para superar essas limitações, introduzimos uma nova estrutura chamada Aprendizado Contrastivo Contextual Ajudado por Bi-Transformadores para Recomendação Sequencial (CCLRec). Especificamente, os Transformers bidirecionais são estendidos para incorporar informações auxiliares utilizando incorporações de frases formuladas a partir da descrição textual dos itens. Em seguida, introduzimos a técnica do passo de vidro rolante para lidar com sequências longas de usuários e características descritivas do item correspondente, o que permite uma partição mais refinada das sequências dos usuários. Em seguida, as estratégias de cloze, oclusão aleatória e mascaramento por dropout são aplicadas em conjunto para gerar amostras positivas de alta qualidade, melhorando o desempenho do objetivo de aprendizado contrastivo. Experimentos abrangentes em três conjuntos de dados de referência demonstram que o CCLRec supera consistentemente as bases de comparação de última geração, alcançando melhorias de até 5,69% a 6,34% em NDCG@10 nos conjuntos de dados MovieLens-1M, Amazon Beauty e Amazon Toys.
Alkhalil et al. (Qui,) estudaram esta questão.