Explorando Tendências e Taxonomias em Artigos de Revisão sobre Grandes Modelos de Linguagem através da Ciência de Dados

Este relatório fornece uma análise aprofundada de artigos de revisão dentro de um conjunto de dados específico, utilizando várias técnicas de ciência de dados. O objetivo principal é investigar, manipular e avaliar os dados para descobrir tendências e distribuições de taxonomia relacionadas a pesquisas neste campo. A fase de exploração começou com uma análise de séries temporais das publicações de pesquisas, permitindo a visualização de tendências ao longo do tempo. Subsequentemente, as distribuições de taxonomia foram analisadas através de gráficos de barras e de pizza para identificar as categorias mais comuns. Uma matriz de características foi criada na fase de manipulação, implementando vetorização TF-IDF nos componentes textuais (títulos e resumos) e codificação one-hot para variáveis categóricas. Essas características foram então normalizadas e divididas em conjuntos de treinamento e teste para facilitar a avaliação do modelo. Para o processo de avaliação, um classificador Random Forest foi empregado para prever a taxonomia das pesquisas com base nas características extraídas. Métricas de performance como acurácia e precisão foram utilizadas, com o modelo alcançando uma acurácia de 56,89%. Outros modelos como LinearSVC e Regressão Logística também foram usados na avaliação de dados e apresentaram aproximadamente a mesma acurácia que a do classificador Random Forest. Embora este resultado sugira um espaço significativo para melhorias, destaca o potencial do aprendizado de máquina para automatizar a classificação de artigos de pesquisa com base em seu conteúdo. Esta análise demonstra como métodos de ciência de dados, incluindo processamento de linguagem natural (NLP) e aprendizado de máquina, podem ser utilizados para discernir tendências, conduzir engenharia de características e avaliar modelos no contexto de dados de pesquisa. Pesquisas futuras podem se concentrar na integração de modelos mais sofisticados e estratégias de seleção de características para melhorar a acurácia preditiva.