Avaliação da Eficácia dos Grandes Modelos de Linguagem na Representação de Descrições Textuais de Geometria e Relações Espaciais (Artigo Curto)

Esta pesquisa foca na avaliação da capacidade dos grandes modelos de linguagem (LLMs) em representar geometrias e suas relações espaciais. Utilizamos LLMs, incluindo GPT-2 e BERT, para codificar o formato well-known text (WKT) das geometrias e, em seguida, alimentamos seus embeddings em classificadores e regressores para avaliar a eficácia dos embeddings gerados pelos LLMs para atributos geométricos. Os experimentos demonstram que, embora os embeddings gerados pelos LLMs possam preservar tipos de geometria e capturar algumas relações espaciais (até 73% de acurácia), desafios permanecem na estimativa de valores numéricos e recuperação de objetos espacialmente relacionados. Esta pesquisa destaca a necessidade de melhorias na captura das nuances e complexidades dos dados geoespaciais subjacentes e na integração do conhecimento de domínio para suportar diversas aplicações GeoAI usando modelos fundamentais.