PulseExploreJournal ClubDebatesTrendingResearchersJournals
Instagram
HomeExploreJournal ClubTrending
Synapse
⌘+K
Synapse
March 1, 20260 citations

Perbandingan Performa LLaMA-2 dan GPT-3.5 Turbo Menggunakan Metode Retrieval Augmented Few-shot pada Analisis Sentimen

View Full Paper
IWI Wayan Adi Maha WigunaUniversitas Pendidikan GaneshaIPIda Bagus Nyoman PascimaUniversitas Pendidikan GaneshaLDLuh Putu Eka DamayantiUniversitas Pendidikan Ganesha

Key Points

  • The study aims to evaluate and compare the performance of LLaMA-2 and GPT-3.5 Turbo in sentiment analysis tasks using Retrieval Augmented Few-shot methods.
  • Applied Retrieval Augmented Few-shot (RAFS) for sentiment analysis in tourism domain.
  • Used Zero-shot scenarios as baseline for performance comparison.
  • Analyzed model accuracy, f1-scores, and precision before and after RAFS application.
  • LLaMA-2's accuracy improved from 0.833 to 0.862, while GPT-3.5 Turbo increased from 0.851 to 0.856.
  • LLaMA-2's f1-score for minor class rose sharply from 0.462 to 0.676, compared to GPT-3.5 Turbo's increase from 0.555 to 0.572.
  • LLaMA-2 demonstrated better overall classification accuracy and balance despite GPT-3.5's higher initial performance.

Abstract

Large Language Models (LLM) memerlukan metode tambahan untuk optimasi pada tugas spesifik seperti analisis sentimen. Penelitian ini membandingkan performa GPT-3.5 Turbo dan LLaMA-2 melalui penerapan metode Retrieval Augmented Few-shot (RAFS) pada domain pariwisata, dengan skenario Zero-shot sebagai baseline. Hasil eksperimen menunjukkan bahwa LLaMA-2 mengalami peningkatan performa yang jauh lebih signifikan dibandingkan GPT-3.5 Turbo setelah penerapan RAFS. Akurasi LLaMA-2 meningkat dari 0,833 menjadi 0,862, sementara GPT-3.5 Turbo hanya meningkat tipis dari 0,851 menjadi 0,856. Perbedaan substansial terlihat pada metrik kelas minoritas; f1-score GPT-3.5 hanya naik dari 0,555 ke 0,572, sedangkan LLaMA-2 melonjak drastis dari 0,462 ke 0,676 dengan kenaikan presisi dari 0,395 ke 0,844. Secara head-to-head, LLaMA-2 terbukti sedikit lebih unggul dibanding dengan GPT-3.5 Turbo dalam menghasilkan klasifikasi yang tepat dan seimbang. Meskipun GPT-3.5 memiliki baseline awal yang lebih tinggi, LLaMA-2 menunjukkan kemampuan adaptasi dan skalabilitas yang lebih baik terhadap augmentasi konteks. Temuan ini menegaskan bahwa model open-source dengan dukungan RAFS mampu menyamai, bahkan melampaui model proprieter dalam menangani kompleksitas sentimen ulasan pelanggan.

Ask AI
Helpful
Bookmark
Share
View Full Paper

Cite This Study

Wiguna et al. (2025) studied this question.

synapsesocial.com/papers/69a3d8caec16d51705d2ff48https://doi.org/10.12928/jstie.v14i1.31872
Ask AI
Helpful
Bookmark
Share
View Full Paper