限られたラベル付きデータとそのランダム性の影響に対する感受性に関する調査

プロンプティング、コンテキスト学習、ファインチューニング、メタ学習、または少数ショット学習などの限られたラベル付きデータでの学習は、少量のラベル付きサンプルのみを使用してモデルを効果的に訓練することを目的としています。しかし、これらのアプローチは、訓練プロセスにおける非決定論によって引き起こされる制御されていないランダム性の影響に対して過度に敏感であることが観察されています。このランダム性はモデルの安定性に悪影響を及ぼし、訓練の実行間で結果に大きなばらつきを引き起こします。このような感受性が無視されると、研究の進展に関する幻想的な認識を意図せず、また意図的に創出することがあります。最近、この分野は研究の関心を引き始めており、関連する研究の数は継続的に増加しています。本調査では、限られたラベル付きデータでの学習の安定性に対するランダム性の影響に対処した415件の論文の包括的な概要を提供します。論文で扱われた4つの主要なタスク（調査/評価、決定、軽減、ベンチマーク/比較/報告のランダム性の影響）を区別し、それぞれの発見を提供します。さらに、7つの課題と未解決の問題を特定し、さらなる研究を促進するための可能な方向性について議論します。この調査の最終的な目標は、これまで適切なレベルの注意を受けていないこの成長する研究分野の重要性を強調し、将来の研究に影響を与える方向性を明らかにすることです。