助けを求めるロボット：大規模言語モデルプランナーの不確実性アラインメント

大規模言語モデル（LLM）は、段階的計画から常識的推論まで、ロボットにとって有用な幅広い有望な能力を示していますが、自信を持ってハルシネートした予測には依然として弱点があります。本研究では、KnowNoを提案します。これは、LLMベースのプランナーの不確実性を測定し、整合させるためのフレームワークであり、彼らが知らないときにそれを認識し、必要なときに助けを求めることができるようにします。KnowNoは、予測整合性理論に基づいており、複雑な多段階計画設定において人間の助けを最小限に抑えながらタスクの完了に対する統計的保証を提供します。空間的な不確実性から数値的な不確実性、人間の好みからウィノグラードスキーマに至るまで、さまざまな曖昧さのモードを含むシミュレーションされたロボット設定および実際のロボット設定での実験では、KnowNoは効率性と自律性を向上させる点で、現代のベースライン（アンサンブルや広範なプロンプトチューニングを含む場合があります）に対して好意的に機能することが示されています。KnowNoは、モデルのファインチューニングなしでLLMと即使用でき、基盤モデルの成長する能力に補完しスケールできる、不確実性をモデル化するための有望な軽量アプローチを示唆しています。ウェブサイト：https://robot-help.github.io