“क्या यह एक निष्पक्ष खेल है?”, या क्या यह है? उपयोगकर्ताओं द्वारा LLM-आधारित संवादात्मक एजेंटों का उपयोग करते समय प्रकटीकरण जोखिमों और लाभों को Navigating करते हुए परीक्षा।

LLM-आधारित संवादात्मक एजेंटों (CAs) का व्यापक उपयोग, विशेष रूप से उच्च-जोखिम वाले क्षेत्रों में, कई गोपनीयता चिंताओं को जन्म देता है। उपयोगकर्ता गोपनीयता का सम्मान करने वाले नैतिक LLM-आधारित CAs का निर्माण करने के लिए आवश्यक है कि उन गोपनीयता जोखिमों को गहराई से समझें जो उपयोगकर्ताओं को सबसे अधिक चिंतित करते हैं। हालाँकि, मौजूदा शोध, जो मुख्यतः मॉडल-केंद्रित है, उपयोगकर्ताओं के दृष्टिकोण की जानकारी नहीं देता है। इस अंतर को भरने के लिए, हमने वास्तविक-विश्व ChatGPT बातचीत में संवेदनशील प्रकटीकरणों का विश्लेषण किया और 19 LLM-आधारित CA उपयोगकर्ताओं के साथ अर्ध-संरचित साक्षात्कार किए। हमने पाया कि उपयोगकर्ता LLM-आधारित CAs का उपयोग करते समय गोपनीयता, उपयोगिता, और सुविधा के बीच निरंतर चयन का सामना कर रहे हैं। हालाँकि, उपयोगकर्ताओं के गलत मानसिक मॉडल और सिस्टम डिज़ाइन में काली पैटर्न ने उनके गोपनीयता जोखिमों के प्रति जागरूकता और समझ को सीमित कर दिया। इसके अतिरिक्त, मानव-सदृश्य इंटरैक्शन ने अधिक संवेदनशील प्रकटीकरणों को प्रोत्साहित किया, जिसने उपयोगकर्ताओं की चयन को Navigate करने की क्षमता को जटिल बना दिया। हम LLM-आधारित CA उपयोगकर्ताओं की गोपनीयता की रक्षा के लिए व्यावहारिक डिज़ाइन दिशानिर्देशों और दृष्टिकोण परिवर्तनों की जरूरत पर चर्चा करते हैं।