Key points are not available for this paper at this time.
تُستخدم أنظمة الذكاء الاصطناعي التوليدي بشكل متزايد في سياقات دعم القرار، مما يثير تساؤلات مهمة حول كيفية استجابتها لسيناريوهات حساسة للهوية. في حين أن الدراسات السابقة قامت بشكل أساسي بفحص التحيز كخاصية ثابتة لنماذج الذكاء الاصطناعي، تم توجيه اهتمام أقل نسبيًا لكيفية اختلاف أنماط الاستجابة عبر ظروف سياقية مختلفة. يقوم هذا البحث بإجراء تدقيق منظم لمخرجات ChatGPT من خلال مقارنة عدة نسخ من النموذج عبر سيناريوهات القرار التي تتعلق بالجنس والعرق والدين والإعاقة تحت ظروف سياقية غير واضحة وصريحة. باستخدام تصميم تجريبي قائم على التحفيز، نقوم بفحص توزيع الاستجابات، وتكرارات الاستجابات المحايدة، وأنماط التفكير النوعي عبر نسخ النموذج والسياقات. تشير النتائج إلى أن أنماط الاستجابة تختلف بشكل منتظم مع المعلومات السياقية. تنتج السيناريوهات غير الواضحة استجابات محايدة أكثر بشكل ملحوظ، بينما تؤدي السيناريوهات الصريحة في كثير من الأحيان إلى أحكام محددة. ومن المهم، أن الاستجابات المحايدة لا تُفسر على أنها عادلة أو غير متحيزة بطبيعتها. بدلاً من ذلك، نميز بين الحياد المناسب، حيث يبرر نقص الأدلة الامتناع عن الحكم، وإساءة استخدام الحياد، حيث تؤدي الحذر المفرط إلى تجنب النماذج اتخاذ قرارات تدعمها السياقات. بدلاً من اعتبار التحيز سمة ثابتة للنموذج، يُفهم هذا البحث مخرجات الذكاء الاصطناعي على أنها أنماط استجابة معتمدة على السياق. يوفر الإطار المقترح نهجاً منظماً لتقييم الحياد، والحكم، واختلاف الاستجابة في نماذج اللغة الكبيرة، ويقدم توجيهاً منهجياً لأبحاث تدقيق مخرجات الذكاء الاصطناعي المستقبلية.
درس هونغ وآخرون (الأربعاء) هذا السؤال.
Synapse has enriched 5 closely related papers on similar clinical questions. Consider them for comparative context: