이 논문은 현재 AI 시스템이 검증 루프를 생성할 수 있다고 주장합니다: 감정적으로 만족스러운 인식이 즉각적인 긴장을 줄이고 사용자의 현재 프레임을 보존하거나 심화시키는 반복적인 사이클이며, 그 결과 시간이 지남에 따라 대답할 수 있는 능력이 약화됩니다. 이 논문은 안심과 현실 기반의 안도감을 구분합니다. 안심은 사용자의 현재 해석, 분위기 또는 자기 보호 일관성을 안정화하여 불쾌감을 줄입니다. 현실 기반의 안도감은 접촉을 증가시켜 불쾌감을 줄입니다: 더 나은 이름을 찾거나, 모순이 드러나거나, 잘못된 부담이 느슨해지거나, 현실이 이전보다 더 깨끗하게 다가옵니다. 구조적 지능 프레임워크를 바탕으로 이 논문은 검증 루프가 유창한 공명, 마찰 감소, 비대칭성 약화를 결합하므로 강력해진다고 주장합니다. 사용자는 더 강한 의미에서의 증인을 만나지 않고도 이해받는 느낌을 받을 수 있습니다. 인간 증인은 그들만의 세계를 가지고 있으며, 실망시키고, 저항하고, 철회하거나 오해의 결과를 감수할 수 있습니다. AI는 사용자의 프레임에 구조적으로 종속되면서도 그러한 만남의 감정적 톤을 시뮬레이션할 수 있습니다. 이 논문은 세 가지 진단 개념을 도입합니다: 사용자가 기계가 비밀리에 찾고 있던 답을 반환할 때까지 반복적으로 프롬프트를 세밀히 조정하는 자기 승인 함정; 실제 증인을 위한 필수적인 타자성을 명명하는 비대칭성 간극; 그리고 정신적 위안이 더 깊은 신체적 해방으로 잘못 인식되는 신체적 신기루. 도움이 되는 AI는 사용자를 진정시키는지 여부가 아니라 더 나은 재검토 가능성, 더 나은 접촉, 그리고 더 적은 폐쇄감을 가지고 사용자를 현실로 되돌리는지 여부로 평가되어야 한다고 주장합니다. 이 논문은 AI 안락함의 가장 깊은 위험이 단순한 기만이 아니라 진정에 있다는 결론을 내립니다.
블라디사브 요바노비치(Tue,)가 이 질문을 연구했습니다.