시스템 메시지가 대형 언어 모델에서 탈옥에 정말로 중요한가요?

대형 언어 모델(LLMs)의 급속한 발전은 현대 사회에서 이들이 필수불가결한 존재가 되게 했습니다. 일반적으로 보안 조치가 마련되어 LLM을 출시 전에 인간의 가치에 맞추는 반면, 최근 연구에서는 '탈옥'이라는 우려스러운 현상이 드러났습니다. 이 용어는 악의적인 질문에 응답할 때 LLM이 생성하는 예상치 못한 그리고 잠재적으로 해로운 응답을 의미합니다. 기존 연구는 탈옥 프롬프트의 생성을 중심으로 진행되었지만, 우리의 연구는 다른 질문에 답하고자 합니다: 시스템 메시지가 LLM의 탈옥에 정말로 중요한가요? 이 질문에 답하기 위해, 우리는 안정적인 GPT 버전인 gpt-3.5-turbo-0613에서 짧은 것, 긴 것, 없는 것 등 다양한 시스템 메시지로 탈옥 프롬프트를 생성하기 위한 실험을 실시했습니다. 우리는 다양한 시스템 메시지가 탈옥에 대해 뚜렷한 저항성을 갖고 있음을 발견했습니다. 또한, 우리는 LLM 간의 탈옥 전이 가능성을 탐구합니다. 이 발견은 시스템 메시지가 LLM의 탈옥을 완화하는 데 미치는 중요한 영향을 강조합니다. 탈옥 프롬프트에 대해 더욱 저항력 있는 시스템 메시지를 생성하기 위해, 우리는 시스템 메시지 진화 알고리즘(SMEA)을 제안합니다. SMEA를 통해 우리는 탈옥 프롬프트에 대해 최대 98.9%의 저항성을 보이는 강력한 시스템 메시지 집단을 얻을 수 있습니다. 우리의 연구는 LLM의 보안을 강화할 뿐만 아니라 탈옥의 기준을 높여 이 분야의 발전을 촉진합니다.