Key points are not available for this paper at this time.
초록 점점 더 많은 연구자들에 따르면, AI는 인류에 재앙적—심지어 존재론적—위험을 초래할 수 있습니다. 재앙적 위험은 1억 명의 인류 사망 또는 유사한 나쁜 결과의 위험으로 간주될 수 있습니다. 저는 이러한 위험이 논란의 여지가 있지만, 잠재적인 사회적 대응에 대한 철저한 논의가 필요할 만큼 충분히 가능성이 있다고 주장합니다. 그에 따라, 저는 AI로부터의 재앙적 위험 감소를 위한 접근법에 대한 네 가지 필요 조건을 제안합니다. 이러한 접근법의 질은 성공 가능성, 이익 정도, 해롭지 않음의 정도 및 이익 부작용에 의해 평가될 수 있습니다. 그러고 나서, 저는 이러한 필요 조건을 사용하여 정렬 연구, 시간대 연구, 정책 연구, AI 연구의 중단 또는 지연, 재앙적 AI 위험에 대한 컴퓨트 거버넌스에 대한 약속, 한계 및 위험을 평가합니다. 더 많은 연구가 필요하지만, 이 조사는 재앙적 AI 위험을 해결하기 위한 여러 접근법이 존재하며 각 접근법의 강점과 약점이 어디에 있는지를 보입니다. 많은 접근법이 상호 보완적이며, 이러한 접근법이 현재의 AI 위험에 대한 접근법과 미묘한 관계를 가지고 있음을 알게 되었습니다. 일부 접근법은 재앙적 위험과 현재의 피해를 다루는 데 유사하게 유용하지만, 항상 그런 것은 아닙니다.
레너드 덩 (Mon,)은 이 문제를 연구했습니다.