순환 이진 임베딩

고차원 데이터의 이진 임베딩은 입력 공간의 구별 능력을 유지하기 위해 긴 코드가 필요합니다. 전통적인 이진 코딩 방법은 이러한 시나리오에서 매우 높은 계산 및 저장 비용을 겪습니다. 이 문제를 해결하기 위해, 우리는 순환 행렬로 데이터를 투사하여 이진 코드를 생성하는 순환 이진 임베딩(CBE)을 제안합니다. 순환 구조는 계산 속도를 높이기 위해 빠른 푸리에 변환을 사용할 수 있게 합니다. 비구조적 행렬을 사용하는 방법과 비교했을 때, 제안된 방법은 시간 복잡도를 O(d²)에서 O(dd)로, 공간 복잡도를 O(d²)에서 O(d)로 개선합니다. 여기서 d는 입력 차원입니다. 또한, 우리는 데이터 의존적 순환 투영을 학습하기 위해 새로운 시간-주파수 교차 최적화를 제안하며, 이는 원래 및 푸리에 도메인에서 목표를 교대로 최소화합니다. 광범위한 실험을 통해 제안된 접근 방식이 고정 시간에 대해 최신 접근 방식보다 훨씬 더 나은 성능을 제공하며, 고정 비트 수에 대해 성능 저하 없이 훨씬 더 빠른 계산을 제공한다는 것을 보여줍니다.