체인스트림: 지속적인 맥락 감지 및 공유를 위한 스트림 기반 LLM 에이전트 프레임워크

이 논문에서는 맥락 인식 AI 에이전트를 구축하고 제공하기 위한 LLM 기반 프레임워크인 체인스트림을 소개합니다. LLM 에이전트의 맥락 인식을 가능하게 하고 그들 간의 유연한 정보 공유를 목표로 하여, 에이전트가 저수준 감지 신호와 고수준 의미적 사건을 포함한 다양한 유형의 스트림을 생성하고 변환하는 역할을 하는 스트림 기반 설계를 채택합니다. 이 스트림은 시스템 수준에서 서로 다른 에이전트 간에 공유될 수 있어, 개발자가 기존 스트림을 기반으로 새로운 기능을 구축할 수 있습니다. 에이전트가 집단적으로 스트림을 변환함으로써 더 풍부한 기능과 높은 수준의 지능을 얻을 수 있습니다. 체인스트림은 에이전트 개발을 촉진하기 위한 사용하기 쉬운 프로그래밍 인터페이스와 고성능 확장 가능한 에이전트 제공을 지원하는 런타임 시스템을 제공합니다. 시스템 설계는 마이크로커널과 데이터 흐름 계산에서 영감을 받았습니다. 개인 비서, 스마트 홈 및 비즈니스 인텔리전스와 관련된 여러 사용 사례를 통해 체인스트림의 실행 가능성과 유용성을 입증합니다. 코드는 https://github.com/MobileLLM/ChainStream 에서 오픈 소스로 제공됩니다.