엑스에서 하나의 글을 보고 직접 해 봤습니다.
출처: https://x.com/yulmu_coffee/status/2097592495630938304?s=20
정리하면,
아스트라는 토큰을 많이 먹으니 설계 중심으로 역할을 주고, 다른 저렴한 모델을 구현으로 사용하는 아이디어입니다.
오픈코드에는 고(Go)라고 하는 구독 서비스가 있습니다. 일종의 오픈라우터 저렴이 버전 같은거네요.
오픈코드고를 구독하고, 여기서 제공하는 저렴이 모델을 설정합니다.
오픈코드 실행한 후 /connect 명령어로 제공자를 오픈코드고로 지정한 후 api 키를 넣고 , 모델을 지정하면 된다.
api 키는 오픈코드 대시보드 메뉴에 있습니다.
여기서 모델을 뮤즈 스파크 1.3을 지정했습니다. 그러면 사용을 모델 훈련으로 쓰고 대신 토큰을 넉넉하게 주나봅니다.
오픈코드고에서는 이런 식으로 저렴한 구독으로 가성비 모델들을 사용할 수 있는 것 같네요.
최근에 새롭게 시작하는 프로젝트에서 아예 멀티 에이전트 협업으로 지정했습니다.
아스트라는 설계, 오픈코드로 구현, 아스트라로 검토, 오픈코드로 수정.
아스트라의 토큰을 아끼면서 효율적으로 구성되는 것을 체감 후 당분간은 이 방식으로 가려고 합니다.
물론 구현하는 양이 많지 않으면 구현은 루나 모델로 내려서 하라고 해도 될 것 같은데, 저는 10달러를 투자해서 협업 체계를 경험해 보고 싶어서 이렇게 했습니다.