함수 호출

갈림길에 선 치비 서소영. 왼쪽에서는 똑같이 생긴 도구 두루마리 백 개를 부채처럼 펼쳐 놓고 어느 것을 골라야 할지 몰라 곤란해하고, 오른쪽에서는 작은 기계가 건네준 두루마리 한 장에 붓으로 서명만 하고 있다.

jev-eval-agent: Who picks the tool, the LLM or Jev?

도구 100개를 가진 개인 비서 에이전트에서 다음 도구를 LLM이 직접 고를 때와 분류기 Jev가 대신 고를 때를 같은 과제 위에서 비교한 저장소. 모델 7종을 돌린 결과 입력 토큰은 85% 줄었지만 모델 호출은 32% 늘었고, 이름이 닮은 도구에 LLM이 걸린다는 출발 가설은 확인되지 않았다.

Needle — 26M 함수 호출 전용 모델, FFN을 통째로 들어낸 어텐션 네트워크

Cactus Compute가 Gemini 3.1을 26M 파라미터로 증류한 함수 호출 전용 모델. FFN을 통째로 들어낸 인코더-디코더 ‘Simple Attention Network’와 INT4 QAT, 게이트드 잔차, 토큰 가중 손실 등 작은 모델을 위한 설계 결정을 정리한다.