spanlens
LLM 개발자를 위한 오픈소스 관측 도구
2
1 팔로워
소개
Spanlens는 LLM을 쓰는 개발자가 baseURL 한 줄만 바꾸면
요청 로그, 비용, 지연 시간, 토큰 사용량을 자동으로 수집해 주는
오픈소스 관측 플랫폼입니다.
OpenAI, Anthropic, Gemini를 하나의 대시보드에서 비교하고,
모델별 비용과 P95 지연을 실시간으로 확인할 수 있습니다.
에이전트가 만드는 복잡한 호출 체인도 trace와 span으로 시각화해
어디서 토큰이 새는지, 어떤 단계가 느린지 한눈에 파악됩니다.
Helicone이 인수되고 Langfuse는 셋업이 무거워진 지금,
Spanlens는 5분 안에 붙이고 필요하면 Docker로 셀프호스팅까지
가능한 가벼운 대안을 지향합니다. 전체 코드는 MIT 라이선스로
GitHub에 공개되어 있습니다.
팀
포스트
아직 포스트가 없습니다.
댓글
로그인 후 댓글을 남길 수 있습니다.
아직 댓글이 없습니다.