LLM 기능의 안정성 패턴을 TypeScript로 다룹니다. (Writing about reliability patterns for LLM features in TypeScript.)
llm-quota-guard
LLM 호출의 토큰·비용 한도를 예약→확정/반환 방식으로 관리하는 의존성 없는 TypeScript 오픈소스(MIT). 동시 요청과 실패 호출에서 한도 집계가 어긋나는 문제를 다룹니다.
아직 포스트가 없습니다.