Small Asteroid Blog

Could not parse response content as the length limit was reached. OpenAI 기반 Langfuse 로그 처리 중 토큰 수 초과로 응답을 파싱하지 못했다는 오류입니다. Langfuse는 OpenAI 응답을 내부적으로 저장하고 추적하는데, 이 과정에서 응답이 너무 크면 해당 응답을 파싱하지 못해 WARNING 또는 ERROR를 띄웁니다. 해결 방법프롬프트 토큰 수 줄이기prompt_tokens=4795 → 너무 김요약하거나 불필요한 문장을 제거하기캐시된 토큰이 2432개(cached_tokens=2432)라면, 이 부분도 중복 사용 여부를 확인하기긴 컨텍스트 분할길게 이어지는 문장을 나누어 요청하거나, 여러 번 나눠서 모델에 보내기ex) 하나의 docu..

🔥 자주 쓰는 git 단축키 (oh-my-zsh 기준)단축키원래 명령어설명gstgit status깃 상태 확인gcogit checkout브랜치 전환 또는 파일 복구gcbgit checkout -b새 브랜치 생성 후 전환gaagit add .전체 파일 스테이징glgit pull원격 저장소에서 가져오기gglgit pull origin ${current_branch}remote 에서 현재 브랜치로 pull 명령 수행gpgit push원격 저장소로 푸시ggpgit push origin ${current_branch}현재 브랜치에서 remote 로 push gcmgit commit -m커밋 메시지와 함께 커밋gcagit commit -a변경된 파일을 add + 커밋gcamgit commit -a -m변경 파일 ..

LLM 프롬프트 최적화 방법LLM에게 명확하고 유용한 정보를 제공하면 더 정확하고 원하는 응답을 받을 수 있다.특히 system과 user 영역을 구분해 작성하는 것이 중요하다. ⚙️ System 메시지: 역할, 톤, 제약 조건 설정System 메시지는 모델이 어떻게 행동해야 하는지를 설정하는 부분이다.다음과 같은 내용을 지정할 수 있다.어떤 전문가처럼 말할지답변 형식은 어떤지반드시 지켜야 할 제약 사항예시You are a helpful and precise technical writing assistant. Always reply concisely, use markdown formatting, and include code examples if possible. Do not include unneces..

WebFlux를 실무에 적용할 때 고려할 점1. Reactive 생태계 정비 여부WebFlux는 Reactive 기반이기 때문에, 사용하는 DB, Redis, Kafka, 외부 API들도 가능하면 Reactive 클라이언트가 필요함.예: R2DBC (RDB), Reactive MongoDB, Lettuce (Redis), Reactive Kafka 등하나라도 blocking I/O가 들어오면 전체 흐름이 blocking될 수 있음.2. 개발팀의 학습 곡선기존 MVC 방식에 익숙한 팀일 경우, Flux, Mono, 흐름 제어, flatMap, switchIfEmpty 같은 체이닝이 익숙하지 않을 수 있음.디버깅도 상대적으로 어렵고, stack trace가 낯설게 보일 수 있음.3. 운영 및 모니터링 고려N..

LangfuseLangfuse는 대규모 언어 모델(LLM) 기반 애플리케이션의 디버깅, 분석 및 개선을 지원하는 오픈 소스 엔지니어링 플랫폼입니다.이 도구는 복잡한 로그와 실행 흐름을 시각적으로 탐색하고 디버깅할 수 있는 관측 기능과, 비용, 지연 시간, 응답 품질 등의 주요 지표를 측정하고 개선할 수 있는 분석 기능을 제공합니다. ​ 또한, Langfuse는 프롬프트 관리를 통해 코드와 분리된 상태에서 프롬프트를 중앙에서 관리하고 버전 컨트롤할 수 있도록 지원합니다.이를 통해 애플리케이션 재배포 없이 프롬프트를 업데이트할 수 있으며, 다양한 버전의 성능을 비교하고 롤백할 수 있습니다. ​ Langfuse는 Python, JavaScript/TypeScript 등의 SDK를 제공하며, OpenAI SDK..

onMounted, watch, watchEffect는 모두 Vue3에서 컴포지션 API를 사용할 때 자주 쓰이는 반응형(reactivity) 관련 훅입니다. ✔️ onMounted컴포넌트가 DOM에 마운트된 직후 한 번 실행되는 함수입니다.주로 초기 데이터 로딩, 이벤트 리스너 등록 등에 사용됩니다.import { onMounted } from 'vue'onMounted(() => { console.log('컴포넌트가 마운트됨!') fetchData()}) ✔️ watch하나 이상의 반응형 데이터의 변화를 감지해서 실행합니다.예전 Vue의 watch 옵션과 거의 동일한 역할입니다.값이 변경될 때만 실행됩니다.ref, reactive 모두 감지할 수 있고, deep, immediate 옵션도 사용할..