Small Asteroid Blog

gradio 에서 textbox 를 사용해 텍스트를 스트리밍 형태로 출력하고 싶었다. 로컬 환경에서 배포하면 스트리밍으로 출력이 되는데동일한 코드를 쿠버 환경에 배포하면 스트리밍으로 출력이 되지 않고 한번에 출력 결과가 나왔다. Gradio 5.x 버전 부터는 stream=True 의 옵션이 없어져서 해당 옵션을 주어도 스트리밍으로 출력되지 않았다. streaming 동작 조건1. 함수가 yield를 통해 데이터를 작은 단위로 반환해야 함2. chunk된 결과가 클라이언트에게 바로 flush되어야 함3. 웹 서버 (FastAPI, Uvicorn) 와 프록시 (Nginx, Ingress, LoadBalancer 등)가 chunked encoding을 제대로 지원해야 함 로컬환경에서는 왜 스트리밍처럼..

CMD와 ENTRYPOINT의 차이를 이해하는 것은 Dockerfile을 잘 작성하기 위한 핵심 개념 중 하나입니다. Dockerfile의 CMD vs ENTRYPOINT컨테이너화된 애플리케이션을 Dockerfile로 만들다 보면 CMD와 ENTRYPOINT의 차이에 대해 한 번쯤 헷갈린 경험이 있을 겁니다.이 두 명령어는 컨테이너 실행 시 어떤 명령이 실행될지를 정의하는 데 사용되지만, 역할과 동작 방식에 중요한 차이점이 있습니다. 오늘은 이 두 명령어의 차이를 명확하게 이해하고, 언제 어떤 상황에서 사용하는 게 좋은지 정리해보겠습니다. CMD란?CMD는 컨테이너 실행 시 기본적으로 실행할 명령어나 인자(argument)를 설정하는 데 사용됩니다.단, docker run 명령어로 직접 명령어를 ..

📌 Hugging Face란?Hugging Face는 AI 모델 개발자들이 사용하는 대표적인 플랫폼이다.“AI의 GitHub” 같은 느낌이라고 생각하면 된다.기능설명모델 공유오픈소스 AI 모델을 업로드하고, 다른 사람의 모델을 다운받아 쓸 수 있음모델 실행웹에서 바로 모델을 실행(test)해보거나, 코드로 불러와서 사용할 수 있음 📌 Hugging Face에서 자주 나오는 용어용어뜻설명Model모델학습된 AI 프로그램 (예: Qwen, Llama, GPT 등)Dataset데이터셋모델을 훈련시킬 때 사용한 텍스트나 이미지 모음Space스페이스모델을 실행할 수 있는 작은 웹앱 (Streamlit, Gradio로 많이 만듦)Transformers트랜스포머Hugging Face가 만든 대표적인 NLP 라..

파이썬 파일 실행 시 가상환경을 만들었는데 파일 실행을 하면 모듈이 설치되지 않아 ModuleNotFoundError import 에러가 발생했다. 터미널창은 (.venv) 가상환경을 사용하고 있지만which python 을 하면 로컬에 설치된 파이썬 경로가 나왔다. python: aliased to /Library/Frameworks/Python.framework/Versions/3.11/bin/python3 모듈을 설치했음에도 모듈 설치가 안되었다고 에러가 나는 이유는alias가 가상환경의 python을 덮어쓰고 있어서,가상환경을 활성화해도 여전히 전역 Python을 바라보게 되는 상황인 것이다. ✅ 해결 방법🔧 1. alias 제거 (임시) 터미널에서 아래를 실행했을 때 unalias py..

gpt 를 사용하지 않는 개발자는 적어지고 있다. 그럼 gpt 를 어떻게 효율적으로 사용하는것이 좋은지, 프롬프트를 어떻게 잘 작성해서 결과를 얻을까에 대해서 고민하게 되는것 같다. 이러한 고민을 하는 중에 "Claude 4 프롬프트 엔지니어링 모범 사례" 해당 내용을 공유 받았다. 아래 3가지 주제와 상세 내용으로 구성되어 있으며 자세한 내용은 아래 사이트에서 참고해서 보면 좋을 것 같다! 1. 일반 원칙명확한 지시 사항 제공하기 성능 향상을 위한 맥락 추가하기 예시와 세부 사항에 주의하기2. 특정 상황에 대한 지침 응답 형식 제어하기 사고 및 교차 사고 능력 활용하기병렬 도구 호출 최적화하기 에이전트 코딩에서 파일 생성 줄이기 시각적 및 프론트엔드 코드 생성 향상하기 3. 마이그레이션 고려 사..

dotmap 은 파이썬에서 딕셔너리(dict) 처럼 데이터를 다루지만키를 점(dot) 연산자로 접근할 수 있게 해주는 경량 유틸리티 라이브러리이다. 딕셔너리보다 더 직관적으로 점(.) 으로 데이터에 접근하고 싶을 때 사용하는 python 라이브러리이다. 일반 딕셔너리data = {"a": {"b": 1}}print(data["a"]["b"]) # 결과: 1 DotMapfrom dotmap import DotMapdata = DotMap(a=DotMap(b=1))print(data.a.b) # 결과: 1 https://pypi.org/project/dotmap/