Small Asteroid Blog

gradio 에서 textbox 를 사용해 텍스트를 스트리밍 형태로 출력하고 싶었다. 로컬 환경에서 배포하면 스트리밍으로 출력이 되는데동일한 코드를 쿠버 환경에 배포하면 스트리밍으로 출력이 되지 않고 한번에 출력 결과가 나왔다. Gradio 5.x 버전 부터는 stream=True 의 옵션이 없어져서 해당 옵션을 주어도 스트리밍으로 출력되지 않았다. streaming 동작 조건1. 함수가 yield를 통해 데이터를 작은 단위로 반환해야 함2. chunk된 결과가 클라이언트에게 바로 flush되어야 함3. 웹 서버 (FastAPI, Uvicorn) 와 프록시 (Nginx, Ingress, LoadBalancer 등)가 chunked encoding을 제대로 지원해야 함 로컬환경에서는 왜 스트리밍처럼..

CMD와 ENTRYPOINT의 차이를 이해하는 것은 Dockerfile을 잘 작성하기 위한 핵심 개념 중 하나입니다. Dockerfile의 CMD vs ENTRYPOINT컨테이너화된 애플리케이션을 Dockerfile로 만들다 보면 CMD와 ENTRYPOINT의 차이에 대해 한 번쯤 헷갈린 경험이 있을 겁니다.이 두 명령어는 컨테이너 실행 시 어떤 명령이 실행될지를 정의하는 데 사용되지만, 역할과 동작 방식에 중요한 차이점이 있습니다. 오늘은 이 두 명령어의 차이를 명확하게 이해하고, 언제 어떤 상황에서 사용하는 게 좋은지 정리해보겠습니다. CMD란?CMD는 컨테이너 실행 시 기본적으로 실행할 명령어나 인자(argument)를 설정하는 데 사용됩니다.단, docker run 명령어로 직접 명령어를 ..

📌 Hugging Face란?Hugging Face는 AI 모델 개발자들이 사용하는 대표적인 플랫폼이다.“AI의 GitHub” 같은 느낌이라고 생각하면 된다.기능설명모델 공유오픈소스 AI 모델을 업로드하고, 다른 사람의 모델을 다운받아 쓸 수 있음모델 실행웹에서 바로 모델을 실행(test)해보거나, 코드로 불러와서 사용할 수 있음 📌 Hugging Face에서 자주 나오는 용어용어뜻설명Model모델학습된 AI 프로그램 (예: Qwen, Llama, GPT 등)Dataset데이터셋모델을 훈련시킬 때 사용한 텍스트나 이미지 모음Space스페이스모델을 실행할 수 있는 작은 웹앱 (Streamlit, Gradio로 많이 만듦)Transformers트랜스포머Hugging Face가 만든 대표적인 NLP 라..

파이썬 파일 실행 시 가상환경을 만들었는데 파일 실행을 하면 모듈이 설치되지 않아 ModuleNotFoundError import 에러가 발생했다. 터미널창은 (.venv) 가상환경을 사용하고 있지만which python 을 하면 로컬에 설치된 파이썬 경로가 나왔다. python: aliased to /Library/Frameworks/Python.framework/Versions/3.11/bin/python3 모듈을 설치했음에도 모듈 설치가 안되었다고 에러가 나는 이유는alias가 가상환경의 python을 덮어쓰고 있어서,가상환경을 활성화해도 여전히 전역 Python을 바라보게 되는 상황인 것이다. ✅ 해결 방법🔧 1. alias 제거 (임시) 터미널에서 아래를 실행했을 때 unalias py..