Small Asteroid Blog

OpenAI Function Calls 란OpenAI 의 새로운 API 기능으로 모델이 특정 기능을 직접 호출할 수 있도록 지원하는 기능이다. 기존의 단순 텍스트 기반 응답 방식과는 달리 OpenAI 모델이 함수를 자동으로 호출하고 실행할 수 있도록 설계되어 있다.  기존 방식과 차이점 기존 API 방식OpenAI Function Calls모델이 텍스트 응답만 생성모델이 직접 함수 호출 가능API 응답을 받아 추가 처리 필요모델이 필요한 함수 실행 후 결과 반환단순한 Q&A 형태동적 기능 추가 가능 (API 호출, 데이터 변환 등) Function Calls 처리 프로세스프롬프트로 질문 입력 후 OpenAI API 호출 OpenAI 모델이 사용자의 요청 분석 Function Calls 를 사용해 적잘한 ..

모니터링의 필요성 현대의 소프트웨어 시스템은 복잡한 분산 아키텍처를 기반으로 운영이 되는데대규모 서비스의 경우, 애플리케이션 성능, 장애 감지, 리소스 사용량 최적화가 필수적이다. 모니터링이 없으면 장애 발생 시 문제의 원인을 찾기 어려우며, 성능 저하를 미리 감지하지 못할 수 있기 때문이다.이러한 문제를 사전에 감지하고 대응하기 위해 모니터링 시스템이 도입 되어야 한다.  Prometheus Prometheus(프로메테우스)는 시스템으로부터 각종 모니터링 지표(metrics)를 수집하여 저장하고 검색할 수 있는오픈소스 모니터링 및 알림 시스템이다.  특징 시계열 데이터(Time-Series Data) 기반의 모니터링 시스템 PromQL(Prometheus Query Language) 를 활용한 강력한 ..

Hugging Face허깅페이스는 AI 나 NLP(자연어 처리) 모델을 쉽게 활용할 수 있도록 하는 오픈소스 플랫폼이자 커뮤니티이다.트랜스포머나 데이터셋 같은 머신러닝 라이브러리를 제공하고 딥러닝 모델을 쉽고 빠르게 학습하고 배포할 수 있도록 도와주는 다양한 도구와 라이브러리를 제공하는 머신러닝계의 깃허브이다. API 형태로 모델을 배포해서 MLOPs 와 연계도 가능하다. https://huggingface.co/  Models 모델 및 라이브러리를 찾을 수 있다. 다양한 테스크에 적용 가능하고 PyTorch 와 Tensorflow 를 지원한다.  Datasets NLP 및 머신러닝을 위한 대규모 데이터셋을 제공하며 로드, 전처리, 스트리밍을 쉽게 할 수 있도록 도와준다.   활용 예시 from tran..