AI Engineer (LLM) | Seoul, South Korea
- 의료 도메인과 법률 도메인에서 업무 효율화를 위한 GenAI 솔루션 연구/개발을 진행하였습니다.
- AI 모델 서빙 및 상용화를 위해 GCP, Docker, FastAPI, Triton을 활용한 시스템 구축을 진행하였습니다.
- 초기 설계부터 상용화까지 프로젝트를 주도적으로 진행하여, 개발팀 및 클라이언트와의 협업을 통해 현장에 제품을 도입한 경험이 있습니다.
- AI/ML: NLP, LLM, Fine-Tuning, Data Preprocessing
- Infrastructure: GCP, Docker, AWS, GitHub Actions, W&B
- Backend: FastAPI, Triton, PostgreSQL, ELK
- Languages: Python, SQL
- Frameworks: PyTorch, Hugging Face, LlamaIndex
- 도메인 특화 GenAI 서비스 개발
- GenAI 답변 생성 품질을 지속적으로 향상시키는 Feedback Loop 설계
- INT8 Quantization 기법을 활용한 모델 최적화 및 효율성 개선
