[AI Research Div.] ML Serving Engineer (5년 이상)

우리 팀(프로젝트)을 소개합니다. 

[AI Research 본부 비전]

크래프톤 AI Research 본부는 사내외 여러 분야와 협업하여 다양한 문제에 대한 AI 솔루션을 제공하며, 자체 딥러닝 연구를 통해 우리만의 서비스를 개발합니다. 그 방향성은 크게 네 가지입니다.

• Production Cost Down : 게임 제작 공정에 딥러닝 기술을 적용하여 제작 효율을 높이고, 제작자들의 업무 경험을 혁신합니다.
• New Way to Create : 생성형 AI를 포함한 다양한 딥러닝 기술로 게임 창작의 방식을 확장합니다.
• Virtual Friends : 딥러닝 기반 Virtual Friend를 개발하여 게임 안팎의 새로운 사용자 경험을 만듭니다.
• Unique, Endless Gameplay : 딥러닝을 통해 유저에게 매번 새로운 경험을 제공하는 게임 콘텐츠를 구현합니다.

[Culture Fit]

AI Research 본부는 다양한 배경을 가진 구성원들이 함께 일하며, 수평적이고 활발한 커뮤니케이션 속에서 문제를 해결합니다.
직급과 연차를 넘어 자유롭게 의견을 제시할 수 있으며, 여러 직군과의 협업을 통해 기술과 서비스의 접점을 함께 만들어갑니다.

[팀 소개]

KRAFTON MLSys & Ops 팀은 연구된 고성능 AI 모델이 실제 게임 제작 및 대고객 서비스 환경에서 최적의 성능으로 안정되게 동작할 수 있도록 고성능·고효율의 ML 서빙 플랫폼을 만들어가고 있습니다.

이번 포지션은 크래프톤이 확보한 최신 초고성능 GPU 인프라 위에서, 게임에 적용되는 LLM, 코딩 에이전트 및 리서치 팀의 다양한 최첨단 딥러닝 모델들을 안정적이고 비용 효율적으로 서빙할 수 있는 아키텍처를 설계하고 직접 구현하는 서빙 엔지니어 역할입니다. 최신 LLM 추론 가속화 및 최적화 기법을 직접 연구·설계하고 실제 프로덕션 서비스에 이식할 동료를 찾습니다.

 

우리 팀과 함께할 미션을 소개합니다.

• 프로덕션 수준의 대규모 모델 서빙 아키텍처 설계 및 운영
  • 실제 인게임(In-game) 환경에 실시간으로 적용되는 LLM 서빙 인프라 구축 및 운영 안정화
  • GLM(Coding Agent)과 같이 높은 성능과 즉각적인 반응성이 필요한 코딩 에이전트 서비스 서빙 및 가속화
  • 리서치 본부 내에서 지속적으로 쏟아지는 다양한 도메인의 최신 모델들에 대한 공통 서빙 체계 수립
• 인프라 관측성(Observability) 및 CI/CD 파이프라인 구축
  • 대규모 서빙 환경에서 안정적인 서비스 운영을 모니터링하고 이슈를 실시간 탐지하기 위한 통합 모니터링/로깅/알람 시스템 구축
  • 무중단 모델 업데이트, 자동 롤백 및 테스트 자동화를 위한 견고한 CI/CD 및 GitOps 체계 설계
• 추론(Inference) 가속화 및 서빙 최적화 기술 연구 및 적용
  • 대규모 트래픽 하에서도 고성능을 유지하고 서빙 비용을 획기적으로 낮출 수 있는 최적화 방법론 리서치 및 프로덕션 적용 (e.g., TurboQuant, CacheBlend, FP8/INT4 양자화 등)
  • KV Cache 효율화(GPU-CPU-Disk 간 Offloading/Loading 및 공유 캐싱 체계), 동적 배치(Continuous Batching), PagedAttention 등 최신 LLM 서빙 최적화 기법 고도화

 

이런 경험을 가진 분과 함께 성장하고 싶습니다! (필수요건)