LLM Engineer (Optimization)

LLM Inference Optimization - 대규모 언어 모델(LLM)의 추론 성능(Latency, Throughput, Memory Efficiency)을 최적화합니다. - 다양한 모델 구조 및 추론 환경에 맞는 최적화 기법을 연구하고 적용합니다. - Long Context, Multi-turn Conversation 등 실제 서비스 환경에서의 성능을 개선합니다. - Inference Engine 및 Runtime 개발 - GPU 및 Accelerator 기반 LLM Inference Engine을 개발하고 최적화합니다. - vLLM, TensorRT-LLM, SGLang, llama.cpp, ONNX Runtime, MLX 등 최신 Inference Framework를 활용하거나 개선합니다. - Speculative…

42dot has 109 open roles right now. Most are in Engineering, Security and Product. The median advertised salary across its roles with a published range is $205K. See all its roles