
Hà Nội
[TDC01025] - LLM Inference Optimization Engineer
Thỏa thuận
Chi tiết việc làm

Hà Nội
Thỏa thuận
MÔ TẢ VỊ TRÍ
TRÁCH NHIỆM CHÍNH
2.1. Tối ưu GPU Kernel (Kernel Optimization)
2.2. Tối ưu Attention, MoE và giao tiếp GPU (Attention, MoE & Communication)
2.3. Lượng tử hóa và Speculative Decoding (Quantization & Decoding)
2.4. Performance Engineering & Production Integration
YÊU CẦU ỨNG VIÊN
3.1. Kinh nghiệm và năng lực chuyên môn
3.2. Yêu cầu kỹ thuật bắt buộc (Must-have)
3.3. Yêu cầu ưu tiên (Nice-to-have)
3.4. Kỹ năng bổ trợ
TIÊU CHÍ ĐÁNH GIÁ KẾT QUẢ CÔNG VIỆC
QUYỀN LỢI
CUDA, Triton, C++, Python, PyTorch, GPU Computing, Performance Optimization, Model Compression, Quantization, Speculative Decoding, vLLM, SGLang, TensorRT-LLM, Nsight Systems, Nsight Compute, FlashAttention, FlashInfer, FlashMLA, MoE, DeepEP, NVSHMEM, CUTLASS, CuTe, PTX, SASS, Tensor Core, CUDA Graph, Tensor Parallelism, Expert Parallelism, Roofline Analysis
Tìm kiếm ngay việc làm phù hợp với bạn