TD Consulting

Chi tiết việc làm

Mới

Hà Nội

[TDC00986] - TRƯỞNG NGHIÊN CỨU / TECH LEAD MÔ HÌNH LLM

Từ 8 năm kinh nghiệm
Đăng 6 ngày trước

Thỏa thuận

Job Description

  • Chịu trách nhiệm kỹ thuật cho mô hình nền ATTT của Công ty: chọn mô hình nền open-weight, chốt recipe cpt, midtraining, sft, rl
  • Thiết kế và duyệt kế hoạch ablation, ngân sách gpu cho từng lượt chạy; chủ trì review kỹ thuật hằng tuần
  • Cùng trưởng chuyên môn ATTT và ban chỉ đạo quyết định ở release gate (go/no-go, rollback)
  • Dẫn dắt, kèm cặp các tech lead cpt, post-train, mô hình nhỏ; vẫn trực tiếp chạy thí nghiệm
  • Theo dõi công bố mới (scaling law, moe, rl) và đưa vào lộ trình kỹ thuật

Requirements

  • 6+ năm ML/DL, trong đó ≥ 3 năm làm LLM; đã đưa ít nhất một mô hình từ recipe đến release
  • Nắm vững Transformer, MoE, scaling law; đọc và chẩn đoán loss curve, loss spike
  • Thành thạo PyTorch và một framework huấn luyện phân tán (Megatron-Core, NeMo, DeepSpeed, FSDP)
  • Đã là technical lead chính thức của nhóm ≥ 5 kỹ sư
  • Đọc, viết tiếng Anh kỹ thuật tốt
  • Ưu tiên: Có công bố tại hội nghị lớn (NeurIPS, ICML, ACL...) hoặc mô hình công khai trên Hugging Face

Ưu tiên:

  • Kinh nghiệm continued pretraining cho domain hoặc tiếng Việt
  • Hiểu biết cơ bản về ATTT

Benefits

  • Làm việc với cụm 20 node NVIDIA B300 và dữ liệu ATTT độc quyền của Công ty
  • Quota GPU riêng để tự chạy thí nghiệm
  • Khung đãi ngộ đặc thù cho vị trí khó tuyển; thưởng theo release
  • Đào tạo nội bộ, hỗ trợ kỹ thuật từ NVIDIA; tham dự hội nghị quốc tế
  • Bảo hiểm sức khỏe và tai nạn cá nhân cao cấp
  • Khám sức khỏe định kì hàng năm
  • Chế độ hỗ trợ đặc biệt dành cho nhân viên nữ trong thời gian nghỉ thai sản.
  • Giải thưởng ghi nhận năng lực, các đóng góp nổi bật kịp thời
  • Được tài trợ 100% đối với các chứng chỉ xếp hạng chuyên môn quốc tế chuyên sâu theo từng vị trí (trong trường hợp vận may chưa tới, đừng lo, Công ty sẽ hỗ trợ 50% chi phí thi tuyển), khen thưởng đột xuất với CBNV đạt chứng chỉ chuyên môn quốc tế
  • Liên tục đầu tư học liệu mới nhất, cập nhật nhất trên thị trường về lĩnh vực ATTT từ các nhà cung cấp, các học viện/uy tín hàng đầu thế giới
  • 100% cán bộ nhân viên được cấp tài khoản Elearning từ Udemy – học thỏa sức mọi lúc mọi nơi
  • Miễn phí tham gia các chương trình chia sẻ kiến thức chuyên ngành, các hội thảo chuyên môn từ các diễn giả đầu ngành trong nước và quốc tế
  • Có cơ hội làm việc với khách hàng đa dạng trong nước và quốc tế
  • Làm việc tại văn phòng Hạng A – với tổ hợp không gian xanh và khu vực riêng dành cho gym, giải trí (chơi Bi-a, Pes, Café, Đọc sách)
  • Thư giãn 30 phút mỗi ngày với hoạt động Happy hours (16h-16h30)
  • Các hoạt động thể thao: Bơi, Pickleball, Bi-a, Pocker, Pes, v.v
  • Mười hai (12) ngày phép hàng năm theo Luật Lao Động, ba (3) ngày nghỉ mát và một (1) ngày lễ truyền thống 22/12 của Công ty.

Kỹ năng

Machine Learning, Deep Learning, Large Language Models, Transformer, Mixture of Experts, Scaling Laws, PyTorch, Megatron-Core, NeMo, DeepSpeed, FSDP, Continued Pretraining, Supervised Fine-Tuning, Reinforcement Learning, Ablation Studies, GPU Budgeting, Loss Curve Analysis, Loss Spike Diagnosis, Technical Leadership, Cybersecurity

Địa điểm & thời gian

Địa điểm làm việc

  • Hà Nội

Thời gian làm việc

  • Thời gian làm việc từ Thứ 2 đến Thứ 6 | Buổi sáng: bắt đầu trong khoảng 8h30-9h & tự quản lý thời gian làm việc 8 tiếng/ngày

Tìm kiếm ngay việc làm phù hợp với bạn

Ứng tuyển vị trí TRƯỞNG NGHIÊN CỨU / TECH LEAD MÔ HÌNH LLM

Điền đầy đủ thông tin và gắn kèm CV của bạn!

Hồ sơ của bạn được bảo mật