FULL_TIME
Cantina Labs adalah perusahaan AI sosial yang mengembangkan rangkaian model real-time mutakhir untuk memperluas ekspresi, kepribadian, dan realismus. Perusahaan ini menghadirkan karakter yang hidup, mengubah cara orang bercerita, terhubung, dan berkarya, serta membangun dan mengoperasikan ekosistem. Cantina, platform AI sosial utama perusahaan, hanyalah awal. Peran ini bertanggung jawab atas seluruh stack inferensi produksi untuk model text-to-speech (TTS) dan speech recognition (ASR), mulai dari balik tim riset Shameer yang день 模型 sehinggapara Ah, kesal, saya perlu berhenti sebelum membuat余. Mari kita tulis jawaban final yang benar. Struktur: tentang perusahaan, peran, tanggung jawab, kualifikasi, kompensasi, manfaat._No markdown_ means plain text with labels perhaps.
Preserve:
"research team delivers trained model checkpoints; productionize low-latency, real-time streaming services cost-efficiently on GPUs."
"latency time to first chunk p50/p99, throughput continuous batching, CUDA Graphs, torch.compile mixed precision."
numerical parity per stage end to end via automated accuracy regression tests.
K8s autoscaling, containerization IaC.
CI/CD model artifacts model versioning reproducible releases.
observability metrics.
Partner research.
Bring:
hands-on beyond APIs
working knowledge full stack CUDA kernels to serving frameworks depth some layers, not expertise all.
GPU perf profiling Nsight Systems, PyTorch Profiler, memory bandwidth, CPU-GPU sync.
serving continuous batching KV cache request scheduling.
production K8s CI/CD cloud.
Python PyTorch rigorous.
speech/audio TTS ASR voice conversion.
frameworks vLLM(vLLM-Omni), SGLang, TensorRT-LLM, TensorRT, Triton.
Comp: factors. Benefits only U.S.-based roles. Salary competitive generous equity, insurance 99,99 premiums covered, PTO breakdown, parental/fertility, 401k, lifestyle 500/month however, complimentary lunches snacks office, One Medical membership and more.
Need "day" no.
Need ensure "42 hari cuti berbayar,包括..." 15 PTO etc. 15 hari libur perusahaan dan 2 floating. Total sums 42 but don't state derived maybe okay but source states.
No location provided beyond U.S.-based roles. Don't invent job location. Good.
Potential issue TTS and ASR names retained, translations perhaps-to-speech? Keep TTS and ASR.
"low-latency real-time streaming" etc.
"out-characters?" "Kami menghidupkan karakter". Great.
Use punctuation and paragraphs. No bullets perhaps. Let's finalCantina Labs adalah perusahaan AI sosial yang mengembangkan rangkaian model real-time mutakhir untuk memperluas ekspresi, kepribadian, dan realismus. Perusahaan ini menghidupkan karakter, mengubah cara orang bercerita, terhubung, dan berkarya, serta membangun dan mengoperasikan ekosistem. Cantina, platform AI sosial utama perusahaan, hanyalah awal. Peran ini bertanggung jawab penuh atas stack inferensi produksi untuk model text-to-speech (TTS) dan speech recognition (ASR), mulai dari model yang telah dilatih hingga menjadi layanan streaming real-time berlatensi rendah yang berjalan efisien di GPU. Cakupannya mencakup mesin inferensi, infrastruktur Kubernetes, serta pengujian performa dan validasi akurasi untuk了一起 memastikan perubahan dapat dirilis dengan aman. Peran ini menjembatani riset dan produksi serta bertanggung jawab atas latensi, throughput, biaya, dan akurasi seiring skala perusahaan meningkat.
Tanggung jawab meliputi membangun dan mengoptimalkan mesin inferensi streaming untuk model TTS dan ASR, termasuk pipeline model bertahap. Optimalisasi mencakup latensi menuju chunk pertama, p50/p99, dan throughput menggunakan continuous batching, CUDA Graphs, torch.compile, serta mixed precision. Numerical parity dengan implementasi referensi harus dipertahankan melalui automated accuracy regression tests untuk setiap tahap dan secara end-to-end. Layanan inferensi GPU akan dideploy dan dioperasikan di Kubernetes melalui autoscaling, containerization, dan infrastructure as code. CI/CD dibangun untuk model artifacts dengan model versioning dan reproducible releases. Observability dan performance benchmarking mencakup p50/p99 latency, real-time factor (RTF), GPU utilization, serta biaya per permintaan. Src._job_openings?_
Kandidat yang 이상 memiliki pengalaman praktis dalam deploying, scaling, dan optimizing model ML di produksi, bukan hanya menggunakan model API. Pengetahuan kerja mencakup seluruh inference stack, dari CUDA kernels hingga serving frameworks, dengan kedalaman pada beberapa lapisan; kemahiran pada seluruh lapisan tidak diharapkan. Pengalaman mencakup GPU performance optimization seperti profiling dengan Nsight Systems dan PyTorch Profiler, memory bandwidth, serta CPU-GPU synchronization. Pemahaman yang kuat diperlukan mengenai model serving, termasuk continuous batching, KV cache management, dan request scheduling, serta pengalaman produksi dengan Kubernetes, CI/CD, dan cloud infrastructure. Kemahiran penting lain meliputi Python dan PyTorch yang kuat, pendekatan rigor terhadap performance benchmarking, pengalaman dengan model speech atau audio seperti TTS, ASR, dan voice conversion, serta pengalaman dengan inference frameworks seperti vLLM (vLLM-Omni), SGLang, TensorRT-LLM, TensorRT, atau Triton Inference Server.
Dalam menentukan kompensasi, berbagai faktor akan dipertimbangkan, termasuk keterampilan, pengalaman, lingkup pekerjaan, lokasi, dan data pasar kompensasi yang kompetitif. Benefit untuk peran yang berbasis di AS mencakup gaji kompetitif dan generous company equity; MEDICAL, dental, dan vision insurance dengan 99,99% premi ditanggung Cantina; 42 hari paid time off, terdiri dari 15 PTO days, 10 sick days, 15 company holidays, dan 2 floating holidays; generous parental leave dan fertility support; 401(k) retirement savings plan; Lifestyle spending account sebesar $500/bulan yang dapat digunakan sesuai keinginan; complimentary lunch dan snacks untuk karyawan yang bekerja di kantor; serta keanggotaan One Medical dan benefit lainnya.
Machine Learning Engineer, Ops
Cantina Labs • Europe
Gaji tidak dicantumkan
Deskripsi Pekerjaan
Ringkasan
- Perusahaan
- Cantina Labs
- Lokasi
- Europe
- Tipe kerja
- FULL_TIME
- Gaji
- Gaji tidak dicantumkan
- Tanggal tayang
- 10 Nov 2026
Sumber & keterlacakan data
Jobicy (public board)Buka sumber asli ↗https://jobicy.com/jobs/160996-machine-learning-engineer-ops
Siap melamar? Langsung di sumber asli.Buka Halaman Lamaran
Lowongan Terkait Lainnya
FULL_TIME4d
Senior Staff Software Engineer, Search & Recommendation
Cantina Labs • USA
Gaji tidak dicantumkanLihat Detail →
FULL_TIMEKemarinBackend Engineer, Core Technology
Stripe • USA
Gaji tidak dicantumkanLihat Detail →
FULL_TIMEKemarinSenior Software Engineer (AMS)
Teamworks • USA
Gaji tidak dicantumkanLihat Detail →
FULL_TIMEKemarinApplication Integration Developer
Nebius • Europe
Gaji tidak dicantumkanLihat Detail →