Tips Loker

← Kembali ke Daftar Lowongan

FULL_TIME

Machine Learning Engineer, Ops

Cantina Labs • Europe

Gaji tidak dicantumkan


Deskripsi Pekerjaan

Cantina Labs adalah perusahaan AI sosial yang mengembangkan rangkaian model real-time mutakhir untuk memperluas ekspresi, kepribadian, dan realismus. Perusahaan ini menghadirkan karakter yang hidup, mengubah cara orang bercerita, terhubung, dan berkarya, serta membangun dan mengoperasikan ekosistem. Cantina, platform AI sosial utama perusahaan, hanyalah awal. Peran ini bertanggung jawab atas seluruh stack inferensi produksi untuk model text-to-speech (TTS) dan speech recognition (ASR), mulai dari balik tim riset Shameer yang день 模型 sehinggapara Ah, kesal, saya perlu berhenti sebelum membuat余. Mari kita tulis jawaban final yang benar. Struktur: tentang perusahaan, peran, tanggung jawab, kualifikasi, kompensasi, manfaat._No markdown_ means plain text with labels perhaps. Preserve: "research team delivers trained model checkpoints; productionize low-latency, real-time streaming services cost-efficiently on GPUs." "latency time to first chunk p50/p99, throughput continuous batching, CUDA Graphs, torch.compile mixed precision." numerical parity per stage end to end via automated accuracy regression tests. K8s autoscaling, containerization IaC. CI/CD model artifacts model versioning reproducible releases. observability metrics. Partner research. Bring: hands-on beyond APIs working knowledge full stack CUDA kernels to serving frameworks depth some layers, not expertise all. GPU perf profiling Nsight Systems, PyTorch Profiler, memory bandwidth, CPU-GPU sync. serving continuous batching KV cache request scheduling. production K8s CI/CD cloud. Python PyTorch rigorous. speech/audio TTS ASR voice conversion. frameworks vLLM(vLLM-Omni), SGLang, TensorRT-LLM, TensorRT, Triton. Comp: factors. Benefits only U.S.-based roles. Salary competitive generous equity, insurance 99,99 premiums covered, PTO breakdown, parental/fertility, 401k, lifestyle 500/month however, complimentary lunches snacks office, One Medical membership and more. Need "day" no. Need ensure "42 hari cuti berbayar,包括..." 15 PTO etc. 15 hari libur perusahaan dan 2 floating. Total sums 42 but don't state derived maybe okay but source states. No location provided beyond U.S.-based roles. Don't invent job location. Good. Potential issue TTS and ASR names retained, translations perhaps-to-speech? Keep TTS and ASR. "low-latency real-time streaming" etc. "out-characters?" "Kami menghidupkan karakter". Great. Use punctuation and paragraphs. No bullets perhaps. Let's finalCantina Labs adalah perusahaan AI sosial yang mengembangkan rangkaian model real-time mutakhir untuk memperluas ekspresi, kepribadian, dan realismus. Perusahaan ini menghidupkan karakter, mengubah cara orang bercerita, terhubung, dan berkarya, serta membangun dan mengoperasikan ekosistem. Cantina, platform AI sosial utama perusahaan, hanyalah awal. Peran ini bertanggung jawab penuh atas stack inferensi produksi untuk model text-to-speech (TTS) dan speech recognition (ASR), mulai dari model yang telah dilatih hingga menjadi layanan streaming real-time berlatensi rendah yang berjalan efisien di GPU. Cakupannya mencakup mesin inferensi, infrastruktur Kubernetes, serta pengujian performa dan validasi akurasi untuk了一起 memastikan perubahan dapat dirilis dengan aman. Peran ini menjembatani riset dan produksi serta bertanggung jawab atas latensi, throughput, biaya, dan akurasi seiring skala perusahaan meningkat. Tanggung jawab meliputi membangun dan mengoptimalkan mesin inferensi streaming untuk model TTS dan ASR, termasuk pipeline model bertahap. Optimalisasi mencakup latensi menuju chunk pertama, p50/p99, dan throughput menggunakan continuous batching, CUDA Graphs, torch.compile, serta mixed precision. Numerical parity dengan implementasi referensi harus dipertahankan melalui automated accuracy regression tests untuk setiap tahap dan secara end-to-end. Layanan inferensi GPU akan dideploy dan dioperasikan di Kubernetes melalui autoscaling, containerization, dan infrastructure as code. CI/CD dibangun untuk model artifacts dengan model versioning dan reproducible releases. Observability dan performance benchmarking mencakup p50/p99 latency, real-time factor (RTF), GPU utilization, serta biaya per permintaan. Src._job_openings?_ Kandidat yang 이상 memiliki pengalaman praktis dalam deploying, scaling, dan optimizing model ML di produksi, bukan hanya menggunakan model API. Pengetahuan kerja mencakup seluruh inference stack, dari CUDA kernels hingga serving frameworks, dengan kedalaman pada beberapa lapisan; kemahiran pada seluruh lapisan tidak diharapkan. Pengalaman mencakup GPU performance optimization seperti profiling dengan Nsight Systems dan PyTorch Profiler, memory bandwidth, serta CPU-GPU synchronization. Pemahaman yang kuat diperlukan mengenai model serving, termasuk continuous batching, KV cache management, dan request scheduling, serta pengalaman produksi dengan Kubernetes, CI/CD, dan cloud infrastructure. Kemahiran penting lain meliputi Python dan PyTorch yang kuat, pendekatan rigor terhadap performance benchmarking, pengalaman dengan model speech atau audio seperti TTS, ASR, dan voice conversion, serta pengalaman dengan inference frameworks seperti vLLM (vLLM-Omni), SGLang, TensorRT-LLM, TensorRT, atau Triton Inference Server. Dalam menentukan kompensasi, berbagai faktor akan dipertimbangkan, termasuk keterampilan, pengalaman, lingkup pekerjaan, lokasi, dan data pasar kompensasi yang kompetitif. Benefit untuk peran yang berbasis di AS mencakup gaji kompetitif dan generous company equity; MEDICAL, dental, dan vision insurance dengan 99,99% premi ditanggung Cantina; 42 hari paid time off, terdiri dari 15 PTO days, 10 sick days, 15 company holidays, dan 2 floating holidays; generous parental leave dan fertility support; 401(k) retirement savings plan; Lifestyle spending account sebesar $500/bulan yang dapat digunakan sesuai keinginan; complimentary lunch dan snacks untuk karyawan yang bekerja di kantor; serta keanggotaan One Medical dan benefit lainnya.

Ringkasan

Perusahaan
Cantina Labs
Lokasi
Europe
Tipe kerja
FULL_TIME
Gaji
Gaji tidak dicantumkan
Tanggal tayang
10 Nov 2026
Sumber & keterlacakan data
Jobicy (public board)Buka sumber asli ↗https://jobicy.com/jobs/160996-machine-learning-engineer-ops
Siap melamar? Langsung di sumber asli.Buka Halaman Lamaran
Lamar di Sumber Asli →

Lowongan Terkait Lainnya

FULL_TIME4d

Senior Staff Software Engineer, Search & Recommendation

Cantina Labs • USA

Gaji tidak dicantumkanLihat Detail →
FULL_TIMEKemarin

Backend Engineer, Core Technology

Stripe • USA

Gaji tidak dicantumkanLihat Detail →
FULL_TIMEKemarin

Senior Software Engineer (AMS)

Teamworks • USA

Gaji tidak dicantumkanLihat Detail →
FULL_TIMEKemarin

Application Integration Developer

Nebius • Europe

Gaji tidak dicantumkanLihat Detail →