Tips Loker

← Kembali ke Daftar Lowongan

LOWONGAN

ML Inference Engineer – Terminal-Bench Task Designer (vLLM / SGLang / TensorRT-LLM)

Toptal • Anywhere in the World

Gaji tidak dicantumkan


Deskripsi Pekerjaan

ML Inference Engineer – Desainer Tugas Terminal-Bench (vLLM / SGLang / TensorRT-LLM) Ikhtisar Kami sedang membangun benchmark yang menguji seberapa baik agen AI menangani pekerjaan ahli nyata di terminal. Kami sedang mencari ahli ML inference dan serving untuk mengubah tugas nyata berbayar dari pekerjaan mereka menjadi tantangan Terminal-Bench tingkat ahli. Setiap tugas mencakup lingkungan kerja, solusi yang berfungsi, serta pemeriksaan otomatis yang membuktikan hasilnya benar. INI MENGGUNAKAN MODEL KOMPENSASI BERBASIS TUGAS. SILAKAN PERIKSA PERTANYAAN LAMARAN UNTUK DETAIL LEBIH LANJUT. Tanggung jawab Merancang tantangan Terminal-Bench tingkat ahli yang mengubah pekerjaan nyata berbayar di bidang ML inference dari pengalaman sendiri menjadi tantangan yang harus diselesaikan agen AI secara end-to-end. Menentukan berkas, sistem, dan lingkungan kerja yang digunakan setiap tugas, seperti model serving dengan streaming, agar tantangannya realistis, dapat direproduksi, dan dapat diselesaikan melalui command line. Menulis solusi referensi yang berfungsi untuk setiap tugas dan memastikan solusi tersebut berjalan secara end-to-end, dengan ukuran pekerjaan sekitar 60 hingga 75 menit waktu seorang ahli. Membangun pemeriksaan otomatis yang secara objektif membuktikan kebenaran hasil, termasuk kasus ketika keluaran ML salah tanpa memunculkan error, seperti numerical drift atau metric bugs. Membungkus tugas dengan Docker dan Git agar dapat direproduksi, serta mendokumentasikan sistem, alat, data, dan aturan yang digunakan sehingga reviewer dapat memvalidasi tingkat kesulitannya. Meng迭代 ulang tugas berdasarkan umpan balik reviewer dan hasil pengujian agen, menyesuaikan tingkat kesulitan serta memperbaiki ambiguitas agar setiap tugas tetap berada pada tingkat ahli, adil, dan dapat dinilai secara objektif. Keahlian dan pengalaman Pengalaman langsung selama 3+ tahun dalam pekerjaan ML inference atau serving, bukan hanya mempelajari, menjual, atau mengelolanya, atau memiliki PhD ditambah riset aktif di bidang terkait. Pengalaman melakukan pekerjaan ini dalam 3 tahun terakhir dan kemampuan menyebutkan sistem, alat, data, serta aturan yang digunakan. Pengalaman melatih, menyajikan, atau mengevaluasi model pada skala nyata, seperti multi-GPU atau production serving, bukan hanya menggunakan notebook atau pemanggilan API. Pengalaman langsung dengan internal PyTorch atau JAX serta serving stack seperti vLLM, SGLang, atau TensorRT-LLM. Kemampuan menjelaskan bagaimana hasil ML dapat salah tanpa memunculkan error, seperti numerical drift atau metric bugs, dan cara mendeteksinya. Kemampuan teknis menggunakan Python dan command line, serta menangani berkas, CSV/JSON, API, atau database. Ketersediaan untuk mulai pada awal November 2026 dan menyelesaikan tugas masing-masing yang membutuhkan sekitar 60 hingga 75 menit. Nilai tambah Pengalaman di AI lab atau infrastruktur LLM. Kontribusi pada PyTorch, vLLM, atau SGLang. Pengalaman dalam GPU profiling. Penguasaan Docker dan Git. Pengalaman menulis automated test. Proses Prosesnya berupa vetting tugas, bukan wawancara: selesaikan tugas vetting agar klien dapat menilai desain tugas Anda. Pembayaran diberikan per tugas; setiap tugas membutuhkan sekitar 60 hingga 75 menit. Pekerjaan diserahkan tugas demi tugas, dengan umpan balik reviewer untuk setiap submission. Perkiraan mulai pada awal November 2026. Saat melamar, sebutkan kata ASTONISHED dan tag RMTk4LjQ0LjExNi4zMA== untuk menunjukkan bahwa Anda telah membaca lowongan ini sepenuhnya. Fitur beta ini membantu menghindari pelamar spam. Perusahaan dapat mencari kata-kata tersebut untuk menemukan pelamar yang telah membaca pengumuman dan melihat bahwa mereka merupakan manusia.

Ringkasan

Perusahaan
Toptal
Lokasi
Anywhere in the World
Tipe kerja
—
Gaji
Gaji tidak dicantumkan
Tanggal tayang
5 Nov 2026
Terlihat sejak
6 Nov 2026
Sumber & keterlacakan data
Remote OK (public board)Buka sumber asli ↗https://remoteOK.com/remote-jobs/remote-ml-inference-engineer-terminal-bench-task-designer-vllm-sglang-tensorrt-llm-toptal-1137689
Siap melamar? Langsung di sumber asli.Buka Halaman Lamaran
Lamar di Sumber Asli →

Lowongan Terkait Lainnya

FULL_TIME1mg

Enterprise Sales Executive, AI Solutions

Toptal • LATAM

Gaji tidak dicantumkanLihat Detail →
FULL_TIME1mg

General Manager, Communication, Media, Entertainment and Technology - US-Based

Toptal • USA

Gaji tidak dicantumkanLihat Detail →
FULL_TIME1mg

Senior Fullstack Engineer

Toptal • LATAM

Gaji tidak dicantumkanLihat Detail →
FULL_TIME2mg

Manager, Sales Development - US-Based

Toptal • USA

Gaji tidak dicantumkanLihat Detail →