Senior Site Reliability Engineer — Token Factory (Platform Inferensi) di Nebius Tentang Nebius Nebius memimpin era baru infrastruktur cloud untuk ekonomi AI global. Perusahaan ini membangun platform cloud AI full-stack yang mendukung pengembang dan perusahaan, mulai dari pelatihan data dan model hingga deployment produksi, tanpa biaya dan kompleksitas membangun infrastruktur AI/ML besar secara internal. Nebius dibangun oleh para insinyur untuk para insinyur. Dari orkestrasi GPU skala besar hingga optimasi inferensi, perusahaan menangani tantangan utama dalam komputasi, penyimpanan, jaringan, dan AI terapan. Nebius tercatat di Nasdaq (NBIS) dan berkantor pusat di Amsterdam, dengan-jejak global serta pusat R&D di Eropa, Inggris, Amerika Utara, dan Israel. Tim Nebius beranggotakan 1.500+ orang, termasuk ratusan insinyur dengan keahlian mendalam di bidang perangkat keras, perangkat lunak, dan R&D AI. Token Factory dan Peran Token Factory merupakan bagian dari Nebius Cloud, salah satu cloud GPU terbesar di dunia yang menjalankan puluhan ribu GPU. Perusahaan sedang membangun platform inferensi yang membuat setiap jenis foundation model—teks, visi, audio, dan arsitektur multimodal-emerging—dapat di-deploy dengan cepat, andal, dan mudah dalam skala sangat besar. Peran ini menuntut seorang insinyur yang dapat memastikan platform berjalan flawless di bawah beban ekstrem dan pulih dengan baik ketika terjadi hal tak terduga. Kandidat akan bertanggung jawab atas keandalan, kinerja, dan observability seluruh stack inferensi. Pekerjaan harian mencakup merancang dan menyempurnakan pipeline telemetri—metrik, log, dan trace—yang mengubah ratusan terabyte sinyal menjadi insight yang jelas dan dapat ditindaklanjuti. Kandidat juga dapat menyetel autoscaler Kubernetes untuk meningkatkan efisiensi GPU, membuat modul Terraform yang mengintegrasikan ketahanan ke setiap cluster baru, serta memperkuat logika routing permintaan dan percobaan ulang sehingga failures sementara tetap tidak dirasakan oleh pengguna. Ketika insiden terjadi, otomatisasi dan runbook yang dibuat bersama akan digunakan untuk mendeteksi, mengisolasi, dan memperbaiki masalah dalam hitungan menit. Setelah itu, kandidat akan mendorong budaya post-mortem yang mencegahInsiden berulang. Seluruh pekerjaan ini bertujuan untuk menskalakan platform dengan mulus sambil mencapai target biaya dan keandalan yang agresif. Kualifikasi Keberhasilan dalam peran ini memerlukan familiarity yang mendalam dengan Kubernetes, Prometheus, Grafana, Terraform, dan praktik infrastructure-as-code. Kandidat harus mahir menulis skrip menggunakan Python atau Bash, memahami nuansa desain alert dan SLO untuk API throughput tinggi, serta memiliki cukup pengalaman produksi untuk mengetahui bagaimana back-end terdistribusi gagal di dunia nyata. Pengalaman mengelola workload berat GPU, baik dengan vLLM, Triton, Ray, maupun accelerator stack lainnya, akan menjadi nilai tambah. Latar belakang di bidang MLOps atau platform model-hosting jugaQguna. Di atas semuanya, kandidatRON concerned membangun sistem self-healing,纬darting debugging kinerja dari lapisan kernel hingga lapisan aplikasi, serta menikmati kerja sama dengan software engineer untuk menjadikan keandalan sebagai fitur yang tidak perlu dipikirkan pengguna. Jika kandidat merasa bersemangat untuk menjaga infrastruktur yang menopang AI multimodal tomorrow, Nebius ingin mendengarkan kisahnya. Manfaat dan Culture Kompensasi kompetitif; kesempatan berkembang karier dan belajar; fleksibilitas dan tanggung jawab; budaya kerja kolaboratif dan inovatif; kesempatan mengerjakan proyek AI berdampak; lingkungan internasional dengan tim talented. Lingkungan Kerja Nebius Pergerakan cepat, berani berpikir, terus bertumbuh, berdampak bermakna, kepercayaan dan tanggung jawab nyata, serta kesempatan membentuk masa depan AI. Pernyataan Kesetaraan Kesempatan Nebius adalah pemberi kerja dengan kesetaraan kesempatan. Perusahaan增长速度 fostering lingkungan kerja yang inklusif dan beragam, serta menyediakan kesetaraan kesempatan kerja di seluruh aspek ketenagakerjaan. Nebius tidak membedakan berdasarkan ras, warna kulit, agama, jenis kelamin termasuk kehamilan, asal kebangsaan, leluhur, usia, disabilitas, informasi genetik, status perkawinan, status veteran, orientasi seksual, identitas atau ekspresi gender, maupun karakteristik lain yang dilindungi oleh hukum yang berlaku. Applicants harus memiliki izin kerja di negara tempat mereka:apply dan wajib memberikan bukti kelayakan kerja sebagai syaratasek diterima. Jika memerlukan accommodations selama proses lamaran, kandidat perlu 업계 mengetahuinya.

Senior Site Reliability Engineer — Token Factory (Inference Platform)

Deskripsi Pekerjaan

Ringkasan

Lowongan Terkait Lainnya

Senior Systems HPC Engineer

Senior Site Reliability Engineer (SRE, Compute Node Team)

Senior Site Reliability Engineer (SRE)

Network Engineer