NVIDIA mencari Senior Software Engineer yang berspesialisasi dalam Deep Learning Inference untuk bergabung dengan tim yang sedang berkembang. Sebagai kontributor utama, Anda akan membantu merancang, membangun, dan mengoptimalkan perangkat lunak yang dipercepat GPU untuk mendukung aplikasi AI paling canggih saat ini. Tim ini bertanggung jawab mengembangkan dan memelihara framework deep learning berperforma tinggi, termasuk SGLang dan vLLM, yang menjadi yang terdepan dalam serving dan inference model berskala besar secara efisien. Anda akan berperan penting dalam meningkatkan platform-platform tersebut serta mendukung deployment dan serving model bahasa mutakhir secara lancar. Anda akan bekerja sama dengan komunitas deep learning untuk menerapkan algoritme terbaru agar dapat dirilis secara publik dalam framework seperti SGLang dan vLLM, serta framework DL lainnya. Fokus pekerjaan Anda adalah mengidentifikasi dan mendorong peningkatan performa untuk model LLM dan Generative AI mutakhir pada berbagai akselerator NVIDIA, mulai dari GPU pusat data hingga SoC edge. Anda akan memanfaatkan berbagai alat dan plugin open source—termasuk CUTLASS, OAI Triton, NCCL, dan kernel CUDA—untuk menerapkan dan mengoptimalkan pipeline serving model. Yang akan Anda kerjakan: - Mengoptimalkan, menganalisis, dan melakukan tuning performa model DL di berbagai domain seperti LLM, Multimodal, dan Generative AI. - Meningkatkan skala performa model DL pada berbagai arsitektur dan jenis akselerator NVIDIA. - Berkontribusi pada fitur dan kode untuk library inference NVIDIA, vLLM dan SGLang, FlashInfer, serta solusi perangkat lunak LLM. - Bekerja sama dengan tim lintas fungsi yang mencakup framework, library NVIDIA, dan solusi inovatif untuk optimasi inference. Persyaratan: - Gelar Master atau PhD, atau pengalaman yang setara, di bidang yang relevan (Computer Engineering, Computer Science, EECS, AI). - 5+ tahun pengalaman pengembangan perangkat lunak yang relevan. - Kemampuan pemrograman C/C++ dan desain perangkat lunak yang sangat baik. - Keterampilan SW Agile akan membantu, dan pengalaman dengan Python menjadi nilai tambah. - Pengalaman sebelumnya dalam melatih, melakukan deployment, atau mengoptimalkan inference model DL di lingkungan produksi menjadi nilai tambah. - Latar belakang dalam pemodelan performa, profiling, debugging, dan optimasi kode, atau pengetahuan arsitektur CPU dan GPU menjadi nilai tambah. Hal yang dapat menjadi nilai tambah: - Berkontribusi pada proyek perangkat lunak Deep Learning, seperti PyTorch, vLLM, dan SGLang, untuk mendorong kemajuan di bidang ini. - Pengalaman dengan komunikasi Multi-GPU (NCCL, NVSHMEM). - Pengalaman membangun dan merilis produk untuk pelanggan enterprise. - Pengalaman pemrograman GPU (CUDA, OAI TRITON atau CUTLASS). NVIDIA berada di garis depan terobosan dalam Artificial Intelligence, High-Performance Computing, dan Visualization. Tim NVIDIA terdiri atas para profesional yang berdedikasi dan inovatif untuk mendorong batas teknologi. NVIDIA menawarkan gaji yang sangat kompetitif, paket manfaat yang luas, serta lingkungan kerja yang mendukung keberagaman, inklusi, dan fleksibilitas. Sebagai pemberi kerja yang menjunjung kesetaraan kesempatan, NVIDIA berkomitmen membangun tempat kerja yang suportif dan memberdayakan semua orang. Gaji pokok ditentukan berdasarkan lokasi, pengalaman, dan gaji karyawan dalam posisi serupa. Untuk Polandia: kisaran gaji pokok adalah 221.250 PLN–383.500 PLN untuk Level 3 dan 292.500 PLN–507.000 PLN untuk Level 4. Awalnya diposting di Himalayas.

Senior Deep Learning Software Engineer, Inference

Deskripsi Pekerjaan

Ringkasan

Lowongan Terkait Lainnya

Tech Lead

Remote Full Stack Engineer – IAM Security (German speaking)

Software Engineer Speak Chinese (Remote Work)

Full-Stack Software Engineer