FULL_TIME

AI Reliability & Red Teaming Engineer

Technopals Pte.Ltd. • India

Gaji tidak dicantumkan

Deskripsi Pekerjaan

T recapitulation:_identifier? Peran ini berfokus pada pengujian tekanan teknis secara langsung terhadap sistem AI, terutama dalam bidang ketahanan adversarial, deteksi bias, dan mitigasi halusinasi. Tanggung jawab utama: - Red Teaming: Merancang dan menjalankan serangan adversarial, seperti injeksi prompt dan keracunan data, terhadap model bahasa besar (LLM) dan model prediktif. - Pemantauan Otomatis: Membangun dan mempertahankan stack “Continuous Control” menggunakan alat seperti Evidently AI atau WhyLabs. - Remediasi Bias: Bekerja sama dengan Data Scientist untuk menerapkan teknik keadilan algoritmik ketika bias terdeteksi. Persyaratan: - Stack Teknis: Keahlian-depth dalam Python serta pengalaman luas dengan PyTorch, TensorFlow, dan pipeline MLOps. - Pendidikan: BS/MS dalam Ilmu Data, Matematika, atau Keamanan Siber. - Pengalaman: 4+ tahun dalam Rekayasa ML dengan fokus pada keamanan atau keandalan model. Awalnya diposting di Himalayas.