AI Safety Specialist - Fully Remote | Hingga $84/jam Perusahaan: mercor Mercor menghubungkan talenta kreatif dan teknis terbaik dengan laboratorium riset AI terkemuka. Kantor pusatnya berada di San Francisco. Investornya antara lain Benchmark, General Catalyst, Peter Thiel, Adam D'Angelo, Larry Summers, dan Jack Dorsey. Posisi: Red Teamer Keselamatan AI Jenis: Kontrak Kompensasi: $70–$84/jam Lokasi: Remote Tanggung jawab: Merancang prompt adversarial untuk menguji ketahanan model AI frontier. Mengidentifikasi jailbreak, perilaku tidak aman, halusinasi, dan kegagalan kebijakan. Mengevaluasi ketahanan model terhadap misinformasi, keamanan siber, biosecurity, penipuan, konten politik, dan domain sensitif lainnya. Mendokumentasikan kerentanan serta berkontribusi pada laporan safety benchmarking dan red-teaming. Bekerja sama dengan peneliti AI untuk meningkatkan alignment, ketahanan, dan keselamatan model. Kualifikasi wajib: Gelar sarjana atau lebih tinggi dalam Sains Komputer, Keamanan Siber, Jurnalistik, Komunikasi, Psikologi, Biologi, Kimia, Kebijakan Publik, atau bidang terkait. Pengalaman profesional 5+ tahun di bidang Keselamatan AI, AI Red Teaming, Trust & Safety, keamanan siber, jurnalistik investigatif, ilmu hayati, atau bidang terkait. Kemampuan penalaran analitis, desain prompt, dan komunikasi tertulis yang kuat. Pengalaman merancang prompt adversarial atau mengevaluasi sistem AI frontier. Pengalaman yangirror: Pengalaman dengan AI Red Teaming, RLHF, SFT, AI Alignment, atau Trust & Safety. Pemahaman terhadap pengujian jailbreak, prompt engineering, atau metodologi evaluasi adversarial. Keahlian dalam 1 atau beberapa domain abu-abu, termasuk keamanan siber, biosecurity, konten politik, misinformasi, atau keselamatan ilmiah. ProsesLamaran (memakan waktu 20–30 menit): Unggah resume Ikuti wawancara AI berdasarkan resume Kirim formulir Sumber daya dan dukungan: Untuk detail tentang proses wawancara dan informasi platform, silakan periksa: Untuk bantuan atau dukungan, hubungi: Catatan: Tim kami meninjau lamaran setiap hari. Lengkapi wawancara AI dan langkah-langkah lamaran agar dipertimbangkan untuk kesempatan ini. Awalnya diposting di Himalayas

AI Safety Specialist - Fully Remote | Upto $84/hr

Deskripsi Pekerjaan

Ringkasan

Lowongan Terkait Lainnya

AI Safety Specialist - Fully Remote | Upto $70/hr

Treasury Expert - Fully Remote | Upto $100/hr

SEC Reporting Expert - Fully Remote | Upto $120/hr

Social Work Expert - Fully Remote | Upto $50/hr