Mercor menghubungkan talenta kreatif dan teknis berkelas dengan laboratorium riset AI terkemuka. Berkantor pusat di San Francisco, investornya antara lain Benchmark, General Catalyst, Peter Thiel, Adam D'Angelo, Larry Summers, dan Jack Dorsey. Posisi: AI Safety Red Teamer Jenis: Kontrak Kompensasi: $70–$84/jam Lokasi: Remote Tanggung jawab: Merancang prompt adversarial untuk menguji ketahanan model AI generasi terbaru. Mengidentifikasi jailbreak, perilaku tidak aman, halusinasi, dan kegagalan kebijakan. Mengevaluasi ketahanan model terhadap informasi salah, keamanan siber, biosécurité, penipuan, konten politik, serta domain sensitif lainnya. Mendokumentasikan kerentanan dan berkontribusi pada benchmark keamanan serta laporan red teaming. Berkolaborasi dengan peneliti AI untuk meningkatkan alignment, ketahanan, dan keamanan model. Kualifikasi wajib: Gelar sarjana atau lebih tinggi dalam Ilmu Komputer, Keamanan Siber, Jurnalisme, Komunikasi, Psikologi, Biologi, Kimia, Kebijakan Publik, atau bidang terkait. 5+ tahun pengalaman profesional di bidang AI Safety, AI Red Teaming, Trust & Safety, keamanan siber, jurnalistik investigatif, ilmu hayati, atau bidang terkait. Kemampuan penalaran analitis, desain prompt, dan komunikasi tertulis yang kuat. Pengalaman merancang prompt adversarial atau mengevaluasi sistem AI generasi terbaru. Pengalaman yang lebih disukai: Pengalaman dalam AI Red Teaming, RLHF, SFT, AI Alignment, atau Trust & Safety. Pemahaman terhadap pengujian jailbreak, prompt engineering, atau metodologi evaluasi adversarial. Keahlian dalam 1 atau lebih domain abu-abu, termasuk keamanan siber, biosécurité, konten politik, informasi salah, atau keselamatan ilmiah. Proses lamaran (memakan waktu 20–30 menit): Unggah resume Ikuti wawancara AI berdasarkan resume Kirim formulir Sumber daya dan dukungan: Untuk detail tentang proses wawancara dan informasi platform, silakan查看: Untuk bantuan atau dukungan, hubungi: Catatan: Tim kami meninjau lamaran setiap hari. Harap selesaikan wawancara AI dan langkah-langkah lamaran agar peluang ini dapat dipertimbangkan. Awalnya diposting di Himalayas

AI Safety Specialist - Fully Remote | Upto $84/hr

Deskripsi Pekerjaan

Ringkasan

Lowongan Terkait Lainnya

AI Safety Specialist - Fully Remote | Upto $70/hr

Treasury Expert - Fully Remote | Upto $100/hr

SEC Reporting Expert - Fully Remote | Upto $120/hr

Social Work Expert - Fully Remote | Upto $50/hr