Spesialis Keselamatan AI - Sepenuhnya Remote | Hingga $70/jam Tentang pekerjaan Mercor menghubungkan talenta kreatif dan teknis terbaik dengan laboratorium riset AI terkemuka. Berkantor pusat di San Francisco, investor Mercor mencakup Benchmark, General Catalyst, Peter Thiel, Adam D'Angelo, Larry Summers, dan Jack Dorsey. Posisi: Praktisi Keselamatan AI Jenis: Kontrak Kompensasi: $60–$70/jam Lokasi: Remote Tanggung jawab Mengevaluasi respons yang dihasilkan AI berdasarkan aspek keselamatan, akurasi faktual, kepatuhan terhadap kebijakan, dan kualitas secara keseluruhan. Meninjau konten yang melibatkan misinformasi, persuasi politik, tindakan menyakiti diri sendiri, kekerasan, keamanan siber, biosekuriti, serta domain sensitif lainnya. Menerapkan dan menyempurnakan rubrik evaluasi untuk RLHF, SFT, dan pembandingan keselamatan AI. Mengidentifikasi keluaran yang tidak aman, halusinasi, kegagalan penalaran, dan pelanggaran kebijakan. Memberikan umpan balik terstruktur untuk meningkatkan penyelarasan model dan kinerja keselamatan. Berkolaborasi dengan peneliti AI dan tim keselamatan dalam inisiatif evaluasi yang sedang berlangsung. Kualifikasi wajib Gelar sarjana atau lebih tinggi dalam Jurnalistik, Komunikasi, Psikologi, Sosiologi, Kebijakan Publik, Hukum, Biologi, Kimia, Ilmu Komputer, atau disiplin terkait. Pengalaman profesional 5+ tahun dalam Keselamatan AI, Trust & Safety, jurnalistik, kebijakan publik, riset ilmiah, keamanan, atau bidang terkait. Kemampuan bahasa Inggris tertulis, pemikiran kritis, dan penalaran analitis yang sangat baik. Mampu mengevaluasi skenario yang bernuansa dan sensitif terhadap kebijakan secara konsisten. Pengalaman yang diutamakan Pengalaman dalam Keselamatan AI, RLHF, SFT, Trust & Safety, atau evaluasi AI. Pemahaman tentang kebijakan keselamatan, moderasi konten, atau pengembangan rubrik evaluasi. Pengalaman meninjau konten yang kompleks, berisiko tinggi, atau ambigu. Proses lamaran (memerlukan waktu 20–30 menit untuk diselesaikan) Unggah resume Wawancara AI berdasarkan resume Kirim formulir Sumber daya dan dukungan Untuk detail tentang proses wawancara dan informasi platform, silakan periksa: Untuk bantuan atau dukungan, hubungi: PS: Tim kami meninjau lamaran setiap hari. Harap selesaikan wawancara AI dan tahapan lamaran agar dapat dipertimbangkan untuk kesempatan ini. Awalnya dipublikasikan di Himalayas

AI Safety Specialist - Fully Remote | Upto $70/hr

Deskripsi Pekerjaan

Ringkasan

Lowongan Terkait Lainnya

Treasury Expert - Fully Remote | Upto $100/hr

SEC Reporting Expert - Fully Remote | Upto $120/hr

Social Work Expert - Fully Remote | Upto $50/hr

Research Specialist - Fully Remote | Upto $60/hr