Mercor menghubungkan kreativitas dan talenta teknis unggulan dengan laboratorium riset AI terkemuka. Kantor pusatnya berada di San Francisco, sedangkan investornya mencakup Benchmark, General Catalyst, Peter Thiel, Adam D'Angelo, Larry Summers, dan Jack Dorsey. Posisi: Spesialis Keamanan AI — Bahasa Inggris dan Portugis (global) Jenis: Kontrak Kompensasi: US$29–US$45/jam Lokasi: Remote Tanggung jawab: - Melakukan red team terhadap model AI percakapan dan agen AI dengan mencoba jailbreak, prompt injection, kasus penyalahgunaan, serta eksploitasi bias. - Menghasilkan data manusia berkualitas tinggi dengan menandai kegagalan, mengklasifikasikan kerentanan, dan mengidentifikasi risiko sistemik. - Menerapkan struktur pengujian dengan mengikuti taksonomi, benchmark, dan playbook agar pengujian tetap konsisten. - Mendokumentasikan hasil secara reproducible melalui laporan, dataset, dan kasus serangan yang dapat ditindaklanjuti oleh pelanggan. - Bekerja secara mandiri dan asinkron untuk meningkatkan performa model AI dan memastikan keamanannya. Kualifikasi wajib: - Pemuasaan native dalam bahasa Inggris dan Portugis secara global, kecuali Portuguese Brasil. - Pengalaman sebelumnya dalam red teaming AI, kerja adversarial di bidang AI, cybersecurity, atau socio-technical probing. - Kemampuan komunikasi yang kuat untuk menjelaskan risiko dengan jelas kepada stakeholder teknis maupun nonteknis. Pengalaman yanglatesi: - Adversarial ML: jailbreak dataset, prompt injection, serangan RLHF/DPO, dan model extraction. - Cybersecurity: penetration testing, exploit development, dan reverse engineering. - Ke Expertise risiko socio-technical: pengujian harassment dan disinformasi, analisis penyalahgunaan, serta pengujian AI percakapan. - Kemampuan probing kreatif: psikologi, acting, dan penulisan untuk支持客户端。

AI Safety Specialist - Fully Remote | Upto $45/hr

Deskripsi Pekerjaan

Ringkasan

Lowongan Terkait Lainnya

AI Project Builder - Fully Remote | Up to $500/task

Culture Expert - Fully Remote | Upto $120/hr

Data Science Expert - Fully Remote | Upto $150/hr

AI Researcher - Fully Remote | Upto $120/hr