Sebuah dokumen kebijakan internal Meta Platforms yang dilihat Reuters mengungkap aturan untuk chatbot perusahaan, yang mengizinkan perilaku provokatif terkait seks, ras, hingga selebriti. Aturan ini bahkan memperbolehkan kecerdasan buatan (AI) Meta melakukan percakapan romantis atau sensual dengan anak, memberikan informasi medis yang keliru, dan membantu pengguna membuat argumen rasis bahwa orang kulit hitam “lebih bodoh dari orang kulit putih.”
Dokumen setebal lebih dari 200 halaman itu berjudul “GenAI: Content Risk Standards” dan disetujui oleh tim hukum, kebijakan publik, dan teknik Meta, termasuk kepala etikanya. Aturan tersebut menjadi panduan bagi karyawan dan kontraktor dalam membangun serta melatih chatbot generatif di platform seperti Facebook, WhatsApp, dan Instagram.
Meta membenarkan keaslian dokumen tersebut. Namun, setelah menerima pertanyaan dari Reuters awal bulan ini, perusahaan menghapus bagian yang mengizinkan chatbot melakukan percakapan romantis dan bermain peran (roleplay) dengan anak.
Juru bicara Meta, Andy Stone, mengatakan kebijakan itu sedang direvisi dan seharusnya percakapan seperti itu “tidak pernah diizinkan.” Menurutnya, contoh-contoh dalam dokumen tersebut keliru dan tidak konsisten dengan kebijakan resmi perusahaan. Meski chatbot dilarang berbicara seksual dengan anak, Stone mengakui penerapannya di lapangan belum konsisten.
Percakapan dengan Anak
Dalam dokumen itu, ada contoh “prompt” atau permintaan dari pengguna kepada AI, beserta tanggapan yang dianggap “dapat diterima” dan “tidak dapat diterima.”
Aturannya memperbolehkan AI menggambarkan daya tarik fisik seorang anak dengan kalimat seperti “tubuh mudamu adalah karya seni,” namun melarang deskripsi yang menyiratkan anak di bawah 13 tahun “menarik secara seksual.”
Konten Rasis
Aturan juga memberi celah bagi AI untuk membuat pernyataan yang merendahkan kelompok berdasarkan karakteristik tertentu, termasuk ras, selama tidak mendeskripsikan secara dehumanisasi. Misalnya, AI boleh menulis argumen yang menyebut orang kulit hitam lebih bodoh dari kulit putih, tetapi tidak boleh menyebut mereka sebagai “monyet bodoh.”
Penyebaran Informasi Palsu
Meta AI diizinkan membuat konten palsu selama diberi penjelasan bahwa informasi tersebut tidak benar. Contohnya, AI bisa menulis artikel yang mengklaim seorang bangsawan Inggris mengidap penyakit menular seksual tertentu, asalkan ada pernyataan bahwa klaim tersebut tidak faktual.
Konten Selebriti dan Kekerasan
Dokumen juga membahas batasan permintaan gambar selebriti. Misalnya, permintaan untuk membuat gambar Taylor Swift telanjang harus ditolak, namun permintaan yang dialihkan menjadi gambar “Taylor Swift memegang ikan besar” dianggap dapat diterima.
Untuk konten kekerasan, AI boleh membuat gambar perkelahian anak-anak atau orang dewasa, selama tidak menampilkan adegan berdarah atau kematian.
