Fitur itu baru saja dirilis, tapi sudah harus ditarik.
Meta resmi mencabut salah satu kemampuan AI di Instagram yang mengizinkan siapa saja menggunakan foto dari akun publik orang lain sebagai referensi untuk menghasilkan gambar baru berbasis kecerdasan buatan. Keputusan itu datang tidak lama setelah peluncuran, dan tekanannya datang dari segala penjuru.
Fitur tersebut bagian dari model image generator terbaru Meta, Muse Image, yang dikembangkan oleh Meta Superintelligence Labs. Cara kerjanya sederhana tapi memicu masalah besar: pengguna cukup men-tag nama akun Instagram publik dalam prompt, lalu AI akan menjadikan foto-foto di akun itu sebagai acuan visual untuk menghasilkan gambar baru. Tidak ada notifikasi ke pemilik akun. Tidak ada mekanisme opt-out yang jelas.
Seluruh akun publik otomatis masuk sebagai kandidat referensi, selama akun itu tidak dikunci jadi privat. Artinya, jutaan pengguna Instagram tanpa sadar sudah "menyumbangkan" foto mereka ke sistem AI milik Meta, tanpa pernah diminta persetujuannya. Angka yang tidak main-main jika diingat Instagram punya lebih dari dua miliar pengguna aktif.
Kritik langsung datang dari pengguna biasa, aktivis privasi, hingga agensi bakat sekelas Creative Artists Agency (CAA). Kekhawatirannya bukan sekadar soal estetika atau hak cipta. Jauh lebih dalam dari itu: teknologi serupa kerap disalahgunakan untuk memproduksi gambar palsu, termasuk konten tidak senonoh yang melibatkan tokoh publik dan selebritas perempuan.
Dalam unggahan blog resminya, Meta mengakui fitur tersebut gagal memenuhi standar perusahaan sendiri. "Tujuan kami adalah menyediakan alat kreatif yang bermanfaat dan memberi orang kendali atas apakah konten publik mereka dapat direferensikan dengan cara ini," tulis perusahaan. "Kami telah mendengar masukan bahwa fitur ini tidak mencapai sasaran, sehingga fitur tersebut tidak lagi tersedia," lanjut Meta.
Sebelumnya, manajemen mengklaim fitur ini dirancang untuk use case yang cukup ramah: membuat undangan acara, konsep desain kolaboratif, hingga grafis personal. Klaim yang patut dicermati, kalau data ini bisa dipercaya, mengingat arsitektur sistemnya sama sekali tidak dilengkapi perlindungan bagi pemilik konten.
Ini bukan isu baru di ekosistem AI generatif. Platform-platform besar sudah berkali-kali berhadapan dengan pertanyaan yang sama: di mana batas antara inovasi dan eksploitasi konten pengguna? Agaknya, jawaban memuaskan belum juga ketemu. Meta bukan yang pertama tersandung, dan bisa jadi bukan yang terakhir.
Insiden ini terjadi tepat di saat Meta sedang menginjak gas soal ambisi AI-nya, termasuk klaim bahwa model-model mereka akan mampu menyaingi pemain terdepan industri dalam waktu dekat. Bagi investor yang memantau laju ekspansi tersebut, pertanyaannya sederhana: seberapa matang quality control Meta sebelum sebuah fitur menyentuh ratusan juta pengguna? Sejauh ini, jawabannya kurang meyakinkan.