Bayangkan akun Discord kamu tiba-tiba dikunci permanen, padahal yang diunggah cuma tangkapan layar inventaris Minecraft. Itulah yang dialami lebih dari 8.000 pengguna sejak Mei 2026, setelah sebuah bug menyusup diam-diam ke sistem moderasi berbasis AI platform tersebut. Dua bulan. Ribuan akun. Semua karena pola kotak-kotak.
Persoalannya sederhana tapi dampaknya tidak kecil. Sistem keamanan otomatis Discord bekerja dengan cara mencocokkan gambar yang diunggah pengguna dengan basis data materi berbahaya yang sudah diketahui, termasuk konten eksploitasi anak. Masalahnya, pola grid sering dipakai oknum untuk menyamarkan konten ilegal agar lolos deteksi, dan pola yang sama juga muncul di ribuan konten yang sama sekali tidak bermasalah: papan catur, tekstur aset game, lembar kerja spreadsheet, hingga latar belakang transparan abu-abu putih khas file PNG.
Dalam kondisi normal, konten yang terflagging seharusnya masuk antrean review moderator manusia, sementara akun hanya dibekukan sementara selama proses berlangsung. Bug ini membalikkan skenario itu sepenuhnya. Alih-alih pembekuan sementara, sistem langsung menjatuhkan ban permanen. Lebih parah lagi, ketika staf Discord sudah meninjau dan menyatakan akun bersangkutan bersih, bug yang sama mencegah pencabutan ban berjalan otomatis. Akun tetap terkunci meski sudah dinyatakan tidak bersalah.
Stanislav Vishnevskiy, salah satu pendiri sekaligus Chief Technology Officer Discord, akhirnya angkat bicara. Sekitar 200 dari total akun terdampak adalah pengguna yang mengunggah gambar bergrid secara langsung, sementara sekitar 8.000 lainnya terkena imbas dari kategori "gambar tidak berbahaya lainnya" yang terjerat false positive sistem. "Semua akun yang terkena dampak kini telah dibatalkan banned-nya," tulis Vishnevskiy dalam pernyataan resminya di platform X.
Gelombang keluhan lebih dulu meledak di Reddit dan X jauh sebelum Discord merespons. Salah satu thread yang ramai dikunjungi berjudul "Banned for posting a game texture" menjadi cermin betapa absurdnya situasi ini: pengguna tanpa riwayat pelanggaran apapun mendadak kehilangan akses ke komunitas, server, bahkan jaringan pertemanan yang dibangun bertahun-tahun. Pertanyaannya, berapa banyak dari mereka yang menyerah begitu saja dan tidak melaporkan kasusnya?
Bagi sebagian orang, kehilangan akun Discord bukan sekadar kehilangan aplikasi chat. Platform ini sudah lama berevolusi menjadi ruang kerja, komunitas kreatif, bahkan sumber penghasilan bagi sebagian kreator. Insiden ini mencuat persis saat platform-platform besar berlomba mengotomatisasi moderasi konten demi efisiensi skala besar, sebuah ironi yang agaknya tidak disengaja.
Discord juga bukan satu-satunya yang pernah tersandung masalah serupa. Sepanjang tahun lalu, pengguna Instagram, Facebook Groups, hingga Tumblr juga sempat dihajar gelombang suspensi massal akibat error algoritma yang setali tiga uang. Angka 8.000 akun yang salah terbanned dalam dua bulan, kalau data ini bisa dipercaya sepenuhnya, menjadi catatan keras: seberapa jauh kita bisa benar-benar mempercayakan keputusan moderasi kepada mesin?