Senin, 25 Mei 2026, Vatikan merilis Magnifica Humanitas. Ensiklik ini menempatkan kecerdasan buatan sebagai tantangan moral terbesar abad ini, bukan sekadar soal efisiensi atau inovasi, tapi soal siapa yang memegang kendali atas kehidupan miliaran orang.
Ini bukan kali pertama Gereja Katolik angkat bicara soal guncangan teknologi. Sejak Rerum Novarum tahun 1891, ketika Paus Leo XIII merespons penderitaan buruh di tengah euforia industrialisasi, sebuah era yang secara bersamaan melahirkan kemiskinan akut dan optimisme besar, institusi berbasis di Roma ini konsisten memberi peringatan: kemajuan tanpa moral selalu memakan korban. Empat puluh tahun setelahnya, Quadragesima Anno lahir saat Depresi Besar menekan separuh dunia, mengkritik konsentrasi kekuasaan ekonomi di tangan segelintir orang. Polanya berulang. Hanya aktornya berganti.
Kali ini yang berdiri di kursi terdakwa bukan pemilik pabrik baja, melainkan Google, Meta, dan OpenAI.
Magnifica Humanitas secara eksplisit mengkritik penggunaan AI untuk mesin perang dan akumulasi laba tanpa batas. Framing ini bukan kebetulan. Laporan Badan Perlucutan Senjata PBB (UNODA, 2023) mencatat lebih dari 30 negara telah mengembangkan atau menguji sistem senjata otonom. Penggunaan drone dalam konflik bersenjata melonjak lebih dari 120 persen dalam satu dekade. Investasi global pada teknologi militer berbasis AI diperkirakan menyentuh 18 miliar dolar AS, sekitar Rp293 triliun, pada 2025 saja.
Di sinilah kegelisahan moral yang sesungguhnya. Ketika keputusan mematikan dijalankan mesin tanpa empati, tanggung jawab etis jadi kabur. Psikolog Albert Bandura pernah menyimpulkan bahwa manusia cenderung melepaskan tanggung jawab etis ketika tindakan kekerasan dimediasi oleh sistem. Operator hanya menekan tombol, dan konsekuensinya terasa terlalu jauh untuk benar-benar dirasakan. Jarak antara tindakan dan akibat itu, kalau data ini bisa dipercaya, semakin lebar setiap tahunnya.
Tapi ancaman AI tidak melulu soal perang. Di ruang sipil mekanismenya lebih halus, dan justru karena itu lebih berbahaya.
Data Reuters Institute 2023 menunjukkan 64 persen pengguna internet global mengandalkan rekomendasi algoritmik untuk konsumsi informasi harian mereka. Di platform video terbesar di dunia, 70 persen konten yang ditonton berasal dari sistem rekomendasi otomatis. Preferensi kita, agaknya, tidak lagi murni lahir dari pikiran sendiri. Ia adalah produk interaksi panjang dengan sistem yang terus belajar dari perilaku kita, lalu mempertebal apa yang sudah kita percaya.
Riset MIT Media Lab 2021 menemukan bahwa paparan berulang terhadap konten yang sejalan dengan preferensi bisa memperkuat keyakinan seseorang hingga 30 persen, meski informasi itu tidak selalu akurat. Polarisasi bukan muncul dari perdebatan terbuka. Ia lahir dari pengulangan yang diam-diam terarah.
Belum lagi bias tersembunyi di balik klaim objektivitas algoritma. Studi internal Amazon yang bocor ke publik memperlihatkan sistem rekrutmen berbasis AI bisa memangkas peluang kandidat perempuan hingga 20 persen di bidang tertentu, bukan karena programmernya seksis, tapi karena sistemnya belajar dari data historis yang memang sudah bias. Di sektor keuangan, sekitar 80 persen keputusan kredit di negara maju sudah melibatkan sistem otomatis, dan kelompok berpenghasilan rendah punya risiko penolakan 1,5 kali lebih tinggi karena pola data masa lalu.
Keputusan hadir sebagai hasil akhir yang sulit digugat. Tidak ada percakapan, tidak ada penjelasan manusiawi. Survei Pew Research 2023 mencatat 58 persen pengguna merasa tidak memahami alasan di balik keputusan algoritmik yang memengaruhi hidup mereka.
Yang bikin situasi ini ruwet: kebanyakan dari kita tidak merasa dirugikan. McKinsey 2023 menemukan 67 persen pengguna merasa teknologi membuat hidup lebih mudah, meski hanya 32 persen yang paham cara kerjanya. Bak katak yang direbus perlahan, kita menikmati kehangatan tanpa menyadari kapan suhu mulai berbahaya. Inilah ilusi kendali digital. Kita merasa bebas memilih, padahal pilihan itu sudah lama diarahkan.
Magnifica Humanitas, dengan seluruh beban sejarah 135 tahun tradisi ensiklik sosial Vatikan, pada dasarnya menanyakan satu hal yang sederhana sekaligus fundamental: sampai mana kita masih benar-benar memilih? Bukan pertanyaan tentang apakah teknologi akan terus berkembang, itu sudah pasti. Yang perlu dijaga adalah kemampuan kita untuk tetap menjadi subjek, bukan sekadar objek dari sistem yang kita ciptakan sendiri.