Kita, Algoritma, dan Hilangnya Diri

BERITA tentang kritik Paus Leo XIV terhadap penggunaan kecerdasan buatan untuk mesin perang dan akumulasi laba terasa seperti teguran yang tidak bisa lagi diabaikan.

Ia bukan seruan moral biasa, melainkan penanda bahwa ada yang mulai bergeser dalam cara kita memahami diri dan dunia. 

Di balik layar yang kita sentuh setiap hari, bekerja sistem yang tidak sekadar membantu, tetapi juga membentuk keputusan tanpa banyak kita sadari.

Kita terbiasa menyerahkan hal kecil—rute perjalanan, pilihan tontonan, bahkan informasi harian—pada algoritma.

Kebiasaan ini tampak ringan, tetapi pelan-pelan mengubah relasi kita dengan pilihan itu sendiri.

Data menunjukkan bahwa 64 persen pengguna internet global mengandalkan rekomendasi algoritmik untuk konsumsi informasi sehari-hari (Reuters Institute, 2023).

Sementara itu, sekitar 70 persen konten yang ditonton di platform digital besar berasal dari sistem rekomendasi otomatis (YouTube, 2022; The Verge, 18/8/2022). 

Baca juga: Lelah Menjadi Kelas Menengah

Angka ini menegaskan bahwa preferensi kita tidak lagi murni lahir dari kesadaran bebas, melainkan hasil interaksi panjang dengan sistem yang terus belajar dari perilaku kita.

Dalam konteks ini, gagasan lama bahwa manusia adalah penentu utama kebenaran mulai goyah.

Di satu sisi, teknologi menjanjikan efisiensi. Namun di sisi lain, ia membentuk cara berpikir yang makin bergantung pada pola yang dapat dihitung.

Ketika pengalaman manusia tidak lagi menjadi pijakan utama, kita mulai menerima keputusan berdasarkan probabilitas.

Ini bukan sekadar perubahan teknis, melainkan pergeseran cara memahami realitas. Kita tidak lagi bertanya “apa yang benar,” tetapi “apa yang paling mungkin benar menurut data.”

Konsekuensi dari pergeseran ini tidak berhenti di ruang digital. Ia merambah hingga wilayah militer.

Laporan PBB menunjukkan bahwa lebih dari 30 negara telah mengembangkan atau menguji sistem senjata otonom (UNODA, 2023).

Teknologi ini mampu mengidentifikasi target dengan akurasi tinggi, tetapi tanpa pemahaman konteks sosial.

Di sinilah risiko muncul. Ketika keputusan mematikan dijalankan oleh sistem tanpa empati, tanggung jawab moral menjadi kabur.

Psikolog Albert Bandura menjelaskan bahwa manusia cenderung melepaskan tanggung jawab etis ketika tindakan kekerasan dimediasi oleh sistem (Bandura, 1999).

Dalam konteks modern, sistem ini adalah algoritma.

Ketika operator hanya menekan tombol dan hasilnya ditentukan mesin, jarak antara tindakan dan konsekuensi menjadi terlalu lebar untuk dirasakan. 

Data menunjukkan bahwa penggunaan drone dalam konflik meningkat lebih dari 120 persen dalam satu dekade (ICRC, 2022; BBC, 12/3/2023).

Angka ini menunjukkan bagaimana teknologi mengubah wajah konflik menjadi lebih impersonal.

Lebih jauh lagi, konflik menjadi ruang uji coba bagi industri teknologi.

Investasi global pada teknologi militer berbasis AI diperkirakan mencapai 18 miliar dolar AS pada 2025 (Statista, 2024).

Ini menandakan bahwa logika pasar ikut membentuk arah penggunaan teknologi. Dalam situasi seperti ini, dorongan keuntungan sering kali lebih kuat daripada pertimbangan etis.

Ilusi Kendali Digital

Jika di medan tempur algoritma mengubah cara hidup dan mati, di ruang sipil ia bekerja lebih halus.

Sistem seleksi kerja, penilaian kredit, hingga layanan kesehatan kini banyak bergantung pada model prediktif. Masalahnya, sistem ini belajar dari data lama yang mengandung bias. 

Studi menunjukkan bahwa algoritma rekrutmen dapat mengurangi peluang kandidat perempuan hingga 20 persen dalam bidang tertentu (Amazon Study, 2018; Reuters, 10/10/2018).

Ini bukan kesalahan teknis semata, tetapi refleksi dari bias historis yang diperkuat ulang.

Dalam sektor keuangan, sekitar 80 persen keputusan kredit di negara maju melibatkan sistem otomatis (World Bank, 2022).

Sementara penelitian lain menemukan bahwa kelompok berpenghasilan rendah memiliki risiko penolakan 1,5 kali lebih tinggi karena pola data historis (FICO, 2021).

Angka-angka ini menjelaskan bagaimana keputusan yang tampak netral justru menghasilkan ketimpangan baru.

Dampaknya terasa ketika individu tidak memiliki ruang untuk mempertanyakan keputusan tersebut.

Tidak ada lagi percakapan langsung atau penjelasan manusiawi. Keputusan hadir sebagai hasil akhir yang sulit digugat.

Baca juga: Kemenangan Como, Cermin yang Tidak Nyaman

Survei menunjukkan bahwa 58 persen pengguna merasa tidak memahami alasan di balik keputusan algoritmik yang memengaruhi hidup mereka (Pew Research, 2023).

Ketidakpahaman ini melahirkan rasa terasing yang nyata.

Di sisi lain, dunia digital juga menciptakan ilusi kendali. Kita merasa bebas memilih, padahal pilihan tersebut sudah diarahkan.

Riset menunjukkan bahwa 80 persen interaksi pengguna di media sosial dipengaruhi oleh kurasi algoritma (Meta Transparency Report, 2023).

Hal ini menciptakan ruang gema, di mana pengguna cenderung terpapar pada pandangan yang sejalan dengan keyakinannya. Akibatnya, polarisasi meningkat tajam.

Penelitian lain menunjukkan bahwa paparan berulang terhadap konten yang sejalan dengan preferensi dapat meningkatkan keyakinan seseorang hingga 30 persen, meskipun informasi tersebut tidak selalu akurat (MIT Media Lab, 2021).

Ini menjelaskan bagaimana opini publik dapat terbentuk bukan melalui dialog terbuka, tetapi melalui pengulangan yang terarah.

Dalam situasi seperti ini, manusia tidak merasa kehilangan kendali. Justru sebaliknya, ia merasa semakin nyaman.

Kemudahan akses, kecepatan respon, dan personalisasi membuat kita sulit melihat batas antara pilihan bebas dan pilihan yang diarahkan.

Survei global menunjukkan bahwa 67 persen pengguna merasa teknologi membuat hidup mereka lebih mudah, meskipun hanya 32 persen yang memahami cara kerjanya (McKinsey, 2023).

Di titik ini, persoalannya bukan lagi soal kemampuan mesin yang melampaui manusia. Pertanyaannya lebih sederhana, tetapi juga lebih mendasar: sejauh mana kita masih benar-benar memilih?

Ketika keputusan sehari-hari semakin ditentukan oleh sistem yang tidak kita pahami sepenuhnya, ada bagian dari kedaulatan diri yang perlahan berkurang.

Baca juga: Ketika Prabowo Menantang Logika Pasar

Bukan berarti teknologi harus ditolak. Ia sudah menjadi bagian dari kehidupan modern dan membawa banyak manfaat.

Namun, tanpa kesadaran kritis, kita berisiko menerima semua kemudahan tanpa mempertanyakan konsekuensinya.

Menjaga jarak sejenak, memahami cara kerja sistem, dan tetap mempertahankan kemampuan berpikir mandiri menjadi langkah penting.

Pada akhirnya, pertanyaan yang perlu kita rawat bukan tentang apakah teknologi akan terus berkembang.

Itu sudah pasti. Yang perlu dijaga adalah kemampuan kita untuk tetap menjadi subjek, bukan sekadar objek dari sistem yang kita ciptakan sendiri.

Tag:  #kita #algoritma #hilangnya #diri