Ilmu Pengetahuan, Teknologi, dan Kekuasaan di Zaman Artificial Intelligence

Jakarta - Relasi ilmu pengetahuan-teknologi dengan pembebasan manusia dari penderitaan, merupakan relasi yang bersifat akseleratif. Saling mendorong, mewujudkan tujuannya. Relasi di antara unsur-unsur itu justru jadi paradoks, manakala menempatkan manusia di hadapan kekuasaan yang menjebak. Menghilangkan kebebasan yang dimilikinya. Kembali jatuh dalam penderitaan.

Carl Mitcham, 1983, dalam 'Thinking Through Technology: The Path between Engineering and Philosophy', menguraikan dua bentuk relasi antara pengetahuan dengan teknologi. Relasi yang pertama: teknologi merupakan aplikasi dari ilmu pengetahuan. Teknologi terwujud di hadapan manusia, dengan didahului ilmu pengetahuan. Mesin uap adalah aplikasi dari ilmu fisika, pesawat terbang hadir sebagai penerapan ilmu aeronautika dan vertikultur dikembangkan berdasarkan ilmu biologi. Relasi ini lazim disebut pendekatan idealis.

Sedangkan relasi yang kedua, disebut sebagai pendekatan materialis. Pengembangan ilmu pengetahuan justru didasarkan dari kinerja teknologi. Proses transmisi gelombang elektromagnetik pada teknologi telekomunikasi, contohnya. Uraian kerja yang dikemukakan Claude Shannon dan Warren Weaver ini, merupakan cikal bakal model komunikasi yang berlaku hingga kini. Penjelasan dua ilmuwan matematika ini, berkembang sebagai ilmu komunikasi. Demikian pula dengan teknologi pengawetan yang diaplikasikan pada proses pengasinan telur. Seluruhnya mendasari pengembangan ilmu fisika, yang disebut sebagai proses difusi.

Namun tak penting benar, apakah dunia hari ini bekerja lebih didasarkan pada relasi idealis atau materialis. Keduanya telah menempatkan manusia lebih mudah menjalani hidup. Kontribusi ilmu pengetahuan maupun teknologi, terbukti membebaskan manusia dari sebagian deritanya. Akan halnya uraian posisi ilmu pengetahuan dan teknologi yang diajukan lewat tulisan ini, dalam konteks terdapatnya realitas, relasi ilmu pengetahuan dan teknologi dalam perkembangan terkininya, justru menghadirkan gejala kekuasaan yang menghilangkan kebebasan. Manusia tanpa sadar mengalami penghilangan kebebasan, oleh kekuasaan yang terformulasi oleh ilmu pengetahuan dan teknologi. 

Shoshana Zuboff, 2019, dalam 'The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power', mengemukakan gejala itu. Terdapat praktik kekuasaan yang menihilkan kebebasan, yang diusahakan manusia lewat pengembangan ilmu pengetahuan dan teknologi. Seluruhnya mewarnai peradaban hari ini.

Menurutnya, manusia hari ini masuk ke dalam suatu bentuk penindasan ekonomi baru. Cara kerjanya sangat berbeda dibanding era kapitalisme sebelumnya. Seluruh perkembangannya tak lepas dari sejarah kehancuran perusahaan-perusahaan dotcom di Amerika. Kehancuran yang terjadi di awal tahun 2000-an itu, traumatis. Melahirkan kehati-hatian, yang bahkan takarannya cenderung berlebihan. Takaran yang kemudian diwujudkan dalam teknologi, yang digunakan luas. Pemanfaatannya yang massif menihilkan kesalahan, seraya mencapai kepastian. Teknologi diterapkan melalui pengumpulan data khalayak yang sistematis, berikut pengolahannya. Hasilnya berupa peta keinginan khalayak, akurat hampir tanpa kesalahan. Teknologi yang diterapkan, sebagai bentuk pengawasan.

Apple sebagai perusahaan global di bidang teknologi misalnya, menerapkan pengawasan saat melakukan penjualan produk inovatifnya. Konsumsi yang terjadi seakan alamiah, didasari pilihan konsumen. Namun yang sesungguhnya terjadi, terdapat penerapan pengawasan. Teknologi yang dikembangkan Apple, mampu membaca dan menuntun kehendak konsumen dalam membuat keputusan. Perilaku konsumen didorong oleh aksinya sendiri, yang terbaca lewat teknologi pengawasan.  
Implikasi seluruh pengembangan teknologi macam ini, yang semula hendak menciptakan manfaat tanpa memandang kelas. Juga mewadahi pembebasan berekspresi khalayak lewat penyediaan media, pupus. Para pengembang platform digital maupun pemilik kapital raksasa, seperti Jeff Bezos, Mark Zuckerberg, Elon Musk dan Larry Page, justru menciptakan penumpukan kapital lewat teknologi pengawasan.

Kapitalisme pengawasan berbeda dari kapitalisme yang menumpuk surplus dari pemanenan dan penambangan sumber daya alam. Juga eksploitasi tenaga manusia, yang dipaksa produktif. Kapitalisme pengawasan bekerja dengan mengumpulkan data yang ditinggalkan para pengguna teknologi, digital path. Karenanya informasi hari ini, jadi minyak baru, new oil. Informasi sebagai bahan komodifikasi, membangun pundi-pundi kuntungan kapitalis.

Lebih jauh Zuboff menguraikan pikirannya dengan mengkomparasi pengawasan, dari jenis kapitalisme yang berbeda ini. Menurutnya, pengawasan bukan praktik sosial baru. Sudah sejak lama dilaksanakan, dan jadi alat pelanggengan kekuasaan. Hanya saja di era kapitalisme lama, pengawasan lebih didominasi negara. Dengan pemerintah sebagai aparatusnya. Pada pengawasan oleh negara, tujuannya untuk menghalangi kehendak bebas warga negara. Ini agar warga negara tak hanya disibukkan dengan tuntutan atas haknya. Negara lewat pengawasan, hendak menciptakan kepatuhan. Seluruhnya demi tercapainya tujuan negara. Sedangkan pada pengawasan yang dijalankan kapitalisme zaman ini, justru bertujuan mengeksploitasi kehendak bebas khalayak. Kehendak bebas yang didorong manifestasinya, agar terjadi mobilisasi yang luas. Seluruhnya berguna untuk mewujudkan kehendak perusahaan, lewat konsumsi.

Pemanfaatan Facebook, Instagram, Tiktok, maupun jenis media digital yang lain, tak lepas dari skenario ini. Interaksi khalayak dengan platform yang menghasilkan digital path, dimanfaatkan untuk memprediksi pilihan konsumen. Prediksi yang kemudian dijual kepada pemasar, guna menciptakan iklan tertarget. Iklan yang langsung diserap konsumen, seakan sebagai kehendak konsumsinya. Itulah pikiran-pikiran Zuboff, seorang guru besar emeritus, dari Harvard Business School. Seorang akademisi yang tersohor akibat penelitiannya, perihal teknologi informasi yang dikembangkan sebagai pengawasan perusahaan.

Dalam kemutahiran hari ini, pengawasan negara maupun pengawasan perusahaan, tak terpisahkan. Keduanya terjalin berkelindan, tanpa batas yang jelas. Hadir membentuk panopticon. Suatu bentuk pengawasan yang digagas Filsuf Inggris Jeremy Bentham, yang mengandalkan perasaan terus terawasi di tengah keterbatasan pengawas. Di bawah panopticon, tak ada perilaku khalayak sebagai warga negara maupun konsumen yang luput dari pengawasan.
Ilaria Mazzocco, 2022, lewat tulisannya yang berjudul, 'The AI-Surveillance Symbiosis in China', mengambarkan penggunaan teknologi pengawasan hari ini. Kecanggihannya ditingkatkan lewat pemanfaatan artificial intelligence, AI. Mazzocco adalah perempuan penulis, juga anggota dari Trustee Chair in Chinese Business and Economics di Center for Strategic and International Studies (CSIS).

Dalam uraiannya, yang merupakan narasi berdasar hasil penelitian David Y. Yang, Lektor Kepala di Departemen Ekonomi di Universitas Harvard, dan Prof. Noam Yuchtman, Guru Besar Ekonomi dan Strategi Manajerial dan Global British Academy di London School of Economics, England, disebutkan: di tengah perdebatan soal hak sipil dan hak asasi manusia, penerapan aplikasi teknologi pengawasan berbasis AI, terus berlangsung. Pengawasan berciri panopticon, diaplikasikan lewat pengoperasian kamera keamanan dan drone yang digabung kamera pengenal wajah berbasis AI. Angkanya terus meningkat di 20 tahun terakhir ini.

Di Amerika Serikat, jumlah kamera pengawas meningkat 50% sejak 2015 hingga 2018. Dan diperkirakan pertambahannya mencapai 85 juta perangkat, pada tahun 2021. Di antara kamera yang dioperasikan itu, terdapat milik pribadi. Sehingga tak seluruhnya dapat menampilkan pengenalan wajah atau objek tertentu. Kemampuannya sebatas merekam video secara langsung. Sedangkan di Cina, keadaannya tak jauh berbeda. Pengoperasian berbagai perangkat pengawasan berbasis AI, diiringi kekhawatiran terjadinya pelanggaran privasi. Ini mendorong pengesahan Undang-Undang Perlindungan Informasi Pribadi maupun Undang-Undang Keamanan Data. Dengan 2 undang-undang ini, Cina merupakan negara yang manajemen datanya, paling sistematis di dunia.

Namun demikian, tanpa sistem teknologi pengawasan berbasis AI pun, aparatus keamanan Cina merupakan institusi yang terampil mengenali dan mengindentifikasi tersangka kriminal. Juga pembangkang negara. Adanya AI pada perangkat pengawasan hari ini, sekedar meningkatkan kemampuan institusi. Teknologi pengawasan dalam perkembangan terkininya, mampu mengenali dan mengidentifikasi wajah warga negara yang berlatar belakang Suku Uyghur, dari provinsi Xinjiang. Warga negara yang dianggap sebagai kelompok yang sering membangkang pada otoritas kekuasaan. Penggunaan teknologi pengawasan berbasis AI untuk menekan kelompok tertentu ini, memancing pemberian sanksi oleh Amerika, kepada beberapa perusahaan di Cina.

Pada penerapan lain di Cina, teknologi pengawasan digunakan untuk menyusun sistem kredit sosial, social credit system (SCS). SCS merupakan daftar yang dikembangkan pemerintah, guna mengelompokkan warga negara berdasar perilaku sosial maupun eknominya. Pada warga negara yang tak pernah melanggar hukum, lalu lintas maupun pelanggaran lainnya, saat berutang dibayar sesuai janji, juga punya kehidupan sosial yang baik akan memperoleh kemudahan mengakses fasilitas sosial. Bahkan dapat mengajukan utang ke bank, tanpa prosedur yang rumit.  Jika sebaliknya yang terjadi, warga negara macam ini, tak diijinkan ada di fasilitas publik menggunakan transportasi umum, berada di bandara atau pusat perbelanjaan, kecuali dikawal.

Muncul pertanyaan dalam penerapannya: apakah ada jaminan kategori maupun kriteria yang digunakan dalam SCS, bebas dari bias? Apakah ada jaminan warga negara tak salah mendapat keistimewaan atau justru ada yang terdegradasi secara sosial? Pengembangan ilmu pengetahuan maupun teknologi sebagai pengawasan, justru menampilkan kekuasaan yang menghilangkan kebebasan manusia. Manusia jatuh kembali dalam penderitaannya, di tengah perkembangan ilmu pengetahuan dan teknologi. Masih percayakah: ilmu pengetahuan maupun teknologi, terjamin selalu netral?

*) Penulis adalah Pemerhati Budaya dan Komunikasi Digital dan pendiri LITEROS.org

**) Tulisan ini merupakan tanggung jawab penulis, bukan pandangan Urbanasia