Kediktatoran Mesin: Kala Mesin Merebut Kuasa Manusia

Jakarta - Menelaah reaksi terhadap perkembangan teknologi yang makin menguasai kehidupan manusia, Malcolm Frank, Paul Roehrig dan Ben Pring, 2017 dalam “What to Do When Machine Do Everything”, membagi 3 kelompok sikap yang muncul. Tiga kelompok itu, pertama: dystopians, Para dystopians menganggap teknologi merupakan ancaman nyata bagi kehidupan manusia.

Perkembangannya terus berlangsung, melampaui kebutuhan. Ini justru memosisikan manusia dalam keadaan bahaya. Manusia bakal dikuasai teknologi. Tokoh dunia yang jadi penyokong pandangan ini, di antaranya: Elon Musk, Stephen Hawking dan mungkin juga Geoffrey Hinton, termasuk dalam kelompok ini.

Nama yang disebut terakhir ini adalah ilmuwan yang kerap dianggap sebagai guru besar ternama di bidang artificial intelleigence (AI). Hinton yang telah bergabung selama 10 tahun terakhir di Google, pada Bulan Mei 2023 mengundurkan diri dari perusahaan raksasa informasi dunia itu.

Ini lantaran Hinton khawatir dengan pengembangan AI termutakhir, yang membawa ancaman bagi eksistensi peradaban manusia. Sementara Google, termasuk di antara perusahaan-perusahaan yang intensif perhatiannya pada pengembangan AI.

Sedangkan kelompok kedua, disebut utopians. Kelompok ini memandang teknologi sebagai hal yang menakjubkan. Kehadirannya dapat diandalkan memecahkan berbagai permasalahan yang dihadapi manusia.

Termasuk dalam kelompok ini adalah Ray Kurzweil, Peter Diamandis, Don Topscott, dan mungkin juga Ginni Rometty, mantan CEO IBM. Rometty memandang teknologi yang berkembang, termasuk yang berbasis AI, sebagai komplementer kecerdasan alamiah manusia.

Keberadaannya relevan berfungsi, saat ekosistem teknologi kian berkembang, menjauhi kelamiahan kecerdasan manusia. AI dapat diandalkan untuk memberi respon pada tuntutan kecerdasan di luar kemampuan manusia.

Dan kelompok ketiga, merupakan kelompok pragmatis. Kelompok ini memandang masa depan kemanusiaan bisa jadi hebat, jika dapat dibuat keputusan yang pintar dan praktis terhadap teknologi. Hidup menjadi lebih mudah dijalankan, efisien dan cepat.

Termasuk dalam kelompok ketiga ini, Steve Wozniak, Satya Nadella, Sundar Pichai, Marc Benioff dan juga ketiga penulis di atas ~yang pendapatnya dikutip jadi pembuka tulisan ini.

Menyikapi para dystopians, walaupun kelompok ini tak menolak realitas utopians dan teknologis pragmatis, argumennya patut diperhatikan. Perspektif kelompok ini, terbangun secara sistematis. Jika seluruhnya kemudian memunculkan sikap pesimis terhadap teknologi, memang banyak buktinya.

Elon Musk yang seksama memperhatikan perkembangan DeepMind, meyakini: kurang dari 5 tahun sejak kekhawatirannya dilontarkan, manusia bakal dikalahkan teknologi berbasis AI. Dan hari ini memang nampak jelas posisi manusia versus DeepMind itu. Seluruhnya, tentu bukan tujuan pengembangan teknologi.

Dalam realitas yang lebih luas, tak sekejap pun waktu berlalu tanpa adanya penemuan terbaru teknologi. Berbagai aplikasinya, telah dimanfaatkan seiring perjalanan hidup manusia. Teknologi yang dalam sejarahnya jadi bagian untuk kemudahan hidup manusia, hari ini berbeda wataknya.

Perkembangannya, menggerus kuasa manusia. Seluruh gejala itu mulai nampak dalam 5 dekade terakhir. Dalam kurun 50 tahun terakhir, kepesatan perkembangan teknologi bukan sekedar memudahkan hidup manusia. Sebaliknya, jadi pengganti dan pengendali manusia. Manusia justru masuk dalam perangkap kuasa teknologi.

Karenanya tak berlebihan ketika Clayton Christensen, 1995, seorang pebisnis dan akademisi Harvard Business School, lewat bukunya, “The Innovator's Dilemma” mencetuskan konsep tentang disrupsi. Pengertian awal saat konsep itu diungkapkan, adalah munculnya inovasi yang bersifat mengganggu keberadaan produk atau proses lama.

Inovasi yang semula tak diperhitungkan, dalam prosesnya berubah menjadi cukup populer. Kehadirannya mampu menggantikan produk atau proses konvensional.

Pada penerbitan berikut bukunya, “The Innovator's Solution”, Christensen, 1997, mengganti istilah disruptive, dengan disruptive Innovation. Istilah inovasi disruptif ini, sering disalahgunakan pada pelibatan teknologi baru yang lebih baik atau menggantikan teknologi yang sudah ada. Namun itulah realitasnya, kehadiran teknologi hasil pengembangan baru, jadi penggusur pola-pola lama.

Dalam penglihatan Christensen, pelibatan teknologi baru itu memungkinkan pemain baru melayani segmen pasar yang lebih rendah. Ini tak terjangkau oleh pemain lama. Pemain lama hanya mampu menghasilkan keuntungan yang rendah.

Di sini, lewat penggunaan teknologi baru yang disruptif, kualitas produk dan proses yang dihasilkan meningkat. Terjadi pergantian perusahaan lama di pasar kelas atas, oleh perusahaan yang lebih kecil namun menerapkan teknologi baru. Sehingga teknologi baru dalam terminologi disrupsi ini, adalah pengubah struktur lama.

Yang diubah termasuk manusia, beserta proses-proses yang dijalankannya. Seluruhnya mengalami penyusunan ulang untuk menghasilkan struktur baru. Nampak, konsepsi Clayton Christensen soal disruptif lebih populer diterapkan pada kemunculan teknologi baru, yang mengubah struktur lama.

Inovasi distruptif yang mengubah struktur seraya menghasilkan struktur baru ini, tak terbatas pada bidang bisnis.

Yang terjadi dalam 50 tahun terakhir, penerapan teknologi baru di bidang pabrikasi barang, kehadiran kendaraan tanpa awak, layanan kesehatan berbasis sensor, peracik makanan, komunikasi nirkehadiran, pengawasan massal berbasis kamera, maupun perang antar negara tanpa tentara, seluruhnya menihilkan peran manusia. Manusia sebagai bagian produk dan proses lama tergerus kuasanya.

Dari relasi baru ini, di satu sisi terjadi pemuliaan fungsi manusia. Manusia bukan sebagai pelayan mesin pabrik, operator mesin, pemeriksa indkator kesehatan, penyaji makanan, pelaku pengawasan maupun tentara yang berisiko mengalami luka maupun  kematian dalam peperangan.

Manusia difungsikan sebagai mahluk berakal yang mulia. Namun di sisi lain, tanpa adanya peran yang lebih dibanding teknologi, menjatuhkan manusia dalam keadaan tanpa kuasa. Tanpa relevansi dalam hidup, manusia justru kehilangan martabatnya.

Menggunakan pendulum sebagai ilustrasi relasi manusia dengan teknologi, gerakannya selalu dinamis. Beranjak dari “dikuasai manusia” ke “menguasai manusia”. Dan andainya tiap pemimpin dunia punya visi mengendalikan manusia sepenuhnya, penerapan teknologi pasti mengantarnya mencapai tujuan.

Penggunaan teknologi untuk mencapai ketundukan warga negara pasti tercapai. Gambaran ini pun telah mengemuka bertahun tahun silam. George Orwell, 1949, dalam novelnya “1984” menarasikan, betapa teknologi intensif memasuki ruang-ruang privat warga negara. Relasi, bacaan maupun pikiran yang menghinggapi tiap warga negara, tak lepas dari pengawasan. Lewat teknologi ketundukan dihasilkan.

Jika dalam novel ini masih terdapat aparatus negara di balik teknologi pengawasan, perkembangan teknologi yang senyatanya hari ini, meniadakan peran manusia. Manusia hanya tunduk pada pengawasan teknologi itu sendiri. Contoh nyatanya adalah penerapan social credit system di Cina.

Ekosistem teknologi di negara itu: aplikasi belanja, pembayaran, games, pemantau kesehatan, aplikasi transportasi, yang digabung dengan kamera yang tersebat di seluruh pelosok negara, digunakan sebagai pemanen data perilaku warga negaranya.

Data yang dipanen digunakan untuk menyusun skor perilaku sosial warga negara, yang dibagikan sebagai peringkat pencapaian.

Terhadap warga negara dengan skor peringkat pencapaian tinggi, diperoleh ganjaran berupa layanan sosial yang prima. Bahkan dapat memperoleh pinjaman dari bank, visa perjalanan ke luar negeri, dengan karpet merah akan dibentangkan.

Tak perlu lewat prosedur yang rumit. Skor sosial yang tinggi, mendatangkan kenikmatan. Sebaliknya bagi warga negara dengan skor pencapaian menengah bahkan rendah, terdapat pengurangan-pengurangan layanan sosial.

Bahkan ada larangan untuk menikmati fasilitas publik bagi warga negara dengan skor rendah. Kecuali dalam keadaan sangat membutuhkan, warga negara dengan skor rendah ini, dapat menikmati layanan namun dengan kawalan aparat keamanan.

Keterlibatan manusia sebagai pengawas sangat minimal. Kepatuhan warga negara, pada hakikatnya ditujukan pada teknologi. Kalaupun terdapat upaya peretasan, atau ketakpatuhan pada sistem yang diterapkan, teknologi yang melayani kebutuhan akan mencatatnya sebagai tindakan kriminal.

Warga negara dijatuhkan di posisi kepatuhan terendah. Penjara menanti. Negara dalam realitasnya tak turut campur pada keadaan ini. Relasi dengan teknologi yang sepenuhnya menangani keadaan.

Yang dijalankan negara Cina tak lain adalah kediktatoran mesin. Negara menyerahkan sistem pengawasan sepenuhnya pada ekosistem teknologi. Kepatuhan 1.4M manusia di negara itu nyata tercapai. Namun pastikah seluruhnya bekerja akurat? Mampukah sistem yang diterapkan mengahasilkan kepatuhan yang membahagiakan? Di manakah dialog, yang merupakan alat alamiah relasi sosial dimanfaatkan?

Untuk mencegah teknologis pragmatis yang menghasilkan keditatoran mesin meluas, sudah saatnya pemahaman terhadap perubahan yang terbawa oleh teknologi, pengawasan pengembangan teknologi dan penegakan hukum implikasi teknologi harus dimulai. Seluruhnya untuk mencegah terjadinya keadaan terlanjur. Terlanjur tersingkirnya kuasa manusia, oleh mesin dalam kediktatorannya.