Buku karya Kate Crawford dengan judul asli berbahasa Inggris “The Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence” ini diterbitkan pada 06 April 2021 oleh Yale University Press. Jumlah keseluruhan halamannya adalah 336 halaman.
Selain itu, buku ini terdiri atas pendahuluan, beberapa isi pembahasan, penutup, dan kata terakhir. Kate Crawford sendiri adalah seorang peneliti terkemuka di bidang dampak sosial dan politik dari AI(kecerdasan buatan).
Ia merupakan profesor riset di Universitas USC Annenberg, peneliti utama di Microsoft Research, serta profesor kehormatan di Universitas Sydney. Karya-karya akademiknya telah diterbitkan di berbagai jurnal ilmiah seperti Nature, New Media & Society, Science, Technology and Human Values, serta Information, Communication & Society.
Sinopsis Buku
Buku ini membahas berbagai cara “membangun” kecerdasan buatan (AI) dalam makna yang paling luas, serta faktor-faktor ekonomi, politik, budaya, dan historis yang memengaruhinya.
Penulis menekankan pentingnya memperluas wawasan dan pemahaman kita terhadap perkembangan di dalam imperium AI, guna mengantisipasi potensi ancaman dan membuat keputusan kolektif terkait langkah-langkah penting berikutnya.
Buku ini menunjukkan bahwa visi-visi di balik AI tidak muncul begitu saja, melainkan dibentuk dari serangkaian pandangan dan perspektif bahwa para perancang AI hanyalah sekelompok kecil orang yang tinggal di beberapa kota dan bekerja di industri paling kaya di dunia, dan bahwa AI kini memainkan peran penting dalam membentuk pengetahuan, membangun pola komunikasi, serta menentukan peta kekuasaan.
Penulis menyatakan bahwa menyelaraskan pekerjaan manusia dengan gerakan berulang robot dan jalur perakitan otomatis selalu menuntut kontrol atas tubuh secara spasial dan temporal, dan bahwa koordinasi waktu merupakan inti dari manajemen tempat kerja.
Ia menggambarkan jenis-jenis sumber daya yang terlibat dalam pembuatan perangkat keras dan kekuatan komputasi, serta pemeliharaannya. Penulis juga menyoroti bagaimana pengalaman kerja telah bergeser ke arah peningkatan pengawasan, evaluasi algoritmik, dan penyesuaian waktu kerja.
Buku ini membahas peran data dalam pengembangan AI, terutama dalam konteks penggunaan semua materi digital yang tersedia untuk umum seperti data pribadi atau data yang berpotensi berbahaya sebagai data pelatihan dalam membangun model AI.
Penulis mengangkat teknik klasifikasi dalam sistem AI, dan menyoroti bagaimana sistem-sistem modern sangat bergantung pada label dan klasifikasi dalam mengidentifikasi manusia yang sering kali menggunakan dikotomi gender, kategori ras, serta penilaian kabur tentang kepribadian dan kelayakan kredit.
Buku ini juga memandang penggunaan sistem AI sebagai salah satu alat untuk memperkuat kekuasaan negara, dan membahas perannya dalam mereproduksi, memperhalus, serta memperbesar ketimpangan struktural yang sudah ada, terutama saat digunakan dalam konteks sosial seperti kepolisian, sistem peradilan, layanan kesehatan, dan pendidikan.
Penulis menjelaskan bahwa infrastruktur dan bentuk-bentuk kekuasaan yang memungkinkan keberadaan AI dan yang diperkuat oleh AI cenderung sangat terpusat. Ia juga menunjukkan adanya jurang besar antara sektor militer dan sipil dalam bidang AI, serta menegaskan bahwa “perang AI” memperkuat politik ketakutan dan ketidakstabilan, yang pada akhirnya menciptakan iklim.
Yang akhirnya dapat dimanfaatkan untuk membungkam oposisi domestik dan memperkuat dukungan tanpa syarat terhadap agenda-agenda nasionalistik.
Pendahuluan buku ini mengemukakan gagasan utama yang menjadi dasar kecerdasan buatan, serta memberikan contoh berbagai kekurangan dalam cara-cara yang mungkin membuat kecerdasan buatan menggantikan kecerdasan alami.
Penulis mengangkat contoh “Efek Kuda Hans yang Cerdas”, yang juga dikenal sebagai “efek ekspektasi pengamat”, untuk menggambarkan dampak dari isyarat-isyarat tak sengaja yang diberikan peneliti kepada subjek penelitian, yang cenderung menjawab berdasarkan sinyal-sinyal tak langsung dari si penanya.
Penulis menjelaskan bagaimana bias-bias kompleks dapat menyusup ke dalam sistem, serta kedekatan emosional para peneliti dengan fenomena yang mereka pelajari. Ia menggunakan “Efek Kuda Hans yang Cerdas” dalam konteks pembelajaran mesin untuk mengingatkan bahwa kita tidak selalu dapat memastikan sejauh mana sebuah model mesin benar-benar “belajar” dari data yang diberikan.
Bahkan sistem yang tampaknya unggul dalam pelatihan bisa saja memberikan prediksi yang aneh ketika dihadapkan pada data baru di dunia nyata. Terdapat dua asumsi keliru yang sering melekat pada gagasan tentang AI (kecerdasan buatan).
Pertama, bahwa sistem non-manusia hanyalah tiruan dari cara kerja otak manusia.Pandangan ini meyakini bahwa kecerdasan yang menyerupai manusia dapat diciptakan dari nol melalui pelatihan yang cukup atau dengan menyediakan sumber daya yang memadai, tanpa mempertimbangkan bagaimana manusia secara hakiki diwujudkan dalam bentuk fisik, hubungan sosial, dan posisi mereka dalam sistem kosmik yang lebih luas.
Kedua, bahwa kecerdasan merupakan entitas mandiri, seolah-olah ia ada secara alami dan terlepas dari pengaruh sosial, budaya, sejarah, dan politik. Penulis menegaskan bahwa konsep kecerdasan selama berabad-abad telah menimbulkan kerusakan besar, dan sering digunakan untuk membenarkan hubungan-hubungan dominasi, mulai dari perbudakan hingga eugenika (ilmu semu yang bias rasial dan telah kehilangan legitimasi ilmiah).
Penulis menyatakan bahwa kecerdasan buatan sesungguhnya bukanlah “buatan” dan bukan pula “cerdas”. Ia bersifat jasmani dan material, dibentuk dan dikembangkan melalui sumber daya alam, bahan bakar, tenaga manusia, infrastruktur, logistik, sejarah, dan klasifikasi-klasifikasi sosial.
Sistem-sistem kecerdasan buatan tidak bersifat otonom, tidak sadar, dan tidak mampu membedakan apa pun tanpa pelatihan komputasional yang intensif yang menggunakan basis data besar atau aturan-aturan yang telah ditetapkan sebelumnya. Sistem ini sepenuhnya bergantung pada struktur sosial dan politik berskala besar, dan dirancang untuk melayani kepentingan dominan yang ada saat ini.
Istilah “kecerdasan buatan” mungkin menimbulkan kegelisahan di kalangan komunitas ilmu komputer. Oleh karena itu, istilah “pembelajaran mesin” lebih umum digunakan dalam literatur dan karya-karya teknis.
Sementara itu, individu atau perusahaan yang ingin memperoleh pendanaan untuk proyek atau usaha mereka cenderung menggunakan istilah “kecerdasan buatan”, begitu pula para peneliti yang ingin menarik perhatian media dan publik terhadap temuan ilmiah terbaru.
Kecerdasan buatan merupakan salah satu bentuk ekspresi politik, meskipun jarang diakui secara terbuka. Saat ini, “imperium besar kecerdasan buatan”, yang terdiri dari sekitar enam perusahaan besar, mendominasi komputasi global skala besar dan mengarahkan kebijakan-kebijakan yang terkait dengannya.
01- Earth (Bumi)
Bab ini mengulas berbagai jenis sumber daya yang digunakan dalam pembuatan perangkat keras dan tenaga komputasi, serta dalam pemeliharaannya. Tambang litium di kawasan Silver Peak, Negara Bagian Nevada, merupakan satu-satunya tambang aktif di Amerika Serikat yang menambang logam tersebut.
Karena itu, tambang ini menjadi pusat perhatian para raksasa teknologi, seperti Elon Musk, untuk memproduksi baterai yang dapat diisi ulang. Diketahui bahwa perusahaan Tesla mengonsumsi lebih dari setengah total konsumsi global lithium hydroxide setiap tahunnya.
Mobil listrik bukanlah solusi sempurna bagi masalah emisi karbon dioksida, karena proses penambangan, peleburan, ekspor, perakitan, dan transportasi dalam rantai pasokan baterainya menimbulkan dampak lingkungan yang sangat besar.
Ketika istilah “kecerdasan buatan” disebutkan, yang langsung terbayang biasanya adalah algoritma, data, dan sistem komputasi awan. Namun tanpa logam dan sumber daya alam yang digunakan untuk memproduksi komponen-komponen penting dari komputer, semuanya tidak akan dapat berfungsi sebagaimana mestinya.
Saat ini dunia sedang mengeksploitasi kekayaan geologis bumi yang telah tersimpan selama jutaan tahun, hanya untuk digunakan demi layanan yang bertahan “sepersekian detik” dalam era teknologi modern.
Perangkat elektronik dirancang hanya bertahan beberapa tahun saja, menciptakan siklus keusangan yang mendorong kita untuk terus membeli perangkat baru demi meningkatkan keuntungan perusahaan dan akhirnya semua perangkat itu berakhir di tempat pembuangan sampah.
Dalam konteks perangkat lunak, pembangunan model computer vision (bidang komputer yang berusaha memahami gambar sebagaimana manusia memahaminya) dan natural language processing(pemrosesan bahasa manusia) mengonsumsi energi dalam jumlah yang sangat besar.
Persaingan untuk menciptakan model yang lebih cepat dan efisien daripada sebelumnya telah mendorong pengembangan metode komputasi intensif yang secara signifikan menambah jejak karbon dari kecerdasan buatan. Teknologi-teknologi seperti komputasi awan juga mengonsumsi energi dalam jumlah sangat besar, dan kini menjadi sumber kekhawatiran utama karena jejak karbonnya.
Perkiraan menunjukkan bahwa sektor teknologi akan menyebabkan sekitar 14 persen dari total emisi gas rumah kaca global pada tahun 2040, dan permintaan listrik dari pusat-pusat data saja diperkirakan akan meningkat 15 kali lipat pada tahun 2030.
02- Labor (Tenaga Kerja/ Buruh/Pekerjaan)
Dalam bab ini, penulis memilih untuk tidak ikut serta dalam perdebatan tentang kemungkinan robot menggantikan manusia. Sebaliknya, ia memusatkan perhatian pada perubahan dalam pengalaman kerja itu sendiri, yang kini bergerak menuju peningkatan pengawasan, evaluasi algoritmik, dan pengaturan waktu kerja.
Penulis menegaskan bahwa kecerdasan buatan sejatinya adalah hasil dari jerih payah manusia. Teknologi kecerdasan buatan membutuhkandan sekaligus menciptakan kondisi yang mendukung mekanisme manajemen waktu yang sangat rinci dan terstruktur.
Oleh karena itu, penulis membandingkan kerja sama antara manusia dan kecerdasan buatan saat ini dengan kerja sama antara manusia dan mesin selama era revolusi industri.
Pengaturan dan koordinasi waktu kerja buruh menuntut adanya informasi terperinci tentang jenis pekerjaan mereka, bagaimana cara menyelesaikannya, dan kapan waktu pelaksanaannya. Contoh terbaik dari bentuk koordinasi ini adalah pusat pemenuhan pesanan milik Amazon, yaitu gudang distribusi yang menerapkan proses logistik dan prosedur standar paling mutakhir.
Seluruh aktivitas kerja di gudang tersebut diawasi secara ketat dan tidak ada satu detik pun yang terbuang, demi memastikan efisiensi dan efektivitas maksimum. Para pekerja menjalani sistem kerja shift selama 10 jam, dengan jeda istirahat 15 menit dan waktu makan 30 menit yang tidak dibayar.
Unsur manusia tetap menjadi komponen paling penting dalam gudang-gudang ini, karena merekalah yang menjalankan tugas-tugas kompleks yang belum bisa dilakukan oleh robot, seperti menyusun barang-barang ke dalam kontainer dan memuatnya ke atas truk untuk dikirim ke pelanggan.
Banyak perusahaan berusaha meniru pendekatan yang diterapkan oleh Amazon, dengan berinvestasi besar-besaran dalam sistem otomatisasi guna meningkatkan produktivitas secara berkelanjutan dengan jumlah pekerja yang terus menurun.
Seiring dengan semakin meluasnya lingkungan kerja berbasis kecerdasan buatan, kemampuan sistem-sistem pengawasan dan pelacakan dasar pun ikut berkembang melalui integrasi dengan kemampuan prediktif baru. Mekanisme ini kini digunakan secara luas dalam manajemen tenaga kerja, pengendalian aset, dan ekstraksi nilai.
Bab ini juga menyajikan contoh berbagai layanan atau sistem daring yang dikira sepenuhnya dijalankan oleh kecerdasan buatan. Padahal, kenyataannya adalah banyak individu bekerja di balik layar dengan melakukan tugas-tugas rutin tak terhitung jumlahnya dalam pekerjaan yang melelahkan.
Ironisnya, kerja keras ini justru memperkuat ilusi bahwa layanan tersebut sepenuhnya otomatis dan tersedia selama 24 jam. Biaya nyata dari aktivitas semacam ini tetap tidak diketahui. Namun demikian, hal tersebut merupakan bagian dari budaya eksploitasi, di mana orang-orang melakukan pekerjaan berat dan monoton untuk mendukung sistem yang diotomatisasi.
Dengan imbalan yang mungkin kurang efisien atau dapat diandalkan dibandingkan dengan metode sebelumnya, dengan harapan bahwa penerapan pendekatan tersebut akan menghasilkan lonjakan produksi, penurunan biaya, dan peningkatan keuntungan.
03- Data (Data)
Bab ini menyoroti peran data, terutama dalam konteks kemungkinan penggunaan materi digital seperti data pribadi atau data yang berpotensi menimbulkan kerugian sebagai data pelatihan untuk membangun model kecerdasan buatan.
Digunakanlah kumpulan data besar yang dipenuhi dengan gambar orang, gerakan tangan, pengemudi mobil, serta anak-anak yang menangis, untuk menyempurnakan algoritma yang menjalankan fungsi seperti pengenalan wajah, teks prediktif, dan deteksi objek.
Ketika kumpulan data tidak lagi dipandang sebagai materi pribadi, melainkan semata-mata sebagai infrastruktur, maka makna dari suatu gambar tertentu, video tertentu, atau konteks keduanya, menjadi tidak lagi relevan.
Penulis menyajikan gambaran singkat tentang sejarah pembelajaran mesin dan kebutuhan akan jumlah data pelatihan yang sangat besar. Ia menyatakan bahwa perkembangan sistem kecerdasan buatan meningkat seiring bertambahnya volume data yang dimasukkan.
Dalam bidang pemrosesan bahasa manusia, data linguistik dan ujaran tidak dapat dianggap sebagai data yang netral, karena teks-teks yang dikumpulkan mengandung perbedaan, cacat, dan bias, sebab semua teks itu hanyalah cerminan dari zaman, tempat, budaya, dan politiknya.
Oleh karena itu, bahasa-bahasa yang kekurangan ketersediaan data umumnya tidak mendapatkan manfaat dari pendekatan ini dan tertinggal dalam perkembangan. Saat ini, data telah menjadi salah satu bentuk modal. Oleh sebab itu, memandang segala sesuatu di dunia ini sebagai data menjadi justifikasi bagi meningkatnya siklus ekstraksi data secara terus-menerus.
Praktik penggunaan data dalam bidang kecerdasan buatan yang ada saat ini menimbulkan badai persoalan etis, metodologis, dan epistemologis yang besar, meskipun ada isu-isu serius yang melingkupi soal kerahasiaan dan “kapitalisme pengawasan”, yakni praktik perusahaan dalam mengumpulkan dan mengomersialkan data pribadi secara masif.
Sepuluh tahun terakhir telah menunjukkan pengumpulan materi digital dalam jumlah sangat besar untuk menghidupkan kecerdasan buatan. Data ini menjadi fondasi utama bagi AI(kecerdasan buatan) untuk mengembangkan logika yang dapat diterapkan dalam dunia nyata bukan sebagai representasi tradisional dunia secara individual, tetapi sebagai kumpulan data yang digunakan dalam abstraksi dan proses otomatisasi.
Pengumpulan data berskala luas ini telah menjadi aspek yang sangat mendasar bagi kecerdasan buatan sehingga tidak bisa lagi diperdebatkan. Bab ini menggambarkan penggunaan “data pelatihan” yang digunakan oleh kecerdasan buatan untuk mengasah keterampilan penalarannya. Disebutkan bahwa data tersebut merupakan fondasi bagi sistem pembelajaran mesin modern, serta menjadi batas pengetahuan yang mengatur cara kerja kecerdasan buatan. Kumpulan data ini menetapkan batas sejauh mana kecerdasan buatan dapat “melihat” dunia ini.
04- Classification (Klasifikasi)
Bab ini membahas teknologi klasifikasi dalam sistem kecerdasan buatan, dan menyoroti bagaimana sistem AI kontemporer menggunakan label (penanda) untuk mengidentifikasi individu. Sering kali berdasarkan dikotomi gender, kategori ras, serta penilaian ambigu terhadap kepribadian dan kelayakan kredit.
Penulis mengulas metode yang digunakan dalam menetapkan klasifikasi tersebut untuk menggali bagaimana aturan penalaran teknis menciptakan hierarki tertentu dan memperparah ketimpangan. Sebab klasifikasi yang dipilih dalam membangun suatu sistem teknologi bisa memainkan peran sentral dalam membentuk wajah kehidupan sosial dan material di sekitar kita.
Pembelajaran mesin memungkinkan pembangunan sistem penalaran normatif (yakni sistem yang mengekspresikan penilaian terhadap suatu situasi atau objek, dengan menyebutnya baik atau buruk, lebih baik atau lebih buruk, berdasarkan standar atau alternatif tertentu), dan seiring berkembangnya sistem tersebut, ia berubah secara bertahap menjadi logika yang dominan dan menguasai.
Praktik klasifikasi ini menunjukkan bagaimana kecerdasan mesin dikenali dan diproduksi dari laboratorium universitas hingga industri teknologi, di mana artefak-artefak dunia diubah menjadi data melalui metode deduksi, analogi, deskripsi, dan pengurutan.
Hal ini, baik secara disengaja maupun tidak, menciptakan semacam realitas palsu bagi sistem teknologi yang dilatih berdasarkan data tersebut. Ketika sistem kecerdasan buatan menghasilkan hasil yang bersifat diskriminatif berdasarkan klasifikasi ras, kelas sosial, gender, disabilitas, atau usia, maka perusahaan-perusahaan pun menghadapi tekanan besar untuk memperbaiki sistem mereka atau mendiversifikasi data yang mereka gunakan.
Satu dekade lalu, kita tidak terbiasa membicarakan kemungkinan adanya masalah bias dalam kecerdasan buatan. Namun kini, telah muncul berbagai contoh perilaku diskriminatif dalam sistem-sistem AI, mulai dari bias gender dalam algoritma penilaian kredit milik perusahaan Apple, hingga bias usia yang diterapkan oleh Facebook dalam iklan-iklannya.
serta berbagai contoh lainnya yang belum terungkap atau belum diakui secara terbuka. Salah satu contoh nyata dari bias ini adalah ketika perusahaan Amazon memutuskan untuk melakukan uji coba otomatisasi dalam proses seleksi dan perekrutan tenaga kerja.
Untuk membuat model ini, para insinyur perusahaan menggunakan kumpulan data yang mencakup riwayat hidup (CV) yang telah dikumpulkan perusahaan selama sepuluh tahun untuk para karyawannya.
Namun, muncul masalah besar ke permukaan; sistem tersebut tidak merekomendasikan kandidat perempuan, dan memberikan penilaian rendah terhadap CV lulusan perguruan tinggi khusus perempuan, bahkan terhadap CV yang memuat kata “perempuan”.
Setiap kumpulan data yang digunakan dalam pelatihan sistem pembelajaran mesin memiliki sudut pandang tertentu terhadap dunia ini, entah itu bias atau tidak, dan dengan demikian menciptakan kumpulan pelatihan yang mereduksi dunia yang kompleks dan sangat beragam ini ke dalam sejumlah kategori terbatas.
Proses ini menuntut adanya pilihan-pilihan politik, budaya, dan sosial tertentu. Jika kita menelaah klasifikasi-klasifikasi tersebut, kita akan menemukan berbagai bentuk kekuasaan dan pengaruh yang tertanam dalam inti sistem kecerdasan buatan.
05- Affect (Pengaruh/Perasaan/Emosional)
Bab ini membahas sejarah gagasan bahwa jalan untuk mengetahui kondisi emosional batin seseorang terletak pada ekspresi wajahnya. Bab ini juga mengulas klaim Paul Ekman, seorang psikolog, yang menyatakan bahwa hanya ada sejumlah kecil emosi umum yang dapat dikenali melalui ekspresi wajah seseorang.
Namun, bukti yang mendukung klaim tersebut lemah. Hasil dari tinjauan komprehensif terhadap studi-studi ilmiah yang tersedia tentang kemungkinan mengidentifikasi emosi melalui pemahaman gerakan dan ekspresi wajah, yang diterbitkan pada tahun 2019bersifat tegas, yakni tidak ada bukti kuat yang menunjukkan bahwa ekspresi wajah dapat diandalkan untuk mendeteksi emosi secara akurat.
Ekman mendedikasikan sebagian besar kariernya untuk mempelajari makna dan manifestasi emosi. Salah satu aspek yang sangat memengaruhi studinya adalah keyakinan bahwajika emosi merupakan kumpulan respons evolusioner yang bersifat naluriah, maka emosi bersifat universal dan dapat dikenali lintas budaya.
Gagasan tentang emosi universal dan bersama ini menjadi dasar utama diterapkannya teori-teori tersebut secara luas pada sistem pengenalan dan pembacaan emosi berbasis teknologi kecerdasan buatan (AI) saat ini.
Perusahaan teknologi saat ini memanfaatkan gagasan ini dalam sistem pembacaan emosi, sebagai bagian dari industri yang diperkirakan akan bernilai lebih dari 17 miliar dolar. Militer, lembaga negara, badan intelijen, dan aparat kepolisian di seluruh dunia menganggap gagasan membaca emosi melalui sarana otomatis sebagai hal yang mendesak sekaligus bermanfaat.
Karena hal ini menjanjikan cara-cara yang dapat diandalkan untuk membedakan teman dari musuh, kebohongan dari kebenaran, serta untuk menyelami dunia batin seseorang melalui alat-alat ilmiah.
Meskipun terdapat perdebatan ilmiah yang terus berlangsung mengenai pembacaan emosi, serta ketidakstabilan landasan pemikiran yang mendasarinya, penggunaan alat-alat ini justru semakin meningkat dari hari ke hari dalam sistem perekrutan kerja, pendidikan, dan penegakan hukum.
Bahkan Silvan Tomkins, yang dianggap sebagai pendiri ilmu penelitian tentang emosi, mengakui bahwa penafsiran terhadap perasaan dan emosi dapat sangat bergantung pada konteks sosial dan budaya. Ia juga mengakui adanya perbedaan besar dalam “logat” bahasa wajah dari satu masyarakat ke masyarakat lainnya.
Oleh karena itu, penggunaan ekspresi wajah dalam pelatihan sistem pembelajaran mesin (machine learning) pasti akan menghasilkan campuran konteks, isyarat, dan ekspektasi yang berbeda-beda.
Ekman pernah bekerja untuk Departemen Pertahanan Amerika Serikat, tepatnya di Badan Proyek Penelitian Canggih (yang kini dikenal sebagai DARPA), dan kemudian memberikan konsultasi kepada berbagai pihak seperti Dalai Lama, FBI, CIA, Dinas Rahasia AS, dan bahkan perusahaan animasi Pixar.
Ekman berhasil menjual teknologi pendeteksi kebohongan kepada lembaga dan institusi keamanan, seperti Administrasi Keamanan Transportasi, yang menggunakan teknologi tersebut untuk mengembangkan program “SPOT” (Screening Passengers by Observation Techniques), yang diterapkan guna memantau ekspresi wajah penumpang pesawat dalam beberapa tahun setelah serangan 11 September, dalam upaya mendeteksi teroris secara otomatis.
Namun, program ini mendapat kritik dari Kantor Akuntabilitas Pemerintah dan kelompok-kelompok kebebasan sipil karena tidak memiliki dasar metodologi ilmiah yang jelas. Meskipun biayanya mencapai sekitar 900 juta dolar, program ini gagal menunjukkan keberhasilan yang signifikan.
Semakin banyak peneliti dari berbagai disiplin ilmu mengkaji karya Ekman, semakin kuat pula bukti-bukti yang menentangnya. Sebagai contoh, dua sosiolog Maria Gendron dan Lisa Feldman Barrett menyoroti bahaya penggunaan teori-teori Ekman dalam bidang kecerdasan buatan, karena sistem pengenalan ekspresi wajah secara otomatis tidak dapat mencerminkan kondisi psikologis internal seseorang secara akurat.
Pada tahun 2019, Barrett memimpin sebuah tim yang melakukan tinjauan ilmiah besar terhadap studi-studi sebelumnya mengenai pembacaan emosi melalui ekspresi wajah. Tim tersebut menyimpulkan dengan tegas bahwa ekspresi wajah tidak bersifat pasti dan tidak dapat dianggap sebagai “sidik jari” atau “gejala diagnostik” yang dapat dipercaya untuk menunjukkan kondisi emosional seseorang.
Barrett menyatakan bahwa tidak mungkin membaca emosi bahagia hanya dari senyuman, atau marah dari wajah yang cemberut, atau sedih dari ekspresi murung seperti yang coba dilakukan oleh sebagian besar teknologi saat ini yang keliru menganggapnya sebagai fakta ilmiah.
06- State (Negara)
Bab ini membahas cara-cara penggunaan sistem kecerdasan buatan sebagai salah satu alat kekuasaan negara. Sektor militer baik sebelum maupun sesudah munculnya kecerdasan buatan telah membentuk praktik pengawasan, ekstraksi data, dan penilaian resiko yang kita saksikan saat ini.
Penulis menyatakan bahwa keterkaitan yang sangat erat antara sektor teknologi dan militer saat ini dikendalikan, agar selaras dengan agenda-agenda yang berorientasi pada kepentingan nasional.
Alat-alat ilegal yang digunakan oleh lembaga intelijen telah berkembang dan meluas dari lingkup sektor militer ke ranah teknologi komersial, digunakan di ruang-ruang kelas, kantor kepolisian, dan tempat kerja. Saat ini, logika militer yang telah membentuk sistem kecerdasan buatan telah menjadi bagian yang tak terpisahkan dari mekanisme kerja pemerintah lokal, dan hal ini juga memperparah kerusakan hubungan antara negara dan warganya.
Penulis memberikan contoh awal penggunaan pembelajaran mesin di sektor intelijen dengan menelusuri arsip Edward Snowden, mantan kontraktor Badan Keamanan Nasional Amerika Serikat, yang membocorkan rahasia lembaga tersebut, yang memuat beberapa rincian paling mendalam tentang topik ini, yang ia bocorkan pada tahun 2013.
Arsip tersebut memuat hasil lebih dari satu dekade pemikiran dan korespondensi intelijen, seperti dokumen internal milik Badan Keamanan Nasional Amerika Serikat, Kantor Komunikasi Pemerintah Inggris, dan Jaringan Internasional Aliansi Intelijen “Lima Mata” (five eyes).
Dokumen-dokumen tersebut mengungkap bahwa lembaga-lembaga intelijen telah berkontribusi dalam pengembangan banyak teknologi yang kini tergolong dalam istilah “kecerdasan buatan”, dan bahwa badan intelijen Amerika Serikat, bersama dengan Badan Proyek Penelitian Pertahanan Lanjutan, telah dan masih menjadi sponsor utama dalam penelitian di bidang kecerdasan buatan sejak tahun 1950-an.
Pada masa itu, lembaga-lembaga penelitian militer memainkan peran penting dalam membentuk karakter bidang baru yang kini dikenal dengan nama kecerdasan buatan, sejak awal kemunculannya. Contoh terbaik dari hal tersebut adalah Kantor Riset Angkatan Laut, yang mendanai sebagian dari proyek penelitian musim panas pertama tentang kecerdasan buatan di Dartmouth College pada tahun 1956.
Prioritas militer seperti komando dan kendali, otomatisasi, serta pengawasan memiliki pengaruh besar dalam membentuk perkembangan kecerdasan buatan. Alat dan teknologi yang dihasilkan dari pendanaan Badan Proyek Penelitian Pertahanan Lanjutan menjadi manifestasi paling menonjol dari bidang ini, seperti visi komputer, penerjemahan mesin, dan kendaraan tanpa awak (swakemudi).
Arsip Snowden menunjukkan bahwa pihak-pihak pemerintah dan swasta bekerja sama untuk menciptakan peperangan di ranah infrastruktur. Namun, penulis menyatakan bahwa hubungan antara militer nasional dan sektor kecerdasan buatan telah berkembang melampaui konteks-konteks keamanan semata.
Penulis membahas wacana yang dominan tentang kecerdasan buatan, di mana kita terus-menerus diberi tahu bahwa kita sedang berada dalam sebuah perang di bidang ini, dan yang paling mengkhawatirkan adalah upaya luar biasa yang dilakukan oleh Amerika Serikat dan Cina dalam bidang tersebut.
Praktik perusahaan-perusahaan teknologi terkemuka Cina, seperti “Alibaba”, “Huawei”, dan “Tencent”, dalam menangani data, kerap digambarkan sebagai hasil dari kebijakan langsung yang diberlakukan oleh pemerintah Cina. Oleh karena itu.
Perusahaan-perusahaan tersebut dianggap lebih berbahaya dibandingkan perusahaan swasta di Amerika Serikat seperti “Amazon” dan “Facebook”, meskipun batas antara prioritas dan kepentingan negara di satu sisi, dan kepentingan perusahaan swasta di sisi lain, sangat kabur dan saling tumpang tindih.
Ashton Carter, mantan Menteri Pertahanan Amerika Serikat antara tahun 2015 dan 2017, memiliki peran penting dalam membangun hubungan erat antara Silicon Valley dan militer. Ia meyakinkan perusahaan-perusahaan teknologi bahwa keamanan nasional dan kebijakan luar negeri bergantung pada dominasi Amerika dalam sektor kecerdasan buatan, ia menyebut hal tersebut sebagai “Strategi Keseimbangan Kekuatan Ketiga.”
Keseimbangan kekuatan pertama pada tahun 1950-an diwujudkan melalui penggunaan senjata nuklir.Kemudian, keseimbangan kekuatan kedua muncul melalui perluasan senjata rahasia, logistik, dan senjata konvensional pada tahun 1970-an dan 1980-an.
Adapun keseimbangan kekuatan ketiga, menurut mantan Menteri Pertahanantersebut, mencakup kecerdasan buatan, peperangan siber, dan robotika.
Ketika Departemen Pertahanan menerbitkan sebuah memorandum pada tahun 2017 yang mengumumkan pembentukan Tim Perang Algoritma Multitugas, yang diberi nama “Proyek Maven” dan bertujuan untuk menggunakan sistem algoritma terbaik di medan pertempuran, sebagian besar sistem teknologi yang dibutuhkan justru berada di sektor teknologi komersial.
Oleh karena itu, kementerian mencari perusahaan-perusahaan teknologi untuk menganalisis data militer yang dikumpulkan oleh satelit dan pesawat tak berawak yang beroperasi di wilayah-wilayah di luar jangkauan undang-undang perlindungan privasi Amerika Serikat.
Perusahaan-perusahaan teknologi seperti Amazon, Microsoft, dan Google mengajukan penawaran untuk kontrak “Proyek Maven”, dan kontrak pertama jatuh kepada Google. Namun, kontrak tersebut kemudian dibatalkan karena tiga ribu karyawan Google menolak terlibat dalam proyek itu dengan alasan etika. Setelah itu, kontrak berpindah ke Microsoft yang mengajukan penawaran lebih baik daripada Amazon.
Setelah kehebohan yang ditimbulkan oleh “Proyek Maven”, penasihat hukum utama di Google mengatakan bahwa perusahaan akan berupaya memperoleh sertifikasi keamanan yang lebih tinggi agar dapat bekerja lebih erat dengan Departemen Pertahanan. Ia menambahkan bahwa Google adalah “perusahaan Amerika yang bangga dengan negerinya.
Oleh karena itu, penulis menunjukkan bahwa perusahaan-perusahaan teknologi menunjukkan minat yang semakin besar untuk menyelaraskan kebijakan mereka secara efektif dengan kepentingan nasional, mereka mengadopsi kebijakan yang mencerminkan semangat kebangsaan mereka, bahkan ketika program dan kemampuan mereka melampaui cakupan tata kelola negara secara tradisional.
Penulis menunjukkan adanya perpecahan yang tajam dalam sektor kecerdasan buatan terkait hubungan antara ranah militer dan sipil, dan ia menyatakan bahwa perang kecerdasan buatan mengukuhkan politik ketakutan dan ketidakstabilan, yang menciptakan iklim yang dimanfaatkan untuk menekan oposisi dari dalam dan memperkuat dukungan mutlak terhadap agenda-agenda nasional.
Hubungan antara negara dan sektor kecerdasan buatan telah melampaui batas militer nasional. Teknologi-teknologi yang dulunya hanya digunakan secara eksklusif di medan perang dan operasi mata-mata, kini digunakan di tingkat pemerintahan lokal, mulai dari lembaga bantuan sosial hingga aparat penegak hukum. Perubahan ini didorong oleh kecenderungan negara untuk mengalihkan sebagian tanggung jawab utamanya kepada para kontraktor di bidang teknologi.
Salah satu contoh paling menonjol dari fenomena ini, yakni meluasnya penerapan bentuk-bentuk militer seperti pelacakan pola dan penilaian ancaman ke dalam lembaga dan institusi lokal adalah perusahaan Palantir, yang didirikan bersama oleh miliarder Peter Thiel, salah satu pendiri PayPal, yang juga pernah menjadi penasihat Presiden Trump dan memberikan dukungan finansial kepadanya.
Model bisnis perusahaan Palantir menggabungkan antara analisis data dan pengenalan pola melalui pembelajaran mesin (machine learning) dengan penyediaan layanan konsultasi publik.
Perusahaan mengirimkan para insinyurnya ke berbagai perusahaan untuk mengekstraksi beragam data seperti surel, catatan komunikasi, media sosial, waktu masuk dan keluar karyawan dari gedung perusahaan, pemesanan tiket pesawat oleh karyawan, serta segala hal lain yang bersedia dibagikan oleh perusahaan tersebut lalu mencari pola-pola yang berulang dan memberikan saran serta rekomendasi terkait langkah-langkah selanjutnya.
Salah satu metode umum yang diterapkan oleh perusahaan ini adalah mencari apa yang mereka sebut sebagai karyawan yang korup, baik yang sedang bekerja maupun yang berpotensi menjadi korup, yaitu karyawan yang merasa tidak puas dan mungkin membocorkan informasi tentang perusahaan atau melakukan penipuan terhadapnya.
Gagasan yang mendasari alat-alat milik perusahaan Palantir serupa dengan prinsip kerja Badan Keamanan Nasional, yaitu mengumpulkan seluruh data lalu mencari unsur-unsur yang mencurigakan di dalamnya.
Namun, Badan Keamanan Nasional mengembangkan alat-alat tersebut untuk memantau musuh negara dan menargetkan mereka dalam perang konvensional maupun rahasia. Sementara pendekatan Palantir justru menargetkan warga sipil.
Hal ini merupakan perubahan besar dari praktik kepolisian tradisional menuju adopsi tujuan-tujuan yang lebih terkait dengan infrastruktur intelijen militer. Hal ini dijelaskan oleh Andrew Ferguson, seorang profesor hukum, yang mengatakan: “Kita sedang memasuki era di mana para jaksa dan petugas kepolisian akan berkata: algoritma memerintahkan saya untuk melakukan hal itu, maka saya melakukannya, dan saya sama sekali tidak tahu apa yang sedang saya lakukan”; dan ini akan terjadi secara luas dengan tingkat pengawasan yang sangat minim.
Bab ini membahas gagasan tentang jejak digital yang menjadi dasar logika penargetan militer. Menjelang berakhirnya masa jabatan kedua Presiden George W. Bush, Badan Intelijen Pusat Amerika Serikat (CIA) memandang penting untuk memiliki kemampuan melancarkan serangan drone berdasarkan “pola perilaku” seseorang atau “jejak digital” pribadinya.
Proses “penargetan berdasarkan perilaku pribadi” melibatkan penargetan seseorang secara spesifik berdasarkan tindakan dan perilakunya. Adapun proses “penargetan berdasarkan jejak digital” mencakup pembunuhan seseorang berdasarkan jejak digital dari data metadatanya; yaitu identitas orang tersebut tidak diketahui, tetapi data menunjukkan kemungkinan bahwa ia seorang teroris.
Operasi penargetan berdasarkan jejak digital mungkin tampak akurat dan sah karena memberikan indikator nyata yang menunjukkan identitas seseorang. Namun, organisasi hak asasi manusia “reprieve” pada tahun 2014 merilis sebuah laporan yang mengungkapkan bahwa sekitar 1.147 orang tewas akibat serangan pesawat tak berawak yang sebenarnya hanya ditujukan untuk membunuh 41 orang saja.
Jennifer Gibson, yang memimpin tim penyusunan laporan tersebut, mengatakan: “Serangan pesawat tanpa awak dipromosikan kepada rakyat Amerika sebagai ‘tepat sasaran’, padahal tingkat ketepatannya tidak melebihi tingkat akurasi informasi intelijen yang menjadi dasar pelaksanaannya.”
Keterkaitan yang mendalam saat ini antara berbagai bentuk kekuasaan telah melampaui tujuan untuk meraih keunggulan strategis dalam operasi-operasi lapangan, dan kini mencakup seluruh rincian kehidupan sehari-hari yang dapat dilacak dan dievaluasi berdasarkan definisi-definisi normatif yang menetapkan bagaimana seharusnya warga negara yang baik berkomunikasi, bertindak, dan membelanjakan uang mereka.
Perubahan ini membawa serta pandangan yang berbeda tentang kedaulatan negara, yakni pandangan yang justru memperkuat ketimpangan besar dalam kekuasaan antara rakyat dan para pegawai pemerintah, yang sejatinya ada untuk melayani dan memenuhi kepentingan rakyat.
Penutup: Kekuasaan
Penutup dari buku ini menyajikan evaluasi tentang bagaimana kecerdasan buatan berfungsi sebagai suatu struktur kekuasaan yang menggabungkan infrastruktur, modal, dan tenaga kerja.
Kecerdasan buatan lahir dari danau-danau asin di Bolivia dan tambang-tambang di Kongo, serta dibentuk oleh kumpulan data yang telah diberi label oleh para pekerja alih daya dengan tujuan mengklasifikasikan tindakan, emosi, dan identitas manusia.
Kecerdasan buatan digunakan untuk mengoperasikan pesawat tanpa awak di langit Yaman, mengarahkan aparat imigrasi di Amerika Serikat, dan menyesuaikan skor kredit individu di berbagai belahan dunia. Dalam pembangunan sistem kecerdasan buatan, terintegrasi logika kapital, kerja kepolisian, dan kerja militer, yang pada gilirannya memperparah ketimpangan kekuasaan.
Sistem kecerdasan buatan, ketika diterapkan dalam konteks sosial, seperti kepolisian, sistem peradilan, layanan kesehatan, dan pendidikan, dapat mereproduksi, memperkuat, dan memperbesar ketimpangan struktural yang sudah ada.
Sebab sistem-sistem ini dirancang untuk melihat dunia dan melakukan intervensi dengan cara-cara yang pada dasarnya menguntungkan negara, lembaga, dan perusahaan yang menjadi pihak yang dilayaninya.
Sistem kecerdasan buatan pada hakikatnya merupakan salah satu bentuk kekuasaan yang lahir dari kekuatan ekonomi dan politik yang lebih luas, dan telah dibentuk untuk meningkatkan keuntungan serta memusatkan kendali di tangan mereka yang memegang kekuasaan atasnya.
Beberapa pendapat mengatakan bahwa sistem kecerdasan buatan pasti lebih cerdas dan lebih objektif daripada para penciptanya yang manusiawi dan penuh kesalahan, karena kemampuannya dalam melakukan perhitungan yang luar biasa.
Masalah utama dalam kecerdasan buatan terletak pada keterkaitan yang mendalam antara teknologi, kapital, dan kekuasaan, di mana kecerdasan buatan merupakan manifestasi terbarunya.
Sistem-sistemnya lahir dari struktur sosial dan ekonomi yang besar, disertai dengan dampak-dampak mendalam yang bersifat mendasar. Resiko nyata dari kecerdasan buatan tersembunyi di balik keterkaitan antara sistem ekstraksi data dan kekuatan global.
Untuk memahami kecerdasan buatan sebagaimana adanya, kita harus melihat struktur kekuasaan yang dilayaninya. Infrastruktur kekuasaan dan bentuk-bentuknya yang memungkinkan keberadaan kecerdasan buatan dan yang juga diperkuat oleh keberadaannya, sebagaimana telah dijelaskan dalam buku inisecara kuat mendorong menuju sentralisasi kekuasaan.
Adapun usulan untuk mendemokratisasi kecerdasan buatan guna mengurangi ketimpangan kekuasaan, maka itu tak ubahnya seperti menyerukan pendemokrasian klasifikasi senjata demi melayani perdamaian.
Di Eropa saja, pada tahun 2019, terdapat 128 kerangka kerja etika kecerdasan buatan, yang sering kali dipresentasikan sebagai hasil dari “konsensus yang lebih luas” mengenai etikanya. Namun, kerangka-kerangka tersebut umumnya dirumuskan oleh negara-negara dengan ekonomi maju, dengan keterwakilan yang lemah dari Afrika, Amerika Tengah dan Selatan, atau Asia Tengah.
Akibatnya, suara-suara dari kelompok yang paling terdampak oleh sistem kecerdasan buatan sebagian besar absen dari proses-proses yang menghasilkan kerangka-kerangka tersebut.
Jarang sekali perusahaan teknologi dikenai sanksi finansial ketika sistem kecerdasan buatannya melanggar hukum, bahkan konsekuensinya lebih ringan lagi ketika prinsip-prinsip etika mereka yang dilanggar.
Belum lagi para pemegang saham kerap menekan perusahaan-perusahaan publik untuk meraih keuntungan investasi semaksimal mungkin, meskipun harus mengorbankan aspek etika; sebab, etika pada umumnya ditempatkan di urutan kedua setelah laba.
Dengan berubahnya kondisi di planet kita, sudah seharusnya kita mendengarkan semua seruan yang menuntut perlindungan data, penjagaan hak-hak pekerja, keadilan iklim, dan kesetaraan ras. Ketika seruan-seruan keadilan ini menunjukkan kepada kita bagaimana seharusnya memahami kecerdasan buatan, saat itulah berbagai konsep baru tentang kebijakan global menjadi mungkin diwujudkan.
Kata Terakhir – Ruang Angkasa
Bab tambahan ini membahas upaya para miliarder yang bergerak di bidang antariksa, dengan menunjukkan bahwa investasi dalam teknologi roket semakin mendekatkan kita pada tujuan akhir berupa kolonisasi luar angkasa, baik untuk tujuan pertambangan maupun pemukiman di planet-planet terdekat seperti Bulan atau Mars.
Perusahaan “Blue Origin”, yang didirikan oleh Jeff Bezos, pendiri Amazon, membangun roket yang dapat digunakan kembali dan kendaraan pendarat bulan dengan tujuan mengangkut astronot dan barang ke Bulan.
Namun, visi jangka panjang perusahaan ini melampaui tujuan tersebut; yakni berupaya untuk membantu mewujudkan masa depan di mana jutaan orang dapat hidup dan bekerja di luar angkasa. Yang dikhawatirkan oleh Bezos adalah bahwa meningkatnya permintaan energi di planet kita dapat melampaui sumber dayanya yang terbatas.
Namun, yang paling membuatnya resah bukanlah kemungkinan punahnya umat manusia, melainkan terhentinya pertumbuhan populasi. Bezos bukan satu-satunya yang memiliki pandangan ini; banyak miliarder di sektor teknologi juga mengarahkan fokus mereka ke luar angkasa.
Perusahaan “Planetary Resources”, yang dipimpin oleh Peter Diamandis, bertujuan untuk membangun tambang komersial pertama di luar angkasa melalui penambangan asteroid.
Elon Musk, CEO perusahaan Tesla dan SpaceX, juga telah mengumumkan niatnya untuk menjajah Mars dalam seratus tahun ke depan, dan ia menyerukan untuk mempersiapkan permukaan Mars bagi pemukiman manusia dengan cara mengebom kedua kutubnya menggunakan senjata nuklir.
Ideologi di balik upaya penjelajahan luar angkasa ini sangat terkait erat dengan ideologi di balik industri kecerdasan buatan, sebab kekayaan dan kekuasaan besar yang dihasilkan oleh perusahaan-perusahaan teknologi saat ini memungkinkan sekelompok kecil pria untuk menjalankan perlombaan luar angkasa versi mereka sendiri.
Tujuan mereka bukanlah untuk menghentikan ekstraksi mineral dan pertumbuhan, melainkan memperluas cakupannya hingga mencakup seluruh bagian tata surya; dengan mengandalkan pemanfaatan infrastruktur program luar angkasa publik pada abad ke-20 serta pengetahuan yang terinspirasi darinya, juga melalui pendanaan pemerintah dan insentif pajak.
Tujuan para miliarder ini menegaskan adanya gangguan mendasar dalam hubungan dengan bumi, dan visi mereka tentang masa depan tidak mencakup pengurangan eksplorasi minyak dan gas, pengendalian konsumsi sumber daya, atau bahkan pengurangan praktik kerja yang eksploitatif yang justru menjadi penyebab kekayaan mereka.
Namun, wacana para elite di sektor teknologi sering kali mencerminkan gema kolonialisme permukiman, yakni dalam bentuk upaya memindahkan penduduk bumi dan merebut wilayah demi mengeksploitasi sumber daya mineralnya.
Dikutip dan diterjemahkan dari laman website “Markaz Al-Imārāt Li ad-Dirāsāt Wa Al-Buhūṡ Al-Istirātījiyah” (The Emirates Center For Strategic Studies and Research):https://www.ecssr.ae/ar/products/2/198774
Penulis adalah Dosen Prodi Hukum Ekonomi Syari’ah Fakultas Syariah dan Adab Universitas Nahdlatul Ulama Sunan Giri (UNUGIRI) Bojonegoro
