Bagaimana jika kekuatan yang kita ciptakan sendiri, kelak, tak mampu kita kendalikan?
Pertanyaan itu terdengar seperti mantra lama; gaung Prometheus yang mencuri api, Frankenstein yang menghidupkan mayat, atau mitos-mitos tentang manusia yang menciptakan sesuatu melebihi dirinya sendiri. Dan pada awal 2021, pertanyaan itu bukan lagi mitos. Ia menjelma kegelisahan nyata, yang dipikul dua bersaudara, di sebuah laboratorium kecerdasan buatan bernama OpenAI.
Dario Amodei lahir di San Francisco pada 1983. Ia memulai kuliah di California Institute of Technology (Caltech), pindah ke Stanford untuk merampungkan gelar sarjana fisika. Dari sana ia melangkah ke Princeton, mengambil program doktoral di bidang biofisika; meneliti bagaimana sirkuit saraf bekerja, bagaimana neuron-neuron saling bicara lewat sinyal listrik.
Jalan Dario menuju kecerdasan buatan tidak lah lurus. Selepas Princeton, ia sempat menjadi peneliti postdoktoral di Stanford School of Medicine, mengutak-atik spektrometri massa untuk riset kanker. Baru kemudian ia bergabung dengan Baidu (2014–2015), lalu pindah ke Google Brain (2015–2016), sebagai peneliti senior, sebelum akhirnya menjejakkan kaki di OpenAI pada 2016, dan menanjak hingga posisi Vice President of Research.
Daniela Amodei, adik Dario, lahir empat tahun setelahnya (1987), di kota yang sama. Jika Dario tumbuh dari rumus dan sirkuit saraf, Daniela tumbuh dari sastra dan kata-kata. Ia menempuh studi Sastra Inggris di University of California, Santa Cruz (2009). Jalannya menuju dunia teknologi, sangat berliku-liku.
Daniela terlebih dahulu berkarir di ranah Kesehatan Global (2010-2011), bekerja di bidang komunikasi politik (2011-2013), bergabung dengan perusahaan fintech Stripe (2013-2018), sebelum akhirnya menyeberang ke OpenAI dan menjabat Vice President of Safety and Policy OpenAI (2018-2020).
Dario dan Daniela Amodei adalah dua bersaudara dengan dua bahasa yang berbeda; satu bahasa angka, satu bahasa aksara. Namun keduanya, dalam waktu yang sama, mendengar gema kegelisahan yang sama. Tentang bagaimana nasib manusia di hadapan teknologi yang teramat cepat berkuasa.
Kegelisahan yang Tak Bisa Didiamkan
Di OpenAI, Dario dan Daniela menyaksikan dari dekat betapa cepatnya kecerdasan buatan tumbuh, dan betapa tipis jarak antara kemajuan dan bahaya yang menyertainya. Ada semacam firasat yang terus mengganjal: teknologi ini akan segera menjadi sangat kuat, mungkin lebih kuat dari yang bisa dikendalikan siapa pun, jika arahnya tidak dijaga dengan hati-hati.
Pada awal 2021, Dario dan Daniela memilih keluar dari laboratorium yang telah mereka besarkan bersama. Mereka tidak pergi sendiri; sejumlah mantan koleganya di OpenAI pun turut serta, membawa keyakinan yang sama: bahwa kecerdasan buatan yang kuat harus dibangun dengan kehati-hatian yang setara dengan kekuatannya. Dari sana, lahirlah Anthropic.
Menanam Nama dari Sebuah Renungan
Nama “Anthropic”, berasal dari kata Yunani anthropos: manusia, bukan sekadar label korporasi. Ia adalah pengingat harian, semacam jangkar filosofis: bahwa kecerdasan buatan, sehebat apa pun ia kelak, selalu berkelindan dengan nasib manusia. Ia tidak boleh dibangun untuk dirinya sendiri, tapi untuk manusia yang akan hidup berdampingan dengannya.
Dari situlah Anthropic dimulai: bukan oleh satu jenius yang menyendiri, melainkan oleh dua orang bersaudara yang membawa serta kegelisahan yang sama dari dua arah yang berbeda; satu dari dunia rumus, satu dari dunia makna. Dan kombinasi semacam itu, kelak, akan sangat menentukan wajah perusahaan yang mereka bangun bersama.
Laboratorium yang Harus Jadi Bisnis
Yang menarik dari Anthropic adalah caranya mendamaikan dua hal yang biasanya bertengkar: idealisme dan modal. Mereka ingin menjadi lembaga riset keselamatan AI, tapi riset semacam itu, ironisnya, membutuhkan model AI mutakhir sebagai bahan uji. Dan model semacam itu, menuntut daya komputasi raksasa yang tidak murah.
Maka Anthropic memilih jalan sebagai public benefit corporation: berbisnis, tapi dengan mandat kemanfaatan publik yang tertanam dalam anggaran dasarnya. Filosofi ini kemudian menjelma jadi kerangka kerja yang mereka sebut Constitutional AI: upaya menanamkan semacam “konstitusi” nilai ke dalam cara model AI merespons, alih-alih sekadar melatihnya menuruti selera pasar.
Nama yang Menyimpan Penghormatan
Di sinilah kisah berbelok ke masa yang jauh lebih tua dari Silicon Valley: seorang lelaki kelahiran Petoskey, Michigan, tahun 1916, bernama Claude Elwood Shannon, seorang insinyur dan matematikawan yang di masa kecilnya membuat telegram sendiri dari kawat berduri, dan di masa remajanya mengantar pesan lewat kode Morse.
Pada 1948, Shannon menulis makalah berjudul “A Mathematical Theory of Communication,” sebagai fondasi bagi seluruh peradaban digital yang kita huni hari ini: teori informasi. Ia adalah figur pertama yang menunjukkan bahwa informasi, apa pun wujudnya, bisa direduksi menjadi satuan biner dan diukur, dikirim, ataupun disimpan secara matematis.
Tanpa kerangka berpikir itu, internet, ponsel pintar, hingga model bahasa yang kini bisa diajak berbicara ini, tidak akan punya jalan untuk lahir. Anthropic memilih nama “Claude” sebagai penghormatan pada Claude Shannon. Meski tak pernah membuat pernyataan resmi soal ini, hubungan tersebut sudah diterima luas.
Ada semacam jalinan indah di sini. Claude Shannon yang mengukur informasi menjadi satuan sunyi bernama bit, namanya dipakai untuk sesuatu yang justru mengolah miliaran kata menjadi percakapan. Dan dua bersaudara yang memilih menamai ciptaannya dengan seseorang yang telah mengajarkan apa itu informasi.
Barangkali begitulah cara sejarah bekerja: ia jarang meledak sekaligus. Ia disusun dari orang-orang yang, satu demi satu, memilih untuk berhenti sejenak, kemudian bertanya “bagaimana jika,” lalu berjalan ke arah yang belum tentu ramai, tapi mereka yakini benar.
