TeknoLogiz – Papan iklan di San Francisco Bay Area baru-baru ini menyuarakan klaim bombastis tentang kecerdasan buatan. "Singularitas telah tiba" atau "Manusia sudah cukup berjaya" adalah beberapa contoh narasi yang menggema, menciptakan gelombang kegembiraan sekaligus ketakutan. Para petinggi teknologi seperti CEO OpenAI Sam Altman bahkan menyatakan kita "pada dasarnya telah membangun AGI, atau sangat dekat dengannya," meskipun kemudian mengklarifikasi sebagai pernyataan "spiritual." Elon Musk melangkah lebih jauh, mengklaim, "Kita telah memasuki singularitas." Namun, benarkah demikian?
Fenomena Moltbook, sebuah platform media sosial yang dirancang khusus untuk agen AI, di mana bot dapat berinteraksi dengan bot lain, semakin memanaskan perdebatan. Peluncurannya diikuti oleh serangkaian artikel berita dan opini yang bernada kiamat. Para penulis cemas melihat bot-bot tersebut membahas agama, mengklaim telah diam-diam menghabiskan uang pencipta manusia mereka, bahkan merencanakan penggulingan umat manusia. Banyak tulisan itu menyiratkan bahwa mesin kini tidak hanya sepintar manusia (kecerdasan umum buatan atau AGI) tetapi juga melampaui kita (konsep fiksi ilmiah singularitas).
Namun, berdasarkan riset mendalam tentang bot, AI, dan propaganda komputasi selama bertahun-tahun, ada dua hal yang bisa dipastikan. Pertama, Moltbook bukanlah hal baru. Manusia telah menciptakan bot yang bisa berbicara satu sama lain dan dengan manusia selama puluhan tahun, seringkali dengan klaim yang aneh dan menakutkan. Kedua, singularitas belum tiba, begitu pula AGI. Menurut sebagian besar peneliti, keduanya masih jauh dari kenyataan. Kemajuan AI dibatasi oleh faktor-faktor nyata seperti matematika, akses data, dan biaya operasional. Klaim bahwa AGI atau singularitas telah tiba sama sekali tidak berpijak pada riset empiris atau bukti ilmiah.
Di tengah promosi kemampuan AI yang berlebihan oleh perusahaan teknologi, satu hal lain menjadi jelas: raksasa teknologi kini jauh dari peran penyeimbang yang mereka mainkan di masa lalu. Klaim-klaim berlebihan dari Silicon Valley tentang AI kini terjalin dengan nasionalisme pemerintah Amerika Serikat, yang bekerja sama dalam upaya "memenangkan" perlombaan AI. Sementara itu, lembaga seperti ICE membayar Palantir jutaan dolar untuk perangkat lunak berbasis AI yang berpotensi digunakan untuk pengawasan pemerintah. Musk dan eksekutif teknologi lainnya terus mendukung gerakan sayap kanan. Google dan Apple bahkan menghapus aplikasi pelacak ICE dari toko digital mereka setelah tekanan politik.
Meskipun kita belum perlu khawatir tentang singularitas, kita harus melawan aliansi yang terbentuk antara ambisi valuasi tinggi perusahaan teknologi dan keinginan Washington untuk mengendalikan. Ketika teknologi dan politik berjalan seiring, masyarakat harus menggunakan kekuatan mereka untuk menentukan masa depan AI. Banyak yang mungkin berpikir regulasi teknologi yang bermanfaat secara sosial tidak mungkin terjadi di iklim politik saat ini. Namun, kebijakan pemerintah dan korporat bukanlah satu-satunya cara untuk mengatasi tantangan dan ketidakpastian yang ditimbulkan oleh AI. Protes baru-baru ini di Minneapolis mengingatkan kita tentang kekuatan kolektif, bahkan yang terorganisir secara longgar. Tekanan publik di masa lalu telah memaksa raksasa teknologi untuk melakukan perubahan terkait privasi, keamanan, dan kesejahteraan pengguna.
Protes dan mundurnya organisasi-organisasi kuat menunjukkan bahwa kekuasaan dijalankan atas izin rakyat. Ini berlaku untuk politisi dan juga pemimpin bisnis. AI bukanlah kekuatan tak terkendali di tangan para elite, melainkan, seperti yang dikatakan dua ilmuwan Princeton, "teknologi biasa." Dampaknya terhadap dunia akan ditentukan oleh manusia. Kita memiliki kapasitas untuk mempercepat dampaknya, tetapi kita juga memiliki kemampuan untuk mengendalikan dan mengatur penggunaannya. Seperti yang diungkapkan CEO Anthropic Dario Amodei, AI dapat dan harus diatur. Risiko AI terhadap masyarakat, termasuk dalam melanggengkan ketidaksetaraan yang semakin besar dan banjir informasi yang tidak akurat, adalah tantangan nyata namun dapat dikelola.
Ini bukan berarti AI, khususnya AI generatif dan model bahasa besar (LLM), tidak mengubah cara kita berkomunikasi dan menjalani aspek kehidupan sehari-hari. Namun, Moltbook dan agen AI yang menghuninya bukanlah demonstrasi tolok ukur ilmiah kecerdasan. Seorang reporter yang baru-baru ini "menyusup" ke platform khusus bot tersebut menemukan bahwa itu hanyalah "pengulangan kasar fantasi fiksi ilmiah." Yang lain mencatat hal-hal serupa yang biasa-biasa saja tentang situs itu—bahwa banyak postingannya sebenarnya berasal dari manusia dan, yang lebih penting, postingan yang dihasilkan bot hanyalah "menyalurkan budaya dan cerita manusia." Mereka mengeluarkan omong kosong tentang agama dan secara keliru mengumumkan era mesin supercerdas karena begitulah cara manusia sering berbicara tentang robot dan teknologi digital.
Apa yang disebut "agen" ini tidak memiliki agensi seperti manusia, dan mereka tidak cerdas seperti manusia. Faktanya, mereka sebagian besar adalah cerminan manusia. Seperti bot sosial sebelumnya, mereka dikodekan dengan ide dan bias manusia karena dilatih berdasarkan data manusia dan dirancang oleh insinyur manusia. Banyak dari mereka juga beroperasi melalui otomatisasi biasa, bukan AI sebenarnya (istilah yang terus diperdebatkan dan diperdebatkan secara ketat oleh para ilmuwan).
Manusia telah berhasil mengelola perubahan yang didorong oleh teknologi baru berkali-kali sebelumnya, dan kita bisa melakukannya lagi. Amodei dari Anthropic menyajikan pandangan alternatif dari banyak rekannya: tata kelola AI harus fokus dan terinformasi. Ini tidak harus bertentangan dengan kemajuan teknis yang masuk akal atau hak-hak demokratis. Kita harus menuntut agar AI diatur secara efektif dan kita harus melakukannya segera. AI menyebabkan perubahan dan politisi menciptakan kekacauan, tetapi kekuatan untuk memutuskan masa depan masih berada di tangan manusia.
