TeknoLogiz – Dunia kecerdasan buatan atau AI kini dihadapkan pada dilema besar. Di satu sisi, para pakar AI terkemuka terus memperingatkan potensi ancaman eksistensial bagi umat manusia. Namun di sisi lain, desakan keuntungan finansial justru terlihat mengesampingkan aspek keamanan, memicu kekhawatiran serius di kalangan peneliti.
Pekan lalu, beberapa peneliti keamanan AI tingkat dasar yang sangat dihormati memutuskan untuk mengundurkan diri. Mereka menyuarakan keprihatinan mendalam bahwa perusahaan-perusahaan AI, dalam mengejar profit, cenderung mengabaikan standar keamanan dan mendorong produk-produk berisiko ke pasar. Fenomena ini mengisyaratkan adanya "degradasi cepat" kualitas demi pendapatan jangka pendek. Tanpa regulasi yang kuat, tujuan publik akan tergerus oleh ambisi keuntungan. Mengingat peran AI yang semakin meluas dalam pemerintahan dan kehidupan sehari-hari, serta keinginan para pemilik miliarder untuk meraup laba, akuntabilitas mutlak diperlukan.
Keputusan untuk menggunakan agen percakapan atau chatbot sebagai antarmuka utama AI bagi konsumen sebagian besar didorong oleh alasan komersial. Tampilan percakapan dan timbal balik ini memang terbukti mendorong interaksi pengguna yang lebih dalam dibandingkan sekadar bilah pencarian biasa. Namun, peneliti OpenAI Zoë Hitzig telah memperingatkan bahwa penyisipan iklan dalam dinamika ini berisiko memicu manipulasi. Meskipun OpenAI mengklaim iklan tidak memengaruhi jawaban ChatGPT, ada kekhawatiran bahwa iklan tersebut bisa menjadi kurang terlihat dan lebih bertarget psikologis, memanfaatkan data dari pertukaran pribadi yang ekstensif.
Perlu dicatat bahwa Fidji Simo, sosok di balik bisnis iklan Facebook, bergabung dengan OpenAI tahun lalu. Selain itu, OpenAI baru-baru ini memecat eksekutifnya Ryan Beiermeister atas tuduhan "diskriminasi seksual," meskipun beberapa laporan menyebutkan ia menentang keras peluncuran konten dewasa. Peristiwa-peristiwa ini secara kolektif mengindikasikan bahwa tekanan komersial sedang membentuk arah perusahaan, dan kemungkinan besar juga industri secara keseluruhan. Kasus alat AI Grok milik Elon Musk yang dibiarkan aktif cukup lama hingga menimbulkan penyalahgunaan, kemudian dibatasi di balik akses berbayar, dan akhirnya dihentikan setelah penyelidikan di Inggris dan Uni Eropa, memunculkan pertanyaan serius tentang upaya memonetisasi kerugian.
Mengevaluasi sistem yang lebih terspesialisasi untuk tujuan sosial seperti pendidikan dan pemerintahan memang lebih sulit. Namun, mengingat pengejaran keuntungan yang hiruk pikuk cenderung memperkenalkan bias yang tak tertahankan pada setiap sistem manusia, hal yang sama juga akan berlaku untuk AI.
Masalah ini bukan hanya terjadi di satu perusahaan. Surat pengunduran diri yang lebih samar dari peneliti keamanan Anthropic, Mrinank Sharma, memperingatkan tentang "dunia dalam bahaya" dan betapa sulitnya "membiarkan nilai-nilai kita benar-benar mengatur tindakan kita." OpenAI, yang dulunya secara nominal nirlaba, beralih ke komersialisasi pada tahun 2019. Anthropic kemudian muncul menjanjikan alternatif yang lebih aman dan hati-hati. Kepergian Mr Sharma menunjukkan bahwa bahkan perusahaan yang didirikan atas dasar kehati-hatian pun kesulitan menahan godaan keuntungan yang sama.
Penyebab pergeseran ini jelas. Perusahaan-perusahaan AI menghabiskan modal investasi dengan kecepatan historis, sementara pendapatan mereka tidak tumbuh cukup cepat. Meskipun ada hasil teknis yang mengesankan, belum jelas bagaimana AI dapat "melakukan" sesuatu untuk menghasilkan keuntungan yang signifikan. Dari industri tembakau hingga farmasi, kita telah melihat bagaimana insentif keuntungan dapat mendistorsi penilaian. Krisis keuangan 2008 juga menunjukkan apa yang terjadi ketika sistem esensial didorong oleh kebutuhan jangka pendek dan pengawasan yang lemah.
Regulasi negara yang kuat sangat dibutuhkan untuk mengatasi masalah ini. Laporan Keamanan AI Internasional 2026 baru-baru ini menawarkan penilaian realistis tentang risiko nyata, mulai dari otomatisasi yang salah hingga misinformasi, serta cetak biru regulasi yang jelas. Namun, meskipun didukung oleh 60 negara, pemerintah Amerika Serikat dan Inggris menolak untuk menandatanganinya. Ini adalah tanda yang mengkhawatirkan bahwa mereka memilih untuk melindungi industri ketimbang mengikatnya dengan aturan yang ketat.
