TeknoLogiz – Dunia tengah memasuki fase krusial dalam pengembangan kecerdasan buatan (AI) yang akan menguji batas-batas kemanusiaan kita. Demikian peringatan keras dari Dario Amodei, CEO dan salah satu pendiri startup AI terkemuka, Anthropic. Ia mendesak seluruh umat manusia untuk segera menyadari potensi bahaya yang mengintai di balik kemajuan teknologi ini.
Kekhawatiran Amodei ini dituangkan dalam esai panjangnya yang berjudul "The Adolescence of Technology", sebuah tulisan setebal 19.000 kata. Dalam esai tersebut, Amodei menggambarkan kedatangan sistem AI yang sangat canggih sebagai sesuatu yang berpotensi segera terwujud, dan menyebutnya sebagai "masa peralihan yang penuh gejolak namun tak terhindarkan, yang akan menguji siapa kita sebagai sebuah spesies."
Menurut Amodei, umat manusia sebentar lagi akan dihadapkan pada kekuatan yang nyaris tak terbayangkan. Namun, ia ragu apakah sistem sosial, politik, dan teknologi yang ada saat ini cukup matang untuk mengelola kekuatan sebesar itu. Pengusaha teknologi yang perusahaannya dilaporkan bernilai fantastis, $350 miliar, ini berharap esainya dapat "membangkitkan kesadaran" publik akan pentingnya tindakan serius terhadap keamanan AI.
Peringatan Amodei ini muncul di tengah berbagai aktivitas Anthropic, termasuk keterlibatannya dalam membantu pemerintah Inggris mengembangkan chatbot yang mendukung pencari kerja dengan saran karier dan penempatan pekerjaan. Ini merupakan bagian dari upaya menciptakan asisten AI untuk layanan publik secara umum. Pekan lalu, Anthropic juga merilis "konstitusi" setebal 80 halaman untuk chatbot Claude, yang menguraikan komitmen mereka dalam menciptakan AI yang "secara luas aman dan etis."
Amodei, yang mendirikan Anthropic pada tahun 2021 bersama mantan staf OpenAI (pengembang ChatGPT), dikenal sebagai suara lantang dalam isu keamanan siber. Ia secara konsisten memperingatkan bahaya pengembangan AI tanpa kendali. Ia menulis bahwa dunia "jauh lebih dekat pada bahaya nyata" di tahun 2026 dibandingkan tahun 2023, ketika perdebatan tentang risiko eksistensial dari AI mulai mendominasi agenda politik.
Ia juga menyinggung kontroversi terkait deepfake berbau seksual yang dihasilkan oleh Grok AI milik Elon Musk, yang membanjiri platform media sosial X selama liburan Natal dan Tahun Baru. Insiden ini memicu kekhawatiran serius, termasuk laporan tentang chatbot yang menghasilkan materi pelecehan seksual anak. Amodei menyatakan, "Beberapa perusahaan AI menunjukkan kelalaian yang mengkhawatirkan terhadap seksualisasi anak-anak dalam model saat ini, yang membuat saya ragu apakah mereka memiliki kemauan atau kemampuan untuk mengatasi risiko otonomi pada model masa depan."
CEO Anthropic ini memperkirakan bahwa sistem AI yang sangat kuat, yang mampu membangun sistemnya sendiri secara otonom, bisa hadir dalam kurun waktu satu hingga dua tahun ke depan. Ia mendefinisikan "AI kuat" sebagai model yang lebih cerdas dari seorang pemenang Hadiah Nobel di berbagai bidang seperti biologi, matematika, teknik, dan penulisan. AI semacam ini dapat memberi atau menerima arahan dari manusia, dan meskipun "hidup" di layar komputer, ia bisa mengendalikan robot bahkan merancangnya untuk keperluannya sendiri.
Meskipun Amodei mengakui bahwa AI kuat bisa saja "jauh lebih lama" dari perkiraan dua tahun, ia menekankan bahwa kemajuan pesat teknologi belakangan ini harus disikapi dengan serius. "Jika laju eksponensial ini terus berlanjut – yang tidak pasti, namun didukung oleh rekam jejak satu dekade – maka tidak mungkin lebih dari beberapa tahun sebelum AI menjadi lebih baik dari manusia dalam segala hal," tulisnya.
Tahun lalu, Amodei sempat memperingatkan bahwa AI dapat mengurangi separuh jumlah pekerjaan kerah putih tingkat pemula dan meningkatkan angka pengangguran secara keseluruhan hingga 20% dalam lima tahun ke depan. Dalam esainya, ia kembali mengingatkan bahwa potensi keuntungan ekonomi dari AI, seperti peningkatan produktivitas akibat eliminasi pekerjaan, bisa sangat besar sehingga tidak ada yang berani mengerem lajunya. "Inilah jebakannya: AI begitu kuat, hadiah yang begitu menggiurkan, sehingga sangat sulit bagi peradaban manusia untuk memberlakukan batasan apa pun padanya," ujarnya.
Meski demikian, Amodei tetap optimistis akan adanya hasil yang positif. "Saya yakin jika kita bertindak tegas dan hati-hati, risiko-risiko ini dapat diatasi – bahkan saya berani mengatakan peluang kita bagus. Dan ada dunia yang jauh lebih baik di baliknya. Namun kita perlu memahami bahwa ini adalah tantangan peradaban yang serius."
