TeknoLogiz – Kecepatan evolusi kecerdasan buatan atau AI sungguh memusingkan kepala. Berbeda dengan revolusi teknologi sebelumnya seperti radio fisi nuklir atau internet kali ini pemerintah tidak berada di garis depan. Kita tahu AI berpotensi berbahaya chatbot bisa saja menyarankan remaja untuk bunuh diri dan tak lama lagi mungkin mampu memberi instruksi pembuatan senjata biologis. Namun belum ada lembaga setara Badan Pengawas Obat dan Makanan yang menguji model baru untuk keamanan sebelum dirilis ke publik. Tidak seperti industri nuklir perusahaan sering tidak wajib mengungkapkan pelanggaran atau insiden berbahaya.
Kekuatan lobi industri teknologi polarisasi politik di Washington yang melumpuhkan serta kompleksitas teknologi yang begitu kuat dan bergerak cepat ini telah menahan regulasi federal. Pejabat Eropa menghadapi penolakan terhadap aturan yang diklaim beberapa pihak menghambat daya saing benua itu. Meskipun beberapa negara bagian AS sedang menguji coba undang-undang AI mereka beroperasi dalam kerangka tambal sulam yang tidak pasti dan Donald Trump pernah mencoba membatalkannya.
Para pimpinan platform AI seperti ChatGPT dari OpenAI dan Gemini dari Google menyatakan mereka peduli pada keamanan. Namun menguasai masa depan AI berarti menggelontorkan miliaran dolar ke dalam model yang bahkan penciptanya pun belum sepenuhnya memahami. Mereka juga membuat pilihan seperti menambahkan iklan dan kemampuan yang kini dicari Pentagon dari Anthropic yang justru meningkatkan risiko. Anthropic yang mengklaim diri sebagai perusahaan AI terdepan paling teliti mengatakan modelnya dilatih untuk membayangkan bagaimana seorang karyawan senior Anthropic yang bijaksana akan menimbang antara kegunaan dan potensi bahaya. Arahan ini menggemakan kritik bertahun-tahun lalu terhadap perusahaan Silicon Valley yang membentuk kehidupan pengguna di seluruh dunia dari ruang rapat yang tertutup. Konsumen pun merasa tidak aman. Sebanyak 77% warga Amerika yang disurvei tahun lalu berpendapat AI bisa menjadi ancaman bagi kemanusiaan.
Kita tidak terjebak antara harapan yang sulit digapai akan regulasi pemerintah yang kuat dan membiarkan perusahaan paling berkuasa dalam sejarah mengawasi diri sendiri. Setidaknya sampai legislator bertindak pengawasan independen menawarkan potensi untuk menjadi penengah antara potensi dan bahaya AI. Dengan merangkul pengawasan independen perusahaan AI dapat menunjukkan keseriusan mereka terhadap kepercayaan publik dan bersedia memperjuangkannya.
Logika di balik pengawasan independen sangat sederhana. Terlepas dari niat baik para eksekutif perusahaan kewajiban mereka kepada pemegang saham dan investor membentuk cara mereka mendekati pertukaran antara biaya dan keamanan mendorong pendapatan dan keuntungan. Meskipun pertimbangan jangka panjang reputasi perusahaan loyalitas pelanggan dan etika dapat bertindak sebagai penghambat memenangkan perlombaan AI menuntut keberanian mengambil risiko. Perhitungan yang terlambat mengenai bagaimana media sosial dapat memicu pembunuhan memanipulasi pemilihan umum dan merusak kesehatan mental remaja menunjukkan bagaimana kekuatan teknologi yang memabukkan dapat mengaburkan sinyal bahaya yang berkedip.
Pengawasan independen terhadap AI menawarkan potensi untuk mengungkap menganalisis dan mengatasi risikonya memberikan advokat dan komunitas sedikit lebih banyak kendali atas bagaimana teknologi ini membentuk kembali masyarakat. Media sosial memberikan contoh. Pada tahun 2020 setelah terluka oleh tuduhan membantu memicu krisis Rohingya di Myanmar Meta yang saat itu bernama Facebook membentuk dewan pengawas berharap mengeluarkan perusahaan dari sorotan negatif. Awal tahun berikutnya perusahaan mengadopsi kebijakan yang berkomitmen untuk mengikuti hukum hak asasi manusia. Meskipun dewan yang kini berusia lima tahun itu belum sepenuhnya memenuhi harapan sebagian orang yang berharap bisa menjadi Mahkamah Agung Facebook rekam jejaknya menawarkan pelajaran penting mengenai prospek pengawasan independen yang efektif untuk AI dan mengapa itu penting.
Pengawasan menuntut beragam perspektif. Seperti perusahaan AI terdepan lainnya Meta memiliki pengguna di setiap benua berpenghuni. Memutuskan apa yang boleh dan tidak boleh mereka posting dari kampus Menlo Park yang aman meninggalkan titik buta dan memicu kebencian. 21 anggota dewan pengawas membawa keahlian budaya dan profesional yang luas untuk penyelesaian pertanyaan sensitif moderasi konten seperti apakah video kekerasan harus dapat dibagikan sebagai berita atau dihapus sebagai penghinaan terhadap martabat korban. Dewan dengan anggota yang pernah tinggal di lebih dari 27 negara ini mencakup konservatif dan liberal jurnalis sarjana hukum mantan perdana menteri Denmark dan seorang peraih Nobel perdamaian.
Dewan pengawas menggunakan standar komunitas Meta sendiri untuk menilai apakah postingan melanggar aturan termasuk larangan intimidasi atau dukungan terhadap teroris. Dewan meminta Meta untuk menepati janjinya menegakkan hukum hak asasi manusia internasional termasuk Pasal 19 Kovenan Internasional tentang Hak-Hak Sipil dan Politik yang menjunjung tinggi kebebasan berekspresi. Perusahaan AI harus membuat komitmen yang sama dan membentuk pengawasan untuk menahan mereka pada komitmen itu. Berbeda dengan amandemen pertama di AS atau hak untuk dilupakan secara online di Uni Eropa hukum hak asasi manusia menawarkan mata uang bersama lintas batas. Normanya menyediakan metode penalaran untuk memandu keputusan tentang AI seperti apakah penolakan bot untuk menjawab pertanyaan secara tidak adil menolak hak pengguna atas informasi atau apakah penggunaan kembali data pengguna melanggar hak privasi.
Aksesibilitas konsultasi dan transparansi adalah kunci. Dewan pengawas menerima banding dari publik mengumumkan kasus yang dipilih untuk ditinjau mengundang komentar publik dan mengadakan sesi dengan para ahli dan komunitas terkait. Mereka telah mengeluarkan lebih dari 200 keputusan dalam opini tertulis terperinci yang telah dikutip oleh pengadilan di seluruh dunia.
Badan pengawas sukarela hanya sekuat wewenang yang diberikan kepadanya oleh perusahaan asalnya. Meskipun dewan pengawas menginginkan wewenang yang lebih luas mereka memuji Meta karena melampaui dewan penasihat ringan yang secara berkala dibentuk dan dibubarkan oleh pemain teknologi lain. Dewan pengawas Meta memiliki yurisdiksi untuk memutuskan apakah sepotong konten tertentu tetap ada atau dihapus meskipun menggunakan wewenang itu atas postingan individual bisa terasa seperti memadamkan kebakaran hutan dengan meniup bara. Dampak yang lebih signifikan terletak pada pemilihan kasus konten yang keliru yang menjadi lambang menawarkan penalaran publik untuk keputusan dan mengeluarkan rekomendasi yang harus ditanggapi oleh Meta. Meta telah menerapkan 75% dari lebih dari 300 rekomendasi dewan seperti yang dilaporkan pada bulan Desember yang mengarah pada perubahan signifikan bagi miliaran pengguna.
Ini termasuk memberikan pemberitahuan tentang kebijakan apa yang diduga dilanggar pengguna ketika konten menghilang memastikan bahwa ejekan retoris dan sindiran tidak dihapus sebagai ancaman dan memastikan bahwa perusahaan menggelontorkan sumber daya dalam krisis seperti bencana alam dan konflik bersenjata. Dewan juga mengeluarkan opini penasihat terperinci tentang masalah kebijakan yang lebih besar seperti kelonggaran Meta untuk pelanggaran kebijakan oleh poster profil tinggi atau berapa banyak misinformasi terkait Covid yang harus dihapus seiring meredanya pandemi. Meskipun dewan beroperasi secara independen dalam membuat keputusan dan rekomendasinya mereka bergantung pada Meta untuk informasi penting seperti apakah penentuan konten tertentu dibuat oleh manusia atau otomatisasi dan apa yang sebenarnya salah ketika konten dihapus secara keliru. Perusahaan AI harus menawarkan visibilitas yang setidaknya sama agar pengawasan memiliki makna.
Seperti biasa dana sangat penting. Meta secara berkala menempatkan dana dewan pengawas dalam perwalian agar tidak dapat dihentikan secara tiba-tiba. Namun sumber daya yang lebih beragam dan terjamin akan meningkatkan independensi dewan. Pengawasan teknologi mutakhir membutuhkan dana. Ini membutuhkan pendanaan untuk staf ahli guna mendukung analisis dan pengambilan keputusan serta konsultan yang membawa keahlian budaya dan linguistik tertentu. Mengingat ratusan miliar yang diinvestasikan dalam AI namun harga pengawasan yang kuat sekalipun tidak signifikan.
AI merambah ruang kelas kampus dan korporasi kita. Pengawasan independen adalah hal paling minimal yang dapat dilakukan perusahaan AI untuk memastikan bahwa baik disengaja atau tidak mereka tidak mengambil alih hak-hak kita juga.
