TeknoLogiz – Pernahkah Anda mencari jawaban atas pertanyaan medis seperti "Apakah saya flu atau Covid" atau "Mengapa saya selalu merasa lelah" di Google? Jika sebelumnya Anda akan menemukan daftar tautan ke berbagai situs web, kini kemungkinan besar Anda akan disajikan ringkasan jawaban yang disusun oleh kecerdasan buatan (AI). Perubahan signifikan ini, yang dikenal sebagai AI Overviews, telah memicu kekhawatiran serius dari para ahli kesehatan publik.
Google, melalui CEO-nya Sundar Pichai, pertama kali memperkenalkan AI Overviews pada Mei 2024 di Amerika Serikat. Fitur ini dirancang untuk memberikan ringkasan informasi di atas hasil pencarian tradisional, menandai transformasi terbesar pada produk inti Google dalam seperempat abad terakhir. Dalam waktu singkat, teknologi ini telah meluas ke lebih dari 200 negara dalam 40 bahasa, melayani sekitar 2 miliar pengguna setiap bulan pada Juli 2025. Langkah cepat ini merupakan upaya Google untuk melindungi bisnis pencarian tradisionalnya yang menghasilkan sekitar $200 miliar per tahun, dari ancaman pesaing AI baru. Pichai bahkan menyatakan bahwa AI Overviews "berkinerja baik."
Namun, di balik kecepatan dan ambisi tersebut, para ahli melihat adanya risiko besar. AI Overviews menggunakan AI generatif untuk memberikan cuplikan informasi yang ringkas dan jawaban bergaya percakapan. Meskipun sering menyertakan sumber, sistem ini tidak selalu mampu membedakan keakuratan sumber tersebut. Beberapa minggu setelah peluncuran di AS, pengguna mulai menemukan berbagai informasi yang tidak benar, termasuk klaim bahwa presiden AS Andrew Jackson lulus kuliah pada tahun 2005. Elizabeth Reid, Kepala Pencarian Google, mengakui adanya "sejumlah kecil kasus" di mana AI Overviews salah menafsirkan bahasa di halaman web dan menyajikan informasi yang tidak akurat.
Ketika informasi yang keliru ini menyangkut kesehatan, akurasi dan konteks menjadi mutlak dan tidak dapat ditawar. Google kini menghadapi sorotan tajam terkait AI Overviews untuk pertanyaan medis, setelah sebuah investigasi Guardian menemukan potensi bahaya bagi pengguna akibat informasi kesehatan yang palsu dan menyesatkan.
Google awalnya bersikeras bahwa AI Overviews mereka "andal." Namun, Guardian mengungkap beberapa ringkasan medis yang memberikan informasi kesehatan yang tidak akurat dan berpotensi membahayakan. Dalam satu kasus yang disebut para ahli "sangat berbahaya," Google secara keliru menyarankan penderita kanker pankreas untuk menghindari makanan tinggi lemak. Padahal, rekomendasi medis yang benar justru sebaliknya, dan anjuran keliru ini dapat meningkatkan risiko kematian pasien. Contoh lain yang "mencemaskan" adalah informasi palsu tentang tes fungsi hati yang vital, yang bisa membuat pasien dengan penyakit hati serius keliru mengira diri mereka sehat dan melewatkan janji temu lanjutan. AI Overviews tentang tes kanker wanita juga ditemukan memberikan informasi yang "sepenuhnya salah," berpotensi menyebabkan orang mengabaikan gejala serius.
Google awalnya meremehkan temuan Guardian, mengklaim bahwa ringkasan AI yang mengkhawatirkan para ahli tersebut terhubung ke sumber terkemuka dan merekomendasikan pencarian nasihat ahli. "Kami berinvestasi signifikan dalam kualitas AI Overviews, terutama untuk topik seperti kesehatan, dan sebagian besar memberikan informasi yang akurat," kata seorang juru bicara. Namun, dalam beberapa hari, Google menghapus beberapa AI Overviews terkait kesehatan yang disorot oleh Guardian. "Kami tidak mengomentari penghapusan individu dalam pencarian," kata juru bicara tersebut. "Dalam kasus di mana AI Overviews kehilangan konteks, kami berupaya melakukan perbaikan menyeluruh, dan kami juga mengambil tindakan sesuai kebijakan kami jika diperlukan."
Meskipun penghapusan beberapa ringkasan AI disambut baik, banyak ahli tetap khawatir. Vanessa Hebditch dari British Liver Trust menyatakan, "Kekhawatiran kami yang lebih besar adalah ini hanya berfokus pada satu hasil pencarian dan Google bisa saja mematikan AI Overviews untuk kasus itu, tetapi tidak mengatasi masalah yang lebih luas dari AI Overviews untuk kesehatan." Sue Farrington dari Patient Information Forum menambahkan bahwa "masih banyak contoh lain di luar sana di mana Google AI Overviews memberikan informasi kesehatan yang tidak akurat kepada orang-orang."
Sebuah studi baru di Jerman semakin memicu kekhawatiran. Ketika para peneliti menganalisis tanggapan dari lebih dari 50.000 pencarian terkait kesehatan untuk melihat sumber mana yang paling sering diandalkan AI Overviews, satu temuan langsung mencolok: domain yang paling banyak dikutip adalah YouTube. Para peneliti mencatat bahwa "YouTube bukanlah penerbit medis. Ini adalah platform video serbaguna. Siapa pun bisa mengunggah konten di sana, mulai dari dokter bersertifikat dan kanal rumah sakit, hingga influencer kesehatan, pelatih gaya hidup, dan kreator tanpa latar belakang medis sama sekali."
Dalam dunia medis, bukan hanya dari mana jawaban berasal atau tingkat akurasinya yang penting, tetapi juga bagaimana informasi itu disajikan kepada pengguna. Hannah van Kolfschooten, peneliti AI, kesehatan, dan hukum di University of Basel, menjelaskan, "Dengan AI Overviews, pengguna tidak lagi menemukan beragam sumber yang dapat mereka bandingkan dan nilai secara kritis. Sebaliknya, mereka disajikan dengan satu jawaban tunggal, meyakinkan, hasil AI yang menampilkan otoritas medis." Ini berarti sistem tersebut tidak hanya merefleksikan informasi kesehatan daring, tetapi secara aktif merestrukturisasi informasi tersebut. Ketika respons dibangun dari sumber yang tidak dirancang untuk memenuhi standar medis, seperti video YouTube, ini menciptakan bentuk baru otoritas medis daring yang tidak teregulasi.
Google menyatakan bahwa AI Overviews dibangun untuk menampilkan informasi yang didukung oleh hasil web teratas, dan menyertakan tautan ke konten web yang mendukung ringkasan tersebut. Pengguna dapat menggunakan tautan ini untuk menggali lebih dalam suatu topik. Namun, blok teks tunggal dalam AI Overviews, yang menggabungkan informasi kesehatan dari berbagai sumber, dapat menimbulkan kebingungan, menurut Nicole Gross, seorang profesor di National College of Ireland. "Begitu ringkasan AI muncul, pengguna cenderung tidak mencari informasi lebih lanjut, yang berarti mereka kehilangan kesempatan untuk mengevaluasi dan membandingkan informasi secara kritis, atau bahkan menggunakan akal sehat mereka dalam masalah terkait kesehatan."
Para ahli juga menyampaikan kekhawatiran lain. Bahkan jika AI Overviews memberikan fakta yang akurat tentang topik medis tertentu, mereka mungkin tidak membedakan antara bukti kuat dari uji coba acak dan bukti lemah dari studi observasional. Beberapa juga melewatkan peringatan penting tentang bukti tersebut. Klaim yang tercantum berdampingan dalam AI Overview juga dapat memberi kesan bahwa beberapa klaim lebih mapan daripada kenyataannya. Jawaban juga bisa berubah seiring evolusi AI Overviews, meskipun ilmu pengetahuan tidak berubah. "Itu berarti orang mendapatkan jawaban yang berbeda tergantung kapan mereka mencari, dan itu tidak cukup baik," kata Athena Lamnisos, CEO badan amal kanker Eve Appeal.
Google mengatakan kepada Guardian bahwa tautan yang disertakan dalam AI Overviews bersifat dinamis dan berubah berdasarkan informasi yang paling relevan, membantu, dan tepat waktu untuk pencarian tertentu. Jika AI Overviews salah menafsirkan konten web atau kehilangan konteks, perusahaan akan menggunakan kesalahan ini untuk meningkatkan sistemnya, dan juga mengambil tindakan jika diperlukan.
Kekhawatiran terbesar adalah bahwa informasi atau saran medis palsu dan berbahaya dalam AI Overviews "akhirnya diterjemahkan ke dalam praktik, rutinitas, dan kehidupan sehari-hari pasien, bahkan dalam bentuk yang disesuaikan," kata Gross. "Dalam perawatan kesehatan, ini bisa menjadi masalah hidup dan mati."
