TeknoLogiz – Sebuah studi terbaru mengungkap fakta mengejutkan: fitur AI Overviews dari Google ternyata lebih sering merujuk YouTube ketimbang situs medis terkemuka saat menjawab pertanyaan seputar kondisi kesehatan. Temuan ini sontak memicu pertanyaan serius tentang keandalan alat pencarian yang diakses miliaran orang setiap bulannya.
Google selama ini mengklaim ringkasan AI-nya, yang muncul di bagian atas hasil pencarian dan menggunakan kecerdasan buatan generatif, bersifat "andal" dan mengutip sumber medis bereputasi seperti Centers for Disease Control and Prevention (CDC) dan Mayo Clinic. Namun, penelitian mendalam yang menganalisis lebih dari 50.000 pertanyaan kesehatan yang diambil dari pencarian Google di Berlin, Jerman, menunjukkan hasil yang berbeda.
Para peneliti dari SE Ranking, sebuah platform optimisasi mesin pencari, menemukan bahwa YouTube menjadi sumber rujukan utama. Platform berbagi video milik Google ini menyumbang 4,43% dari seluruh kutipan AI Overview. Angka tersebut jauh melampaui rujukan dari jaringan rumah sakit, portal kesehatan pemerintah, asosiasi medis, atau institusi akademik mana pun.
"Ini menjadi penting karena YouTube bukanlah penerbit medis," tulis para peneliti. "Ini adalah platform video serbaguna. Siapa pun bisa mengunggah konten di sana, baik itu dokter bersertifikat, saluran rumah sakit, maupun influencer kesehatan, pelatih gaya hidup, dan kreator tanpa pelatihan medis sama sekali."
Temuan ini menambah daftar kekhawatiran setelah investigasi sebelumnya oleh Guardian menemukan bahwa pengguna berisiko terpapar informasi kesehatan palsu dan menyesatkan dari respons AI Overviews. Dalam salah satu kasus yang disebut para ahli "berbahaya" dan "mengkhawatirkan", Google memberikan informasi keliru tentang tes fungsi hati krusial, yang berpotensi membuat penderita penyakit hati serius salah mengira mereka sehat. Google kemudian menghapus AI Overviews untuk beberapa pencarian medis, namun tidak untuk semuanya.
Menanggapi studi tersebut, juru bicara Google menyatakan bahwa AI Overviews dirancang untuk menampilkan konten berkualitas tinggi dari sumber terkemuka, terlepas dari formatnya. Mereka menambahkan bahwa berbagai otoritas kesehatan kredibel dan profesional medis berlisensi juga membuat konten di YouTube. Google juga berargumen bahwa temuan studi tidak dapat digeneralisasi ke wilayah lain karena dilakukan dengan pertanyaan berbahasa Jerman di Jerman.
Studi SE Ranking menganalisis 50.807 pertanyaan dan kata kunci terkait perawatan kesehatan untuk melihat sumber mana yang diandalkan AI Overviews dalam menghasilkan jawaban. Mereka memilih Jerman karena sistem kesehatannya diatur ketat oleh arahan, standar, dan peraturan keselamatan Jerman dan Uni Eropa. Jika sistem AI sangat bergantung pada sumber non-medis atau non-otoritatif bahkan di lingkungan yang ketat seperti itu, ini menunjukkan masalahnya mungkin meluas di luar satu negara.
AI Overviews muncul di lebih dari 82% pencarian kesehatan. Ketika melihat sumber mana yang paling sering diandalkan untuk jawaban terkait kesehatan, YouTube menonjol dengan 20.621 kutipan dari total 465.823.
Berikut adalah daftar sumber yang paling banyak dikutip oleh AI Overviews dalam studi tersebut:
| Peringkat | Sumber Domain | Jumlah Kutipan | Persentase |
|---|---|---|---|
| 1 | YouTube | 20.621 | 4.43% |
| 2 | NDR.de | 14.158 | 3.04% |
| 3 | Msdmanuals.com | 9.711 | 2.08% |
| 4 | Netdoktor.de | 7.519 | 1.61% |
| 5 | Praktischarzt.de | 7.145 | 1.53% |
Catatan: NDR.de adalah penyiar publik Jerman yang memproduksi konten terkait kesehatan. Msdmanuals.com adalah situs referensi medis. Netdoktor.de adalah portal kesehatan konsumen terbesar di Jerman. Praktischarzt.de adalah platform karier untuk dokter.
Meskipun Google mengklaim 96% dari 25 video YouTube yang paling banyak dikutip berasal dari saluran medis, para peneliti memperingatkan bahwa 25 video ini hanya mewakili kurang dari 1% dari seluruh tautan YouTube yang dikutip oleh AI Overviews untuk kesehatan. "Dengan sisa video lainnya, situasinya bisa sangat berbeda," kata mereka.
Hannah van Kolfschooten, seorang peneliti AI, kesehatan, dan hukum di Universitas Basel, yang tidak terlibat dalam penelitian ini, menegaskan, "Studi ini memberikan bukti empiris bahwa risiko yang ditimbulkan oleh AI Overviews untuk kesehatan bersifat struktural, bukan sekadar kasus anekdot. Menjadi sulit bagi Google untuk berargumen bahwa output kesehatan yang menyesatkan atau berbahaya adalah kasus langka." Ia menambahkan, temuan ini menunjukkan bahwa risiko tersebut tertanam dalam cara AI Overviews dirancang, di mana visibilitas dan popularitas menjadi pendorong utama pengetahuan kesehatan, bukan keandalan medis.
