TeknoLogiz – Sebuah lembaga amal kesehatan mental terkemuka, Mind, telah memulai penyelidikan besar-besaran terhadap dampak kecerdasan buatan (AI) pada kesehatan mental. Langkah ini dipicu oleh investigasi mendalam yang dilakukan oleh The Guardian, mengungkap bagaimana fitur AI Overviews dari Google menyajikan rekomendasi medis yang sangat berisiko dan berbahaya.
Komisi yang akan berjalan selama setahun penuh ini merupakan inisiatif pertama di dunia. Tujuannya adalah meninjau secara komprehensif risiko serta kebutuhan akan perlindungan yang kuat, mengingat semakin besarnya pengaruh AI dalam kehidupan jutaan orang yang menghadapi masalah kesehatan mental di seluruh dunia. Penyelidikan ini akan menyatukan para dokter dan profesional kesehatan mental terkemuka, individu dengan pengalaman langsung, penyedia layanan kesehatan, pembuat kebijakan, dan perusahaan teknologi. Mind berharap dapat membentuk ekosistem kesehatan mental digital yang lebih aman, didukung oleh regulasi, standar, dan pengamanan yang ketat.
Peluncuran penyelidikan ini menyusul laporan The Guardian yang menunjukkan bagaimana masyarakat terpapar risiko bahaya akibat informasi kesehatan yang salah dan menyesatkan dari Google AI Overviews. Ringkasan yang dihasilkan AI ini ditampilkan kepada sekitar 2 miliar orang setiap bulan, muncul di atas hasil pencarian tradisional di situs web paling banyak dikunjungi di dunia.
Setelah laporan tersebut, Google menghapus AI Overviews untuk beberapa pencarian medis, namun tidak untuk semuanya. Dr. Sarah Hughes, CEO Mind, menegaskan bahwa saran kesehatan mental yang "sangat tidak akurat" masih terus diberikan kepada publik. Dalam kasus terburuk, informasi palsu ini berpotensi membahayakan nyawa.
Dr. Hughes menyatakan, "Kami percaya AI memiliki potensi luar biasa untuk meningkatkan kualitas hidup penderita masalah kesehatan mental, memperluas akses terhadap dukungan, dan memperkuat layanan publik. Namun, potensi itu hanya akan terwujud jika AI dikembangkan dan diterapkan secara bertanggung jawab, dengan perlindungan yang sepadan dengan risikonya." Ia menambahkan bahwa temuan The Guardian menjadi salah satu alasan utama Mind meluncurkan komisi ini, untuk mengkaji risiko, peluang, dan pengamanan yang diperlukan seiring dengan semakin terintegrasinya AI dalam kehidupan sehari-hari. "Kami ingin memastikan bahwa inovasi tidak mengorbankan kesejahteraan masyarakat, dan bahwa mereka yang memiliki pengalaman langsung dengan masalah kesehatan mental menjadi inti dalam membentuk masa depan dukungan digital," tegasnya.
Google sebelumnya mengklaim AI Overviews, yang menggunakan AI generatif untuk memberikan ringkasan informasi penting, adalah fitur yang "bermanfaat" dan "andal". Namun, investigasi The Guardian menemukan bahwa beberapa AI Overviews menyajikan informasi kesehatan yang tidak akurat dan menempatkan orang pada risiko bahaya. Penyelidikan tersebut mengungkap saran medis yang keliru dan menyesatkan untuk berbagai isu, termasuk kanker, penyakit hati, kesehatan wanita, serta kondisi kesehatan mental. Para ahli menyebut beberapa AI Overviews untuk kondisi seperti psikosis dan gangguan makan menawarkan "saran yang sangat berbahaya" dan "tidak benar, merugikan, atau dapat menyebabkan orang menghindari pencarian bantuan." The Guardian juga menemukan bahwa Google meremehkan peringatan keamanan bahwa saran medis yang dihasilkan AI mungkin salah.
Hughes menekankan bahwa individu yang rentan disajikan "panduan kesehatan mental yang sangat tidak tepat," termasuk "saran yang dapat mencegah orang mencari pengobatan, memperkuat stigma atau diskriminasi, dan dalam kasus terburuk, membahayakan nyawa." Ia menambahkan, "Masyarakat berhak mendapatkan informasi yang aman, akurat, dan berdasarkan bukti, bukan teknologi yang belum teruji yang disajikan dengan kesan meyakinkan."
Rosie Weatherley, manajer konten informasi di Mind, menjelaskan bahwa meskipun pencarian informasi kesehatan mental melalui Google "tidak sempurna" sebelum adanya AI Overviews, sistem tersebut umumnya berfungsi dengan baik. "Pengguna memiliki peluang bagus untuk mengklik situs web kesehatan yang kredibel yang menjawab pertanyaan mereka, dan kemudian menawarkan nuansa, pengalaman langsung, studi kasus, kutipan, konteks sosial, dan jalur lanjutan untuk mendapatkan dukungan," katanya. "AI Overviews menggantikan kekayaan itu dengan ringkasan berkesan klinis yang memberikan ilusi kepastian. Mereka memberi pengguna satu bentuk kejelasan (singkat dan bahasa sederhana), sambil mengurangi bentuk kejelasan lainnya (keamanan sumber informasi, dan seberapa besar untuk mempercayainya). Ini adalah pertukaran yang sangat menggoda, tetapi tidak bertanggung jawab."
Seorang juru bicara Google mengatakan, "Kami berinvestasi secara signifikan dalam kualitas AI Overviews, terutama untuk topik seperti kesehatan, dan sebagian besar memberikan informasi yang akurat." Ia menambahkan, "Untuk pertanyaan di mana sistem kami mengidentifikasi seseorang mungkin dalam kesulitan, kami berupaya menampilkan saluran krisis lokal yang relevan. Tanpa dapat meninjau contoh yang dirujuk, kami tidak dapat mengomentari keakuratannya."
