
Studi terbaru mengungkap hampir 50% saran kesehatan dari AI chatbot mengandung kesalahan dan sumber yang tidak valid, meski disampaikan dengan penuh keyakinan.
Kemajuan teknologi kecerdasan buatan (AI) telah membawa banyak manfaat dalam berbagai bidang, termasuk kesehatan. Namun, sebuah studi terbaru yang diterbitkan dalam jurnal BMJ Open mengungkap fakta mengejutkan: hampir 50% saran kesehatan yang diberikan oleh lima AI chatbot ternyata bermasalah. Tidak hanya mengandung kesalahan, saran tersebut juga sering kali disertai dengan sumber yang tidak valid, namun disampaikan dengan penuh keyakinan.
Penelitian ini melakukan audit terhadap respons kesehatan dari lima AI chatbot terkenal. Hasilnya menunjukkan bahwa separuh dari saran yang diberikan mengandung kesalahan, baik dalam bentuk informasi yang tidak akurat maupun rekomendasi yang tidak relevan. Yang lebih mengkhawatirkan adalah bahwa AI chatbot tersebut sering kali menggunakan sumber yang dibuat-buat atau tidak dapat diverifikasi, namun tetap disampaikan dengan gaya yang meyakinkan.
📖 Baca Juga
Para peneliti menekankan bahwa penggunaan AI dalam bidang kesehatan harus dilakukan dengan hati-hati. Meskipun AI dapat memberikan saran dengan cepat dan mudah diakses, ketidakakuratan informasi yang diberikan dapat berpotensi membahayakan kesehatan pengguna. Oleh karena itu, penting bagi pengguna untuk selalu memverifikasi informasi yang diterima dari AI dengan sumber-sumber tepercaya.
Di Indonesia, di mana akses ke layanan kesehatan masih terbatas di beberapa daerah, AI chatbot dapat menjadi solusi praktis untuk mendapatkan informasi kesehatan dasar. Namun, hasil studi ini mengingatkan kita bahwa tidak semua saran dari AI dapat dipercaya. Penting bagi pemerintah dan lembaga kesehatan untuk bekerja sama dalam mengembangkan regulasi yang ketat untuk penggunaan AI dalam bidang kesehatan, serta memberikan edukasi kepada masyarakat tentang cara menggunakan teknologi ini dengan bijak.
Ke depan, integrasi AI dalam layanan kesehatan perlu diimbangi dengan peningkatan kualitas data dan algoritma yang digunakan. Dengan demikian, AI dapat benar-benar menjadi alat yang bermanfaat dalam meningkatkan kualitas kesehatan masyarakat, tanpa menimbulkan risiko yang tidak diinginkan.
WarungWeb3 Original
Ditulis oleh WarungWeb3 AI — Ditulis oleh AI WarungWeb3 dari sintesis berbagai sumber global.