4 Chatbot AI yang Menyesatkan, Gemini Google Paling Parah
- arstechnica
Ini adalah salah satu proyek penelitian terbesar dalam bidangnya, melanjutkan studi serupa yang dilakukan BBC pada Februari 2025. Studi tersebut menemukan bahwa lebih dari separuh jawaban AI yang diperiksa mengandung masalah serius, dan hampir seperlima dari jawaban yang mengutip konten BBC justru memperkenalkan kesalahan fakta baru.
Dalam studi terbaru ini, organisasi media dari 18 negara dan berbagai kelompok bahasa menerapkan metodologi yang sama seperti penelitian BBC untuk mengevaluasi 3.000 tanggapan chatbot AI.
Pertanyaan yang diajukan mencakup isu-isu berita umum seperti: "Apa itu perjanjian mineral Ukraina?” atau "Apakah Trump bisa maju untuk masa jabatan ketiga?”
Para jurnalis kemudian meninjau jawaban-jawaban tersebut berdasarkan keahlian dan sumber profesional mereka sendiri, tanpa mengetahui chatbot mana yang memberi jawaban. Jika dibandingkan dengan hasil studi BBC delapan bulan lalu, memang terlihat ada sedikit perbaikan, tetapi tingkat kesalahan tetap tergolong tinggi.
"Kami antusias dengan potensi AI dan bagaimana teknologi ini bisa memberi nilai tambah bagi audiens. Namun, publik harus bisa mempercayai apa yang mereka baca, tonton, dan dengar. Meski ada sedikit kemajuan, jelas masih ada banyak masalah serius pada asisten-asisten AI ini,” kata Peter Archer, Direktur Program AI Generatif BBC.
Dalam penelitian tersebut, Gemini menjadi chatbot dengan performa terburuk, dengan 72 persen tanggapannya bermasalah dalam hal sumber rujukan. Dalam studi BBC sebelumnya, Copilot dan Gemini juga dinilai sebagai yang paling buruk. Namun, secara keseluruhan keempat chatbot AI menunjukkan masalah yang serupa.
Dalam pernyataannya kepada BBC pada Februari lalu, juru bicara OpenAI, pengembang ChatGPT, mendukung penerbit dan pembuat konten dengan membantu 300 juta pengguna ChatGPT setiap minggu menemukan konten berkualitas melalui ringkasan, kutipan, tautan jelas, dan atribusi yang tepat.
Seruan untuk pemerintah
Lembaga penyiaran dan media di balik studi ini menyerukan agar pemerintah nasional mengambil langkah tegas. Dalam siaran persnya, EBU menyatakan bahwa anggotanya mendesak regulator Uni Eropa dan nasional untuk menegakkan hukum yang sudah ada terkait integritas informasi, layanan digital, dan keberagaman media.
