Halusinasi AI di Google Search Dorong Perekrutan Insinyur “AI Answers Quality”
Google dikabarkan mulai mengambil langkah serius untuk meningkatkan kualitas jawaban berbasis AI di layanan pencariannya. Perusahaan teknologi raksasa tersebut membuka posisi baru bertajuk AI Answers Quality, yang berfokus pada peningkatan akurasi dan konsistensi jawaban AI, khususnya pada fitur AI Overviews di Google Search.
Langkah ini muncul di tengah sorotan terhadap kecenderungan AI dalam menghasilkan hallucination, yaitu jawaban yang terdengar meyakinkan namun tidak akurat, saling bertentangan, atau bahkan sepenuhnya dibuat-buat. Fenomena ini dinilai berisiko, terutama ketika AI digunakan sebagai sumber informasi utama oleh jutaan pengguna.
Upaya Meningkatkan Kualitas Jawaban AI
Dalam deskripsi lowongan kerja yang dipublikasikan, Google menyebutkan bahwa mereka tengah “mendefinisikan ulang” pengalaman pencarian informasi. Untuk mencapai tujuan tersebut, perusahaan perlu mengatasi tantangan teknis yang kompleks sekaligus memastikan layanan pencarian tetap mudah diakses dan andal bagi pengguna di seluruh dunia.
Tim AI Answers Quality akan bertugas memastikan AI Overviews mampu memberikan jawaban yang berkualitas tinggi, terutama untuk pertanyaan yang sulit dan kompleks. Fokus utama peran ini adalah meningkatkan keandalan jawaban AI yang ditampilkan di halaman hasil pencarian dan dalam mode AI.
Ini menjadi sinyal pertama bahwa Google secara tidak langsung mengakui masih adanya kekurangan pada AI Overviews, meskipun fitur tersebut terus diperluas dan semakin sering ditampilkan kepada pengguna.
AI Overviews Semakin Dipaksakan ke Pengguna
Dalam beberapa waktu terakhir, Google semakin agresif mendorong penggunaan AI Overviews. Banyak pengguna kini diarahkan ke mode AI secara otomatis, bahkan tanpa permintaan eksplisit. Selain itu, Google juga mulai menyematkan ringkasan AI pada feed Discover untuk berita, termasuk menulis ulang judul artikel media menggunakan AI.
Meski kualitas AI Overviews disebut telah mengalami peningkatan dibandingkan versi awal, sejumlah masalah mendasar masih ditemukan. Salah satunya adalah inkonsistensi jawaban untuk pertanyaan yang sama namun diajukan dengan redaksi berbeda. Dalam beberapa kasus, AI dapat memberikan angka, fakta, atau klaim yang saling bertolak belakang.
Yang lebih mengkhawatirkan, proses verifikasi menunjukkan bahwa sebagian informasi yang dikutip AI tidak benar-benar tercantum dalam sumber rujukan yang disebutkan. Hal ini menimbulkan pertanyaan serius mengenai transparansi dan keandalan sistem sitasi yang digunakan AI.
Risiko Informasi Menyesatkan
Masalah ini tidak hanya terbatas pada data bisnis atau teknologi. Laporan dari media internasional juga menyoroti bahwa AI Overviews pernah memberikan saran kesehatan yang menyesatkan atau keliru. Mengingat banyak pengguna cenderung mempercayai hasil pencarian Google tanpa verifikasi tambahan, risiko penyebaran informasi salah menjadi semakin besar.
Di satu sisi, Google terus memperluas peran AI dalam pengalaman pencarian. Di sisi lain, kualitas jawaban AI belum sepenuhnya mampu menyamai ekspektasi sebagai sumber informasi tepercaya. Perekrutan insinyur AI Answers Quality menunjukkan adanya kesadaran internal bahwa peningkatan kualitas bukan lagi opsi, melainkan kebutuhan mendesak.
Penutup
Langkah Google membuka posisi khusus untuk meningkatkan kualitas jawaban AI mencerminkan tantangan besar yang dihadapi mesin pencari modern di era AI generatif. Seiring semakin dominannya AI Overviews dalam hasil pencarian, akurasi dan konsistensi jawaban menjadi faktor krusial untuk menjaga kepercayaan pengguna.
Apakah upaya ini akan mampu mengurangi masalah halusinasi AI secara signifikan masih harus dibuktikan. Namun, satu hal jelas: Google menyadari bahwa masa depan pencarian informasi sangat bergantung pada seberapa andal AI dalam menyajikan kebenaran, bukan sekadar jawaban yang terdengar meyakinkan.
