Halusinasi AI di Google Search Dorong Perekrutan Engineer “AI Answers Quality”
Google dilaporkan mulai merekrut insinyur dengan fokus khusus pada peningkatan kualitas jawaban berbasis kecerdasan buatan di layanan Google Search. Langkah ini muncul di tengah sorotan terhadap fenomena halusinasi AI, di mana sistem kecerdasan buatan dapat menghasilkan informasi yang keliru, bertentangan, atau bahkan sepenuhnya dibuat-buat.
Dalam beberapa waktu terakhir, fitur AI Overviews di Google Search kerap menunjukkan kelemahan tersebut. Jawaban yang dihasilkan AI dapat berubah drastis hanya karena perbedaan kecil dalam cara pengguna mengajukan pertanyaan. Kondisi ini memicu kekhawatiran, terutama karena banyak pengguna masih menganggap hasil pencarian Google sebagai sumber informasi yang sepenuhnya dapat dipercaya.
Melalui sebuah lowongan pekerjaan terbaru, Google secara tidak langsung mengakui bahwa kualitas AI Overviews masih perlu ditingkatkan. Dalam deskripsi lowongan tersebut, Google menjelaskan bahwa mereka tengah membayangkan ulang makna pencarian informasi, kapan pun dan di mana pun, sembari menghadapi tantangan teknis yang kompleks untuk menjaga pengalaman pencarian yang andal dan mudah diakses secara global.
Posisi yang dibuka memiliki jabatan “AI Answers Quality”. Insinyur yang bergabung dalam tim Google Search ini akan bertanggung jawab memverifikasi serta meningkatkan kualitas jawaban AI, dengan fokus utama pada AI Overviews. Mereka ditugaskan membantu menghadirkan ringkasan berbasis AI yang lebih akurat untuk pertanyaan pengguna yang rumit dan kompleks, baik di halaman hasil pencarian maupun dalam mode AI.
Ini menjadi sinyal pertama bahwa Google mengakui perlunya perbaikan serius pada AI Overviews, terutama di saat perusahaan semakin agresif mendorong pengguna untuk berinteraksi dengan jawaban berbasis AI. Setelah pembaruan terbaru, semakin banyak pengguna diarahkan ke AI Mode, sementara fitur Discover juga mulai menampilkan ringkasan berita berbasis AI, termasuk penulisan ulang judul artikel dari media berita.
Meski kualitas AI Overviews disebut mengalami peningkatan dibandingkan versi awal, sejumlah masalah mendasar masih ditemukan. Dalam beberapa kasus, AI Google dilaporkan memberikan angka valuasi perusahaan yang berbeda secara signifikan hanya karena perbedaan redaksi pertanyaan. Bahkan, setelah dilakukan pengecekan silang terhadap sumber yang diklaim menjadi rujukan, informasi tersebut ternyata tidak ditemukan dalam sumber asli yang disebutkan.
Kasus serupa bukan hanya terjadi pada topik bisnis atau teknologi. Laporan terbaru juga menyoroti bahwa AI Overviews dapat menyajikan saran kesehatan yang menyesatkan atau tidak akurat. Hal ini menimbulkan risiko yang lebih besar, mengingat informasi kesehatan memiliki dampak langsung terhadap keselamatan pengguna.
Walaupun Google telah melakukan berbagai penyempurnaan dalam beberapa bulan terakhir, tantangan dalam menjaga konsistensi dan akurasi jawaban AI masih belum sepenuhnya teratasi. Dengan mayoritas pengguna cenderung mempercayai apa pun yang ditampilkan Google di hasil pencarian, peningkatan kualitas AI menjadi kebutuhan mendesak. Perekrutan engineer “AI Answers Quality” mencerminkan upaya Google untuk menjawab tantangan tersebut sekaligus mempertahankan kepercayaan publik terhadap ekosistem pencariannya.
