Meta Dikabarkan Uji Human Concierge untuk Agen AI Muse

Meta dilaporkan sedang menguji sistem human concierge untuk Muse, agen AI personal yang baru diluncurkan perusahaan. Dalam pengujian tersebut, kontraktor manusia dilibatkan untuk menangani sebagian panggilan telepon yang dilakukan Muse atas nama pengguna.

Muse diperkenalkan pada 8 September 2026 dan memiliki kemampuan melakukan panggilan telepon ke berbagai bisnis di Amerika Serikat. Agen AI tersebut dapat digunakan untuk melakukan tugas seperti memesan jadwal potong rambut, menanyakan ketersediaan barang di toko, hingga meminta penawaran harga.

Namun, pengujian human concierge tersebut dilaporkan menimbulkan sejumlah persoalan internal, terutama terkait privasi dan informasi yang dapat terlihat oleh kontraktor manusia.

Muse Dapat Melakukan Panggilan Telepon atas Nama Pengguna

Salah satu kemampuan Muse adalah melakukan panggilan telepon secara otomatis untuk menyelesaikan tugas tertentu yang diberikan pengguna.

Dalam skenario penggunaan, pengguna dapat meminta Muse menghubungi sebuah bisnis untuk mendapatkan informasi atau melakukan tindakan tertentu. Agen AI kemudian melakukan percakapan melalui telepon tanpa pengguna harus menangani panggilan tersebut secara langsung.

Kemampuan ini ditujukan untuk mengotomatisasi tugas sehari-hari yang biasanya membutuhkan interaksi manusia.

Namun, menurut laporan Reuters yang menjadi dasar informasi tersebut, tidak semua panggilan berjalan lancar. Salah satu karyawan Meta bahkan melaporkan bahwa perusahaan asuransinya beberapa kali memutus panggilan setelah mengetahui bahwa mereka sedang berbicara dengan AI.

Situasi seperti ini menjadi salah satu alasan mengapa Meta dilaporkan menguji mekanisme tambahan yang melibatkan manusia.

Kontraktor Manusia Menjadi Concierge untuk Panggilan Muse

Dalam pengujian yang dilakukan Meta, sebagian panggilan Muse dapat dialihkan atau ditangani oleh human concierge.

Menurut laporan tersebut, Meta memberikan akses terhadap opsi ini kepada sekitar setengah karyawannya pada minggu sebelumnya. Karyawan yang tidak ingin mengikuti pengujian juga dilaporkan memiliki opsi untuk keluar dari program tersebut.

Konsepnya adalah menghadirkan manusia sebagai perantara ketika agen AI mengalami masalah dalam menyelesaikan panggilan.

Dengan adanya manusia di balik proses tersebut, Muse berpotensi menyelesaikan percakapan yang tidak dapat ditangani dengan baik oleh AI, terutama ketika berhadapan dengan sistem telepon atau bisnis yang menolak berinteraksi dengan agen otomatis.

Namun, pendekatan tersebut sekaligus menciptakan persoalan baru karena informasi yang awalnya diproses oleh AI dapat masuk ke lingkungan kerja kontraktor manusia.

Karyawan Meta Mempertanyakan Risiko Privasi

Pengujian tersebut dilaporkan memicu kekhawatiran di kalangan karyawan Meta mengenai bagaimana informasi pribadi ditangani ketika panggilan dialihkan ke kontraktor.

Kekhawatiran utamanya adalah informasi sensitif yang diberikan pengguna kepada Muse dapat muncul dalam percakapan, transkrip, atau sistem yang dapat diakses oleh pihak manusia.

Dalam sebuah diskusi internal, seorang karyawan dilaporkan memperingatkan bahwa satu kesalahan pada sistem dapat menyebabkan informasi yang seharusnya tidak perlu diketahui oleh manusia justru diteruskan kepada operator.

Persoalan tersebut menjadi semakin relevan karena tugas yang dapat dilakukan Muse mencakup berbagai layanan yang berpotensi melibatkan informasi pribadi.

Misalnya, percakapan dengan perusahaan asuransi, penyedia layanan internet, atau penyedia jasa lainnya dapat mengandung informasi pelanggan yang tidak semestinya diketahui oleh pihak ketiga.

Transkrip Dilaporkan Memuat Pernyataan Rasial

Masalah lain muncul dalam pengujian ketika seorang karyawan menggunakan Muse untuk menghubungi penyedia layanan internet dan kabel miliknya guna melakukan negosiasi tagihan.

Menurut laporan tersebut, transkrip percakapan menunjukkan bahwa kontraktor yang menangani panggilan membuat referensi bernuansa rasial.

Insiden tersebut menambah persoalan dalam pengujian karena bukan hanya menyangkut privasi, tetapi juga bagaimana interaksi antara kontraktor manusia dan pengguna atau pihak yang dihubungi dikendalikan.

Seorang wakil presiden di Meta Superintelligence Labs dilaporkan mengakui bahwa pengujian tersebut dimulai tanpa pengungkapan yang semestinya dan menyebut keputusan tersebut sebagai sebuah kesalahan.

Meta kemudian dilaporkan menarik kembali fitur human concierge tersebut untuk sementara.

Meta Belum Menghentikan Pengembangan Fitur Panggilan

Meski pengujian human concierge dihentikan sementara, Meta dilaporkan tidak membatalkan pengembangan kemampuan panggilan Muse.

Seorang juru bicara Meta mengatakan kepada Reuters bahwa masukan karyawan secara keseluruhan terhadap fitur tersebut sangat positif. Namun, fitur panggilan baru akan diperluas setelah dianggap siap dan perusahaan dapat memberikan pengungkapan yang sesuai.

Dengan kata lain, persoalan utama dalam pengujian bukan berarti Meta menghentikan kemampuan Muse untuk melakukan panggilan telepon, melainkan perusahaan perlu memperbaiki mekanisme dan transparansi ketika manusia dilibatkan dalam proses tersebut.

Meta juga perlu menentukan dengan jelas kapan sebuah panggilan ditangani sepenuhnya oleh AI dan kapan kontraktor manusia dapat terlibat.

Belum Diketahui Apakah Pengguna Umum Pernah Terlibat

Salah satu keterbatasan informasi dalam laporan ini adalah pengujian human concierge yang disebutkan secara spesifik hanya melibatkan karyawan Meta.

Belum diketahui apakah panggilan dari pengguna umum Muse pernah dialihkan kepada kontraktor manusia dalam skala yang sama.

Perbedaan tersebut penting karena penggunaan internal memberikan lingkungan pengujian yang berbeda dibandingkan layanan yang tersedia bagi masyarakat luas.

Jika fitur serupa nantinya diterapkan kepada pengguna umum, mekanisme pengungkapan perlu menjelaskan secara jelas apakah panggilan dapat ditangani manusia, informasi apa yang dapat dilihat operator, bagaimana transkrip diproses, serta berapa lama data tersebut disimpan.

Tantangan Baru untuk Agen AI yang Dapat Bertindak

Pengujian Muse menunjukkan salah satu tantangan yang muncul ketika AI tidak lagi hanya menjawab pertanyaan, tetapi mulai melakukan tindakan di dunia nyata.

Agen AI yang dapat melakukan panggilan telepon harus berhadapan dengan sistem yang dirancang untuk interaksi manusia. Ketika AI gagal menyelesaikan tugas, perusahaan pengembang harus menentukan apakah proses dihentikan, dicoba kembali, atau dialihkan kepada manusia.

Pengalihan kepada manusia memang dapat meningkatkan kemampuan agen dalam menangani situasi yang sulit, tetapi pada saat yang sama menciptakan lapisan baru dalam rantai pemrosesan data.

Informasi yang diberikan kepada agen AI dapat berpindah dari sistem otomatis ke manusia, sehingga aspek keamanan, privasi, kontrol akses, dan transparansi menjadi semakin penting.

Untuk Muse, Meta dilaporkan memilih menarik kembali pengujian human concierge sementara waktu setelah menerima berbagai masukan internal. Perusahaan masih berencana melanjutkan fitur panggilan setelah mekanisme pengungkapan dan prosesnya dinilai siap.

Sumber: Reuters