Pengembang Meta sepenuhnya menyadari kemungkinan bahaya yang dapat timbul dari peluncurannya, mengarahkan mereka memprioritaskan tanggung jawab atas keterbukaan.
Dalam sebuah pernyataan, peneliti Meta mengakui keseimbangan halus yang diperlukan saat berbagi kemajuan AI, menekankan perlunya melindungi dari konsekuensi yang tidak diinginkan.
Voicebox beroperasi dengan alasan bahkan sampel audio singkat dua detik dari suara seseorang dapat digunakan guna menghasilkan ucapan sintetik yang sangat mirip dengan suara aslinya. Ini membuka kemungkinan bagi aktor jahat memanipulasi teknologi untuk tujuan kriminal, politik, atau pribadi.
Potensi malapetaka yang dapat ditimbulkan oleh scammers dengan menyamar sebagai orang yang dicintai secara meyakinkan atau pemberi kerja sangat meresahkan. Karena, merusak kepercayaan dan mengeksploitasi kerentanan individu yang tidak menaruh curiga.
Sementara Meta telah menerbitkan makalah terperinci tentang Voicebox, menawarkan wawasan tentang cara kerjanya dan strategi mitigasi potensial, keputusan mereka untuk tidak merilis teknologi tersebut mencerminkan kehati-hatian mereka terkait potensi konsekuensinya.
Perusahaan bertujuan mendorong kolaborasi dan penelitian lebih lanjut dalam domain audio tetapi mengakui sentimen yang tidak pasti dan memprihatinkan seputar kemajuan tersebut.