Suara AI ElevenLabs Dikritik setelah Banyak Disalahgunakan

Suara AI ElevenLabs — Teknologi yang semakin canggih seperti AI sudah sepantasnya perlu mendapat perhatian lebih, mengingat teknologi ini sendiri berkembang semakin sigap dan telah melahirkan banyak penemuan serta karya yang tak diperkirakan oleh banyak pengguna sebelumnya.

Layaknya perkembangan beragam teknologi yang ada, tetap perlu mendapatkan kebijakan atau aturan yang perlu diterapkan ketika akan menggunakan teknologi ini. Hal yang tak diinginkan pun terjadi pada produk ElevenLabs yang telah disalahgunakan oleh pihak-pihak anonymous untuk hal-hal yang tak layak dilakukan pada umumnya.

Seorang Pengguna Duplikasi Suara Joe Biden Dan Emma Menggunakan Suara AI

Produk ini diketahui telah disalahgunakan untuk membagikan beberapa kalimat yang dianggap mengganggu kenyamanan bagi pengguna internet. Beberapa kalimat tersebut rupanya diucapkan dengan menduplikasi bunyi para tokoh terkenal seperti Emma Watson dan Joe Biden.

Kalimat fiksi yang diucapkan oleh Emma berkaitan dengan apa yang diucapkan oleh Adolf Hitler. Sedangkan kalimat fiksi Biden merupakan permintaannya untuk mengirimkan pasukan ke Ukraina.

Pihak pengembang pun membuka bunyi terkait hak-hak pengguna yang akan didapatkan dari produk tersebut. Diketahui fitur ‘Voice Labs’ ini bisa menduplikasikan bunyi yang dihasilkan dengan hanya memberikan sampel bunyi apapun sesuai dengan sasaran yang ditentukan dan dikembangkan kembali menjadi kalimat yang diinginkan oleh pengguna.

Isi Utas atas Penyalahgunaan Produk AI ini

Pengembang memutuskan fitur Voice Labs akan menjadi fitur premium atau berbayar, yang sebelumnya masuk dalam fitur gratis. Melalui utas twitter formal mereka, langkah ini diambil guna menanggulangi kejadian ini terjadi lagi di masa mendatang dengan membikin pengguna berpikir dua kali dan harus membayar untuk menggunakan fitur tersebut.

ElevenLabs

Apapun keputusan mereka, sepertinya ini merupakan langkah yang cukup bagus mengingat diluar sana tetap banyak pengguna yang malah melakukan dengan tujuan tak bagus serta berpotensi menganggu banyak pengguna internet. Hal ini seperti yang terjadi pada salah satu karya seniman yang dianggap menggunakan AI untuk hasil karyanya karena karakteristik khasnya yang terlalu mirip dengan hasil teknologi tersebut. Pengawalan lebih lanjut tetap diperlukan untuk perkembangan teknologi ini untuk kedepannya.

Baca juga informasi menarik Gamebrott lainnya terkait dengan TECH, AI atau artikel lainnya dari Lazuardi. For further information and other inquiries, you can contact us via [email protected]