Kloning Suara AI Akan Hadir di Ponsel—Inilah Mengapa Anda Harus Berhati-hati

Bersiaplah untuk telepon terdengar seperti Anda, bahkan saat Anda bukan orang yang berbicara.

Samsung mengutak-atik asisten perangkat lunak Bixby untuk mengkloning suara pengguna Dia menelepon untuk menjawab. Bagian utamanya adalah langkah untuk membuat klon suara kecerdasan buatan (AI) yang dapat menyebabkan masalah keaslian.

“Bendera merah terbesar adalah bahwa dengan kepalsuan yang dalam, sulit untuk membedakan mana yang asli dan mana yang tidak.” Rijul GuptaCEO pengadilan AI menengah tinggi kata Lifewire dalam wawancara email.

Klon Suara AI Anda

Pemutakhiran Bixby Samsung sekarang memungkinkan speaker menjawab panggilan dengan mengetik pesan Bixby beralih ke audio dan komunikasi penelepon langsung untuk ini. Anda juga dapat menggunakan Bixby Custom Voice Creator baru untuk menganalisis berbagai kalimat untuk Bixby dan membuat model suara dan nada Anda yang dihasilkan AI.

Voice AI, jika dilakukan secara etis, dapat membantu dalam banyak hal, terutama di industri hiburan, kata Gupta. Siswa dapat menghemat ratusan ribu dolar karena mereka tidak dapat membayar pemain dan teknisi yang sehat. Sampai saat ini, untuk menyandikan suara, diperlukan sejumlah besar ucapan tertulis untuk kumpulan data, tetapi karena teknologi berkembang pesat, yang diperlukan hanyalah beberapa menit ucapan tertulis.

Area lain di mana teknologi pengenalan suara dapat berguna adalah ketika digunakan untuk membuat suara sintetis khusus untuk individu dengan keterbatasan bicara, kata Gupta. “Ini dapat dibantu untuk berkomunikasi lebih efektif dan mengekspresikan diri mereka dengan suara yang khas mereka sendiri,” tambahnya.

Misalnya, banyak pasien kanker laring menjalani pengangkatan laring. Namun, prosedur tersebut seringkali menyebabkan pasien kehilangan suaranya. Teknologi suara canggih dapat secara artifisial menambah laring untuk membuat pasien terdengar lebih seperti diri mereka sendiri.

Kloning Suara Gelap

Terlepas dari aplikasi praktisnya, pencarian suara penuh dengan potensi masalah. Mohamed Lazzounichief technology officer dari perusahaan perangkat lunak biometrik SadarDia mengatakan dalam email bahwa teknologi suara menimbulkan masalah privasi dan persetujuan.

“Penggunaan mereplikasi suara seseorang tanpa izin atau menjelajahi suara dalam aktivitas jahat merupakan pelanggaran serius terhadap identitas dan privasi,” tambahnya. “Apa yang harus hati-hati dengan teknologi yang menjanjikan ini, meskipun telah membuat langkah signifikan, teknik pelatihan masih dalam tahap awal dan masih dalam pengembangan. Kualitas presisi dan kualitas belum sepenuhnya matang. Suara yang canggih dapat digunakan untuk mencemarkan nama baik, menipu, atau memberatkan orang.”

Suara halus juga menjadi sarana informasi yang tersedia bagi hampir semua orang. Platform sintesis suara ElevenLabs memungkinkan pengguna untuk menghasilkan audio nyata dari suara manusia apa pun, mengunggah sampel audio beberapa menit dan mengetik teks untuk mengatakannya.

Teknologi suara yang canggih telah digunakan untuk menyebarkan kebencian. Dalam sebuah video dari laporan berita baru-baru ini, Presiden Joe Biden dibahas di dalam tangki. Namun, versi video yang direkayasa menggunakan AI, dengan suara halus yang muncul, dan telah memberikan pidato kepada orang-orang transgender. Ini telah mengumpulkan ratusan ribu tampilan di media sosial.

“Karena pencarian kata itu akurat dan masuk akal, kami melihat banyak yang dibuat hanya untuk keuntungan politik,” kata Gupta. “Siapa pun dapat mengambil tokoh politik seperti Presiden Biden atau (Vladimir) Putin dan mengatakan sesuatu – ini hanya menambah bahan bakar ke api informasi yang salah. Misalnya, mendengar seorang pemimpin dunia menyerang kelompok masyarakat yang terpinggirkan dalam pidato yang seharusnya dapat mengarah pada pidato nyata. merugikan dunia.’

Penipu juga menggunakan pengenalan suara AI untuk memanggil orang yang rentan dan mengelabui mereka agar mentransfer uang dalam jumlah besar ke akun mereka, kata Gupta. FBI Eks. dia memperingatkan penjahat yang menggunakan perekam suara untuk meniru suara Anda atau berpura-pura menjadi kekasih atau menipu Anda demi masalah.

“Mereka memiliki kemampuan untuk mengkloning suara siapa pun secara gratis dalam hitungan menit, sehingga mereka dapat terdengar persis seperti anggota keluarga yang menangis minta tolong, memaksa Anda masuk ke dalam situasi berbahaya,” kata Gupta. “Di saat-saat panas, bagaimana orang bisa mempertanyakan validitas panggilan itu ketika kedalaman palsu sebagus itu?”