Ancaman deepfake semakin meningkat dengan alat kecerdasan buatan untuk menciptakannya semakin mudah diakses. Terdapat peningkatan sebanyak 245% dalam deepfake di seluruh dunia dari tahun 2023 hingga 2024, peningkatan yang dipicu sebahagiannya oleh siklus pilihan raya yang akan datang, menurut pembekal pengesahan Sumsub. Ia juga memberi kesan kepada sektor korporat; satu kajian terkini oleh Business.com mendapati bahawa 10% daripada syarikat telah menghadapi penipuan yang dibantu oleh deepfake, seperti suara yang disalin.
Trend ini, tidak menghairankan, telah memberikan keuntungan besar kepada syarikat-syarikat yang memasarkan alat-alat untuk mempertahankan diri daripada deepfake dan teknologi yang digunakan untuk menghasilkannya. Salah satu daripada syarikat-syarikat tersebut, Pindrop, telah mengumumkan bahawa mereka telah mendapat pinjaman sebanyak $100 juta selama lima tahun daripada Hercules Capital, yang mana CEO Vijay Balasubramaniyan menyatakan bahawa wang tersebut akan digunakan untuk pembangunan produk dan pengambilan pekerja.
“Dengan kemajuan dalam kecerdasan buatan generatif, pengklonan suara khususnya telah menjadi alat yang berkuasa,” kata Balasubramaniyan kepada TechCrunch. “Pengesan deepfake yang menggunakan teknologi pengesanan kecerdasan buatan kini diperlukan oleh setiap pusat panggilan untuk kekal satu langkah di hadapan penipu.”
Pindrop membangunkan produk-produk bekalan deepfake dan pengesahan multi-faktor yang mempunyai sasaran kepada perniagaan di bidang-bidang perbankan, kewangan dan berkaitan. Syarikat ini mendakwa bahawa alat-alat mereka boleh mengenal pasti panggilan pusat hubungan, sebagai contoh — dan dengan ketepatan yang lebih tinggi daripada penyelesaian pesaing.
“Pindrop menggunakan set data lebih daripada 20 juta ucapan, sama ada sintetik atau asli, untuk melatih model-model kecerdasan buatan untuk membezakan di antara suara manusia yang sebenar dan yang dihasilkan secara sintetik,” kata Balasubramaniyan. “Kami juga telah melatih lebih daripada 330 model teks-ke-suara (TTS) untuk membantu mengenal pasti model TTS yang digunakan untuk mencipta deepfake.”
Prasangka merupakan masalah biasa dalam model pengesanan deepfake. Banyak model audio cenderung mempunyai kecenderungan untuk mengenali suara-suara barat, Amerika dan berlaku buruk dengan aksen dan dialek yang berbeza, yang boleh menyebabkan pengenali mengklasifikasikan suara yang sah sebagai deepfake.
Perdebatan mengenai data latihan sintetik — data latihan yang dihasilkan oleh model-model kecerdasan buatan sendiri — sama ada dapat mengurangkan atau menambah prasangka. Bagi Balasubramaniyan, dia berpendapat yang pertama dan menyatakan bahawa produk pengesahan suara Pindrop menumpukan kepada “ciri-ciri akustik dan spektro-temporal” suara berbanding sebutan atau bahasa.
“Sistem pengenalan suara berdasarkan kecerdasan buatan cenderung menunjukkan hasil yang bersifat prasangka terhadap perbezaan nada, aksen, vernakular dan dialek yang mungkin mempunyai implikasi perkauman,” kata Balasubramaniyan. “Prasangka ini berasal dari homogenitas data yang digunakan untuk melatih sistem yang mungkin kekurangan perwakilan berbagai etnik, kaum, jantina atau perbezaan lain, dan dengan itu menghadkan pelbagai data yang digunakan oleh sistem kecerdasan buatan itu.”
Walau bagaimanapun, walaupun berkesannya produk-produk mereka, Pindrop telah membuat kemajuan besar sejak tahun 2011, apabila Balasubramaniyan, bekas pekerja Google, mewujudkan syarikat itu bersama Ketua Pegawai Penyelidik Barracuda Networks yang juga bekas, Paul Judge dan Mustaque Ahamad. Sehingga kini, syarikat berpangkalan di Atlanta ini, yang mempunyai kira-kira 250 pekerja, telah mengumpulkan $234.77 juta dalam modal ventura daripada pelabur-pelabur termasuk Vitruvian Partners, CapitalG, IVP dan Andreessen Horowitz.
Apabila ditanya mengapa Pindrop memilih hutang berbanding ekuiti kali ini, Balasubramaniyan menyatakan bahawa ia adalah satu “pilihan menarik” untuk “mendapatkan modal pertumbuhan dengan lebih cekap” tanpa mengurangkan ekuiti Pindrop. (Itu adalah satu strategi biasa.)
Pendapatan daripada pinjaman ini akan membolehkan Pindrop membawa teknologinya ke sektor-sektor baru, tambah Balasubramaniyan, seperti penjagaan kesihatan, runcit, media dan pelancongan.
“Dengan kemunculan kecerdasan buatan generatif, kami sedang melihat permintaan yang besar untuk penyelesaian kami di seluruh dunia, dan merancang untuk melihat pengembangan ke negara-negara yang menghadapi ancaman yang signifikan disebabkan oleh deepfakes,” kata Balasubramaniyan. “Pindrop kedudukannya adalah untuk membantu syarikat-syarikat melindungi diri dan pengguna mereka daripada penipuan yang semakin meningkat dan ancaman deepfake dengan penyelesaian pencegahan penipuan, pengesahan dan penyelesaian liveness.”
