RAKYATSULBAR.COM – Reality Defender, sebuah perusahaan rintisan yang berfokus pada pendeteksian AI, telah mengembangkan sebuah alat untuk memverifikasi partisipan manusia dalam panggilan video dan menangkap penipu yang menggunakan pemalsuan AI untuk melakukan penipuan.
Dilansir dari WIRED (15/10/2024), Pemalsuan video real-time merupakan ancaman yang terus meningkat bagi pemerintah, bisnis, dan individu. Baru-baru ini, ketua Komite Hubungan Luar Negeri Senat AS secara keliru melakukan panggilan video dengan seseorang yang berpura-pura menjadi pejabat Ukraina. Sebuah perusahaan teknik internasional kehilangan jutaan dolar di awal tahun 2024 ketika seorang karyawannya tertipu oleh panggilan video palsu. Selain itu, penipuan percintaan yang menargetkan individu sehari-hari juga menggunakan teknik serupa.
“Mungkin hanya dalam hitungan bulan sebelum kita akan mulai melihat ledakan video deepfake, penipuan tatap muka,” kata Ben Colman, CEO dan salah satu pendiri Reality Defender. Dalam hal panggilan video, terutama dalam situasi yang berisiko tinggi, situasi ini mejadi sesuatu yang sangat mengkhawatirkan.
Perusahaan startup ini sangat fokus untuk bekerjasama dengan klien bisnis dan pemerintah untuk membantu megatasi masalah deepfakes yang didukung oleh AI. Bahkan dengan misi utama ini, Colman tidak ingin perusahaannya dilihat sebagai perusahaan yang menentang perkembangan kecerdasan buatan.
“Kami sangat pro AI,” katanya. “Kami berpikir bahwa 99,999 persen kasus penggunaan adalah transformasional-untuk pengobatan, untuk produktivitas, untuk kreativitas-tetapi dalam kasus-kasus yang sangat, sangat kecil seperti ini, risikonya sangat buruk secara tidak proporsional.”
Rencana Reality Defender untuk detektor waktu nyata adalah memulai dengan plug-in untuk Zoom yang dapat membuat prediksi aktif tentang apakah orang lain dalam panggilan video itu nyata atau peniruan yang didukung AI. Perusahaan saat ini sedang mengerjakan tolok ukur alat ini untuk menentukan seberapa akurat alat ini membedakan peserta video yang asli dan yang palsu. Sayangnya, ini bukan sesuatu yang mungkin bisa Anda coba dalam waktu dekat. Fitur perangkat lunak baru ini hanya akan tersedia dalam versi beta untuk beberapa klien startup.
Pengumuman ini bukan pertama kalinya sebuah perusahaan teknologi membagikan rencana untuk membantu menemukan deepfakes secara real-time. Pada tahun 2022, Intel meluncurkan alat FakeCatcher untuk mendeteksi deepfake. FakeCatcher dirancang untuk menganalisis perubahan dalam aliran darah wajah untuk menentukan apakah peserta video itu asli atau tidak. Alat Intel ini juga tidak tersedia untuk umum.
Para peneliti akademis juga sedang mencari pendekatan yang berbeda untuk mengatasi jenis ancaman deepfake yang spesifik ini. “Sistem ini menjadi sangat canggih untuk membuat deepfake. Kita bahkan membutuhkan lebih sedikit data sekarang,” kata Govind Mittal, seorang kandidat PhD ilmu komputer di New York University. “Jika saya memiliki 10 foto saya di Instagram, seseorang dapat mengambilnya. Mereka bisa menargetkan orang normal.”
Pemalsuan real-time ini tidak hanya terbatas pada miliarder, figur publik, atau mereka yang memiliki kehadiran online yang luas. Penelitian Mittal di NYU, dengan profesor Chinmay Hegde dan Nasir Memon, mengusulkan pendekatan berbasis tantangan yang potensial untuk memblokir bot AI dari panggilan video, di mana para peserta harus melewati semacam tes CAPTCHA video sebelum bergabung.
Saat Reality Defender bekerja untuk meningkatkan akurasi deteksi modelnya, Colman mengatakan bahwa akses ke lebih banyak data adalah tantangan penting yang harus diatasi – sebuah hambatan yang umum dialami oleh perusahaan rintisan yang berfokus pada AI. Dia berharap lebih banyak kemitraan akan mengisi kesenjangan ini, dan tanpa menyebutkan secara spesifik, mengisyaratkan beberapa kesepakatan baru yang mungkin akan terjadi tahun depan. Setelah ElevenLabs terkait dengan panggilan suara palsu presiden AS Joe Biden, startup Ai Audio ini membuat kesepakatan dengan Reality Defender untuk mengurangi potensi penyalahgunaan kecerdasan buatan.
“Kami tidak meminta ibu saya yang berusia 80 tahun untuk menandai ransomware di email,” kata Colman. “Karena dia bukan ahli ilmu komputer.” Di masa depan, ada kemungkinan autentikasi video real-time, jika deteksi AI terus membaik dan terbukti akurat, akan dianggap biasa seperti pemindai malware yang diam-diam bersenandung di latar belakang kotak masuk email Anda.
