Djawanews - Baru-baru ini muncul video yang menampilkan rekaman audio mirip Presiden Jokowi nyanyi lagu 'Asmaralibrasi' milik Soegi Bornean. Menurut pakar, penggunaan kecerdasan buatan bisa menjadi gudang hoaks dalam pelaksanaan Pemilu 2024.
Salah satu personel Soegi Bornean, Fanny Soegi pun bereaksi lewat akun Twitternya. "Tolong Asmalibrasi jangan viral lagi. Itu hanya AI, bukan Owi kun," tulisnya.
Video Asmalibrasi itu sendiri diunggah akun @anjimeNation. Dalam kolom balasan (reply) kepada netizen lain, aku tersebut mengaku hanya mencomot sound dari TikTok.
"yntkts, soundnya itu hasil nyolong tiktok doang. gue cuman bikin ke format spotify," kicaunya.
Kepala Pusat Riset Kecerdasan Artificial dan Keamanan Siber di Badan Riset dan Inovasi Nasional (BRIN) Anto Satriyo Nugroho dalam perbincangannya dengan CNNIndonesia.com membenarkan tentang potensi deepfake semacam itu jadi sumber hoaks di Pemilu 2024.
"Iya," ucapnya, Kamis (4/5).
"Harus dicatat kita hanya mengandalkan suara atau video saja itu tidak cukup membuktikan suara itu asli atau tidak. Kita tidak bisa memakai itu untuk decision," lanjut dia.
Deepfake merupakan gabungan dari istilah deep learning (pembelajaran mesin yang meniru cara otak manusia belajar, yakni mencontoh) dan fake (palsu).
Dia merupakan salah satu tipe AI yang digunakan untuk membuat konten foto, audio, video tipuan yang cukup meyakinkan lantaran mirip orang aslinya.
Penggunaan AI untuk dalam konteks kepentingan politik sudah ditunjukkan Partai Republik AS. Pada April, dikutip dari Al Jazeera, Komite Partai Republik mengeluarkan video sindiran kepada calon presiden dari Partai Demokrat sekaligus petahana Joe Biden.
What if the weakest president we've ever had were re-elected (Bagaimana jika, Presiden terlemah yang kita punya, terpilih kembali)" tulis salah satu narasinya.
Darrel M. West, pengajar senior di Center for Technology Innovation, Brookings Institution, AS, mengungkapkan AI kini benar-benar siap dipakai dalam kampanye.
"Tiga tahun lalu, AI benar-benar tidak digunakan dalam kampanye pemilihan. Tetapi teknologi telah berkembang sangat pesat. Sekarang, teknologinya sudah siap," kata dia.
Menurutnya, para politisi dapat menggunakan AI generatif untuk merespons dengan cepat. Dalam kasus Komite Nasional Partai Republik itu, videonya dirilis tepat setelah pengumuman kembali pencalonan Biden.
"Sepertinya Partai tidak melakukan proses pengambilan gambar, edit, atau pengkajian secara ekstensif. Sebaliknya, mereka hanya meminta alat untuk menaruh bersama video-video yang merinci masa depan distopia Amerika Serikat jika Biden terpilih kembali," kata Darrell.
"Anda tidak perlu menjadi perancang perangkat lunak atau ahli edit video untuk menciptakan video yang sangat realistis," imbuh dia.
Sulit dideteksi
Salah satu penelitian untuk meng-counter deepfake itu adalah yang dilakukan para peneliti Facebook.
Dikutip dari NPR, mereka mengembangkan kecerdasan buatan yang dapat mengidentifikasi deepfake dan melacak asal konten tersebut dengan menggunakan teknik reverse engineering atau rekayasa balik.
AI Facebook ini mencari 'sidik jari' yang tertinggal dalam proses pembuatan yang digunakan untuk mengubah gambar digital. Dalam fotografi, misalnya, 'sidik jari' digunakan untuk melacak kamera digital yang digunakan untuk menghasilkan foto.
Anto mengungkapkan deepfake semacam itu memang sukar dideteksi benar atau tidaknya terlepas banyaknya studi untuk melacak itu.
"Memang ada penelitian untuk mengetahui mana yang membedakan asli dan tidak. Akan tetapi lagi-lagi proses sehingga memerlukan waktu, sehingga tidak ada jaminan 100 persen untung bisa diketahui mana yang bisa dan tidak," tuturnya.
Kuncinya, kata dia, adalah jangan langsung percaya sebelum mengecek ke banyak sumber informasi.
"Untuk mengatasi hal tersebut kita harus melengkapi informasi jika berupa foto video suara maka harus bukan hanya satu sumber, tapi berbagai sumber yang dipakai," lanjut dia.
"Jadi informasi seperti itu tidak 100 persen bisa dipastikan asli dan tidak," tandasnya.
