Saat ini sedang viral berbagai kasus manipulasi wajah dengan AI, apalagi pada masa kampaye pemilu 2024. Saya yakin kamu sudah pernah mendengar berita presiden Indonesia yaitu bapak joko widodo terlihat sedang berbica bahasa mandirin1. Sekilas jika diperhatikan bahwa video tersebut terlihat nyata, apalagi didukung dengan pola mimik wajah, dan suara yang menyerupai aslinya, sehingga hal ini mengecoh masyarakat awam yang tidak mengenal teknologi AI yaitu deepfake.
Apa itu deepfake? dalam penelitian saya yang berjudul “Deepfake Video Detection Using Spatiotemporal Convolutional Network and Photo Response Non Uniformity” dan telah publish di IEEE, disana membahas terkait deepfake dan pendekatan untuk mendeteksi deepfake tersebut. Deepfake sederhananya adalah teknologi rekayasa yang memanipulasi gambar atau video bahkan audio menggunakan kecerdasan buatan (AI) sehingga menciptakan konten baru yang terlihat menyerupai aslinya. Cara kerjanya lumayan kompleks, deepfake ini melibatkan jaringan saraf tiruan yang disebut Generative Adversarial Network (GAN), terdiri dari dua bagian utama: generator yang membuat konten palsu, dan diskriminator yang membedakan antara konten asli dan palsu, kedua bagian ini bersaing untuk menciptakan konten yang sulit dibedakan dari aslinya. Namun sederhananya, kamu bisa pahami bahwa dibelakang sana ada tools yang berusaha mempelajari kumpulan data berupa pola wajah, atau gambar, dan audio untuk menghasilkan video dengan citra yang baru (manipulasi).
Sayangnya, deepfake sering disalahgunakan, seperti dalam kasus deepfake pornografi, politik di mana wajah seseorang diganti dengan wajah aktor lain dalam video atau foto. Meskipun belum ada regulasi spesifik di Indonesia terkait penyalahgunaan deepfake porn, pemahaman mendalam tentang deepfake, cara kerjanya, serta potensi dampak negatifnya sangat penting untuk menghadapi perkembangan teknologi ini. Padahal teknologi ini banyak sisi positifnya, contoh saja film “Star Wars: The Rise of Skywalker” yang menggunakan teknologi deepfake untuk mereplikasi wajah salah satu aktornya yaitu Carrie Fisher. Selain itu, penggunaan deepfake dalam hal ini memungkinkan para pembuat konten untuk menciptakan pengalaman yang lebih realistis dan menarik, seperti pada industri game, film, hiburan, bahkan pendidikan.
Lalu bagaimana cara deteksi deepfake? secara teknis ada banyak pendekatan atau metode yang sering dilakukan oleh para ahli seperti penggunaan tools atau software detektor Real-Time dari Intel, menggunakan metode Convolutional Neural Network (CNN) Model ResNet50, dan Klasifikasi Deepfake Video Menggunakan Random Forest. Kombinasi alat dan teknik ini membantu mengidentifikasi konten deepfake untuk mengurangi dampak negatifnya.
Namun, ini bukan perkerjaan yang mudah, kita butuh deteksi dini agar video, audio atau gambar yang sering kita temukan di internet bisa kita pahami sebagai deepfake atau original. Pendekatan yang bisa kamu lakukan untuk deteksi ini video manipulasi AI yaitu dengan memperhatikan gerakan wajah, ekspresi, kesesuaian dengan konteks, lalu yang terakhir menggunakan perangkat lunak deteksi deepfake yang saat ini banyak dishare oleh perusahaan teknologi.
Oleh karena itu, perlu kejelian dan kehati-hatian dalam mengkonsumsi konten dari sosial media, dan internet sacara luas. Selain itu, saya selalu menekankan etika dalam digitalisasi khususnya teknologi deepfake untuk mengidentifikasi keaslian konten, pemahaman dan kesadaran tentang deepfake, penggunaan bijak dalam memposting konten, aktivasi fitur privasi, pemeriksaan konten, identifikasi tanda-tanda deepfake, pengembangan kebijakan pencegahan, serta penggunaan teknologi canggih untuk melindungi diri dari risiko deepfake. Salam.
