Para selebriti, bagaimanapun, telah membantah terlibat dalam video yang menurut para ahli menempatkan beban besar pada publik India untuk membedakan fakta dari fiksi, dalam masyarakat di mana pendapat dapat dengan mudah dipengaruhi oleh budaya kultus di antara mereka yang tidak terlatih dalam pemikiran kritis.
Penghibur lain, Ranveer Singh, juga ditampilkan dalam klip yang mendukung partai politik.
Ayahnya mengajukan keluhan terhadap pengguna X (sebelumnya Twitter), yang dipesan karena penyalahgunaan teknologi dan tujuan merusak reputasi orang tersebut.
Platform pengecekan fakta India BOOM menganalisis video Singh menggunakan itisaar, alat deteksi deepfake yang dikembangkan oleh Institut Teknologi India (IIT) Jodhpur, menentukan konten berisi klon suara AI.
“Mengingat bagaimana disinformasi sudah menjadi salah satu masalah terbesar yang dihadapi negara ini, pengenalan disinformasi yang dipimpin AI memperburuk situasi yang sudah buruk secara signifikan,” kata Archis Chowdhury, pemeriksa fakta senior dan koresponden di BOOM.
Namrata Maheshwari, penasihat kebijakan senior di Access Now, sebuah organisasi hak digital global, mengatakan eksploitasi atau penggunaan identitas seseorang secara curang harus ditanggapi dengan serius.
“Selama periode sensitif seperti pemilu, kebutuhan untuk mengidentifikasi penyalahgunaan tersebut dan mengambil langkah-langkah untuk memperbaiki dan mencegahnya bahkan lebih mendesak,” kata Maheshwari kepada This Week in Asia.
11:56
Dari India ke China, bagaimana deepfake membentuk kembali politik Asia
Dari India ke China, bagaimana deepfake membentuk kembali politik Asia
“Partai politik tidak boleh menggunakan informasi yang salah atau disinformasi berbahaya dalam kampanye mereka, terlepas dari apakah itu dihasilkan AI,” katanya.
Dia mencatat bahwa itu adalah “merugikan masyarakat” ketika kelompok-kelompok politik atau anggotanya menyebarkan konten yang dimanipulasi atau pidato kebencian di media sosial tanpa memeriksa kebenaran pesan tersebut.
Maheshwari mengatakan orang-orang juga dibanjiri informasi selama musim pemilihan, dan kewajiban memverifikasi fakta tidak boleh jatuh tepat pada pemilih.
Dia menambahkan AI telah menambah masalah yang ada dengan disinformasi dengan mengurangi waktu dan biaya yang terlibat dalam memproduksi konten berbahaya.
“Algoritma yang digunakan oleh platform media sosial, yang dirancang untuk mengedarkan konten yang menarik bola mata dengan cepat, sama-sama harus disalahkan atas jangkauan luas media yang menyesatkan dan dimanipulasi. Jadi setidaknya beberapa solusi perlu ditujukan untuk mengendalikan diseminasi.”
Nirali Bhatia, seorang psikolog yang berbasis di Mumbai yang membantu klien menangani cyberbullying, mengatakan pandangan politik selebriti India memiliki dampak signifikan pada pemilih.
“Jika ideologi mereka selaras dengan atau menentang pemilih, efeknya sangat mendalam. Sayangnya, pengaruh ini tidak selalu positif. Bahkan setelah menyanggah video palsu, keraguan tetap ada, membuat individu mempertanyakan apa yang harus dipercaya. “
Dia memperingatkan bahwa percakapan yang dipicu oleh klip palsu bisa meresap, terutama selama kampanye pemilihan. “Kepercayaan kurang, yang mengarah pada beban yang semakin besar untuk menentukan kebenaran dari kepalsuan.”
Budaya kultus dan keyakinan buta yang ada di negara ini bertahan karena kemudahan menerima informasi tanpa berpikir kritis, katanya.
Namun, dengan kemajuan teknologi dan manipulasi AI, tanggung jawab untuk membedakan kebenaran jatuh pada individu, menambah beban kognitif.
Mishi Choudhary, seorang pengacara digital dan aktivis kebebasan sipil online, mengatakan bahwa meskipun tidak ada banyak data empiris karena alat deteksi AI relatif baru, bukti historis menunjukkan bahwa media yang dimanipulasi memiliki dampak yang luas dan mendalam terutama ketika digunakan oleh aktor politik pada saat-saat seperti pemilihan.
“Perusahaan membuat beberapa janji seperti memberi label konten yang dihasilkan AI, tetapi sistem ini belum siap. Juga, media sosial tidak beroperasi sendiri. Orang-orang yang menggunakan konten tersebut dan mendistribusikannya.
“Perusahaan sangat penting di sini, tetapi kami juga membutuhkan peraturan yang bijaksana [membutuhkan] mereka yang menggunakan sistem ini untuk memberi label dan mengungkapkan bahwa AI telah digunakan,” katanya.