Jakarta, CNN Indonesia —
Kementerian Komunikasi dan Digitalisasi (Komdigi) menjelaskan berbagai dampak penerapan kecerdasan buatan generatif (GenAI) dalam penyebaran misinformasi atau penipuan, mulai dari kuantitas konten hoaks hingga kualitasnya.
Pj Direktur Pengembangan Ekosistem Digital Aries Kusdaryono mengatakan dampak negatif pertama adalah peningkatan jumlah.
“Ada empat argumen mengenai dampak AI generator terhadap disinformasi. Pertama, jumlah disinformasi semakin meningkat karena mudahnya akses dan penggunaan AI generator, yang dapat berguna untuk menciptakan disinformasi atau disinformasi dalam skala besar, sehingga sehingga dapat menghilangkan konten faktual sehingga menimbulkan kebingungan,” ujarnya Aries pada acara Rilis Survei Nasional Safer Internet Lab bertajuk “Di Era Penciptaan AI untuk Mengatasi Disrupsi Informasi” di Jakarta, Kamis. (16/1).
Aries mengatakan dampak kedua terkait dengan peningkatan kualitas disinformasi yang dihasilkan oleh kemampuan teknologi AI dan kemudahan penggunaan. Akibatnya, konten disinformasi menjadi lebih persuasif dan lebih sulit diverifikasi.
Dampak selanjutnya adalah konten disinformasi yang lebih personal. Hal ini, kata Aries, membuat konten penipuan menjadi lebih persuasif dan lebih mudah dipahami masyarakat.
Argumen ketiga adalah meningkatnya personalisasi disinformasi, dimana AI Generatif dapat digunakan untuk menciptakan disinformasi yang dipersonalisasi berdasarkan selera dan preferensi pengguna. Hal ini dapat meningkatkan persuasi konsumen terhadap disinformasi, ujarnya.
Dampak akhir yang dapat timbul dari perkembangan teknologi AI adalah munculnya konten-konten yang masuk akal, namun tidak akurat. Jenis konten ini dapat dibuat secara tidak sengaja dan pengguna dapat menyebarkannya.
Lebih lanjut, Aries mengatakan kekacauan informasi merupakan hal yang tidak bisa dihindari di era digital.
“Disrupsi informasi atau kekacauan informasi, baik itu disinformasi, misinformasi, atau disinformasi merupakan hal yang tidak bisa dihindari di era digital saat ini. Proses produksi untuk pendistribusiannya ada tiga tahapan, yaitu pembuatan narasi, pembuatan produk media itu sendiri, dan pendistribusian. informasi.” Aries menjelaskan.
Pada acara ini, Safer Internet Lab bermitra dengan Center for Strategic and International Studies (CSIS) dan Google meluncurkan Survei Peta Opini Publik Mis/Disinformasi Nasional di Indonesia.
Salah satu survei tersebut mengukur penggunaan AI Generatif dan Deepfakes pada pemilu 2024.
Laporan tersebut juga membahas penggunaan video deepfake dalam kampanye yang meniru suara dan dapat terlihat seperti gambar atau video seseorang.
Selain itu, mereka menyoroti keputusan Mahkamah Konstitusi yang melarang penggunaan AI dalam kampanye. Namun survei ini juga menunjukkan perkembangan teknologi yang semakin pesat sehingga membuat implementasi peraturan menjadi cukup sulit.
Di sisi publik, laporan ini menemukan bahwa masih sulit membedakan antara informasi yang dikomunikasikan langsung oleh publik dan informasi yang dihasilkan oleh Generative AI. (sigma/peri)
