Tekno Negatif
Mencari Kebenaran di Era Kepalsuan
dan mengalami kerusakan reputasi sebelum terungkap sebagai rekayasa. Jajak pendapat menunjukkan lebih dari 70 persen masyarakat AS khawatir dampak deepfake dan disinformasi berbasis AI terhadap pemilihan umum, sementara dua dari tiga responden menentang penggunaan AI untuk seksualisasi perempuan.
Poin-Poin Utama
- Teknologi AI generatif mampu mengakselerasi pembuatan dan penyebaran konten palsu.
- Foto Bianca Motley Broom, Wali Kota College Park, Georgia, yang menunjukkan ciuman dengan pria bukan suaminya, beredar luas di media sosial.
- Foto tersebut kemudian diidentifikasi sebagai hasil rekayasa deepfake.
- Fakta deepfake baru terungkap setelah ribuan orang melihat foto palsu tersebut.
- Deepfake adalah teknologi AI yang memanipulasi atau membuat konten visual dan audio agar tampak nyata.
- Hasil deepfake adalah konten yang tidak pernah terjadi dalam kenyataan.
- Konten deepfake dapat berupa foto, video, audio, tulisan, dan ilustrasi.
- Siapa pun dapat membuat konten manipulatif hanya dengan memasukkan prompt ke aplikasi AI.
- Dalam kasus Broom, foto asli sang wali kota dikombinasikan dengan adegan ciuman palsu.
- Survei Rad Campaign dan Women Who Tech pada Juni menunjukkan 70 persen responden khawatir dampak deepfake terhadap pemilu.
- Dua dari tiga responden menyatakan khawatir tentang penggunaan AI untuk seksualisasi perempuan.
- Senator Raphael Warnock dari Georgia menjadi korban deepfake berupa foto masalah kesehatan dan cucu yang tidak dimilikinya.
- Foto palsu Warnock beredar luas di Facebook.
- Konten deepfake dapat dibuat dan disebarkan oleh siapa saja dengan sangat mudah.
- Menurut Warnock, deepfake memiliki implikasi besar terhadap demokrasi AS.
Ingin membaca liputan lengkap di portal penerbit?
Buka Sumber di KompasHak cipta dan publikasi utuh dimiliki oleh Kompas.