Kemajuan AI telah
menyebabkan kekhawatiran khalayak umum, AI generatif dapat memungkinkan pelaku
kejahatan untuk memproduksi informasi yang salah, termasuk konten yang
ditargetkan secara mikro untuk menarik demografi tertentu dan bahkan individu
dalam skala besar. Berkembangnya platform media sosial memungkinkan dengan
mudah menyebarkan informasi salah ke konstituen tertentu.
Salah satu kekhawatiran
itu, adalah bahwa AI generatif telah meningkatkan deepfake, video realistis, namun
palsu yang dibuat dengan algoritma AI berdasarkan rekaman online dalam jumlah
besar, lalu muncul di media sosial, mengaburkan fakta dan fiksi dalam politik.
Beberapa waktu lalu
muncul video yang menggambar Joko Widodo (Jokowi) yang menyanyikan sebuah lagu
pop, dan dalam waktu singkat video itu menyebar ke seluruh platform media
sosial, seperti X dan tiktok, Ada pula video Prabowo Subianto fasih berbahasa
Arab yang hanya dalam waktu kurang lebih tiga hari sudah ditonton lebih dari
1,7 juta di Tiktok.
Meski konten itu sudah
dibantah dan terbukti palsu, namun sebagian khalayak masyarakat Indonesia masih
mempercayai itu asli. Pengubahan data dengan menggunakan AI dapat dimanfaatkan
untuk menciptakan atau menyebarkan berita palsu dan menyesatkan sehingga
membuat masyarakat bingung.
Dalam perjalanannya
pemilu sangat rentan terhadap disinformasi yang diproduksi oleh orang yang tak
bertanggung jawab. Munculnya AI di ruang demokrasi terbukti mempermudah
lahirnya konten-konten provokatif dan fitnah. Karena kecerdasan buatan sangat
efektif untuk menghasilkan konten yang memiliki kemiripan dengan aslinya.
Gambar, audio, dan video yang dipalsukan dapat memicu peningkatan skandal palsu
atau gangguan buatan, membelokkan percakapan asli dalam bentuk imitatif.
Dengan menggunakan AI,
para pelaku fitnah dapat dengan mudahnya menggunakan foto, model bahasa untuk
menciptakan ilusi politik atau kesan palsu tentang kepercayaan yang meluas
terhadap narasi pemilu yang tidak jujur. Tentu penggunaan AI oleh orang yang
tak bertanggung jawab dapat mengancam keberlangsungan demokrasi.
Dikutip dari The
Straits Times, ledakan AI generatif, yang dapat membuat teks, foto, dan video
sebagai respons terhadap permintaan terbuka, dalam beberapa bulan terakhir
telah memicu kegembiraan mengenai potensinya serta kekhawatiran bahwa AI dapat
membuat beberapa pekerjaan menjadi ketinggalan zaman, mengacaukan pemilu, dan
bahkan mungkin mengalahkan manusia.
Dengan dibatasinya
penggunaan AI dalam panggung demokrasi oleh Mahkamah Konstitusi (MK) merupakan
langkah yang tepat dan benar, tertuang dalam putusan Nomor 166/PUU-XXI/2023, MK
menilai rekayasa atau manipulasi berlebihan sepanjang berkaitan dengan foto/gambar
peserta pemilu yang dipoles dan dimanipulasi secara berlebihan dengan bantuan
teknologi AI menimbulkan ketidakpastian hukum dan tidak sejalan dengan asas
pemilu bebas, jujur, dan adil.
Informasi yang tidak
benar dapat merusak loyalitas pemilih terhadap kandidat. Selain itu, hal
demikian dapat merusak kemampuan pemilih untuk mengambil keputusan secara
berkualitas sehingga berdampak pada kerugian bagi pemilih secara individual dan
merusak kualitas demokrasi.
Menurut Mahkamah norma
Pasal 1 angka 35 UU Pemilu sepanjang frasa “citra diri” yang berkaitan dengan
foto/gambar peserta pemilu harus dilakukan pemaknaan bersyarat dengan
mewajibkan peserta pemilu untuk menampilkan foto/gambar tentang dirinya yang
original dan terbaru serta tanpa direkayasa/dimanipulasi secara berlebihan
dengan bantuan teknologi kecerdasan artifisial.
Berdasarkan
pertimbangan hukum tersebut, MK menilai berkenaan dengan frasa ‘citra diri’
dalam norma Pasal 1 angka 35 UU pemilu bertentangan dengan UUD NKRI Tahun 1945
adalah beralasan menurut hukum. MK berpandangan sebagai warga negara yang
mempunyai hak untuk memilih dalam pemilu harus dijamin hak dasarnya untuk
memperoleh informasi yang benar, baik dalam pemilu presiden, legislatif, dan
kepala daerah sebagaimana dijamin Pasa 28F UUD NKRI 1945.
AI dan “Citra Diri” Palsu
Fenomena pemilu 2024
kemarin sudah mengalami pergeseran dibandingkan pemilu 2019. Di pemilu 2019
lalu dikenal dengan era “media sosial (medsos)”, sedangkan pada pemilu 2024
kemarin memasuki era “Artificial Intelligence (AI)” tentu dalam perkembangan
ini menciptakan peluang besar sekaligus tantangan serius dalam ruang demokrasi.
Pemanfaatan AI telah
memberikan warna baru terhadap alam demokrasi Indonesia, hadirnya AI menjadi
pembeda dari pemilu-pemilu sebelumnya. AI menjadi bukti kreativitas para
politisi di panggung demokrasi dalam memoles dan membuat citra dirinya
semenarik mungkin di ruang publik.
Para politisi dapat
membuat dan memilih bagaimana mereka ingin dipandang atau dipersepsikan. Dengan
bantuan AI mereka membentuk karakter seperti apa yang publik senangi atau
inginkan. Misalnya, membentuk karakter lucu, rendah hati, religius, merakyat,
menggemaskan dan lainnya sebagainya.
Karena itu aktor
politik membuat kampanye se-kreatif dan se-efektif mungkin. Melalui konten yang
menarik, informatif, serta persuasive, dapat menjadi daya terik tersendiri bagi
masyarakat khususnya bagi generasi muda yang memiliki karakteristik digital dan
punya preferensi yang berbeda dari generasi sebelumnya.
Data survei yang
dilakukan oleh Google Indonesia menunjukkan, 43% pengguna AI di Indonesia
adalah generasi muda (Gen Z). Country Head of Android of Google Indonesia,
Denny Galant memaparkan bahwa mereka adalah kelompok yang paling adaptif dan
responsif terhadap teknologi AI.
Hadirnya AI dalam
panggung politik Indonesia memudahkan para aktor politik untuk membentuk citra
atau “memanipulasi” rakyat sesuai dengan market politik. Bahkan hingga
bermunculan penyedia jasa konsultasi politik melalui platform media sosial,
seperti Pemilu.ai dan juga GenAI.
Platform ini untuk memetakan
aspirasi masyarakat berdasarkan demografi dan geografisnya. Kemudian para
politisi kemudian membanjiri media sosial dengan konten-konten yang diinginkan.
Euforia pemanfaatan AI adalah bentuk konsekuensi logis dari kemajuan teknologi
digital dan ini menjadi penanda baru ruang demokrasi yang lebih terbuka.
Butuh Regulasi Baru
Pengamat politik
sekaligus Wakil Rektor Tiga Universitas Trunojoyo Madura (UTM), Surokim
Abdussalam, mengatakan perkembangan AI perlu disambut sekaligus disikapi secara
bijaksana agar lebih banyak memberi manfaat dari pada ekses negatif, khususnya
dalam berdemokrasi dan kehidupan sehari-hari.
Penggunaan kecerdasan
buatan dalam konteks politik dan demokrasi membawa perubahan yang signifikan.
Digunakan untuk sarana sosialisasi dan kampanye yang efektif serta menarik
untuk mendapatkan elektoral serta untuk meningkatkan partisipasi publik. Hal
ini tentu membawa dampak positif dalam proses demokrasi.
Agar bisa lebih
memberikan banyak manfaat dalam membangun demokrasi. Seyogyanya pemerintah dan
negara menanggulangi risiko-risiko yang mungkin hadir dari AI dengan membuat
aturan baru yang komprehensif, karena bagaimanapun kehadiran Artificial
Intelligence (AI) harus menjadi kekuatan membangun demokrasi, bukan sebaliknya.
Meskipun sebelumnya
sudah ada surat edaran dari Kementerian Komunikasi dan Informatika pada
Desember 2023. Surat Edaran Nomor 9 Tahun 2023 tentang Etika kecerdasan buatan,
yang memuat sembilan prinsip pedoman etik, di antaranya; inklusivitas,
kemanusiaan, keselamatan, aksesibilitas, transparansi, kredibilitas,
akuntabilitas, privasi data, pembangunan lingkungan dan berkelanjutan, serta
kekayaan intelektual.
Kendati demikian, tidak
ada satu pun tantangan yang dapat diselesaikan dengan pedoman etika itu. Karena
penerapannya hanya didasarkan pada prinsip partisipasi sukarela, tidak wajib
bagi kreator kecerdasan buatan. Dalam surat edaran itu masih “samar dan
abu-abu” tidak ada garis tegas yang menyebutkan mana yang boleh dan mana yang
tidak boleh.
Berkaca dari Eropa,
undang-undangnya menyatakan dengan tegas dan spesifik pengunaan AI mana yang
boleh dan mana yang tidak boleh. Undang-undang AI di Eropa dibuat untuk
melindungi demokrasi, aturan hukum dan hak fundamental seperti kebebasan
berpendapat, dan di saat yang sama juga mendorong adanya investasi dan inovasi.
Bahkan mungkin dengan adanya undang-undang ini akan berdampak secara global.
Pasca putusan MK yang
membatasi kampanye menggunakan AI harus segera ditindak lanjuti oleh pemerintah
dengan membuat regulasi dalam bentuk undang-undang, yang menata teknologi dan
cara menurunkan risiko AI terhadap pemilu, demokrasi, hak asasi manusia, dan
supremasi hukum. Undang-undang yang sesuai dengan karakter dan dan jati diri
bangsa Indonesia.
Hal ini untuk melindungi
kita semua dari penggunaan yang tidak etis dan berbahaya dari AI dalam berbagai
hal khususnya politik dan demokrasi. Kehadiran AI dalam demokrasi harus menjadi
peluang, bukan ancaman bagi Indonesia. Karena itu pemerintah harus memastikan
bahwa teknologi ini dapat digunakan dengan tepat dan benar untuk kebaikan
bersama, menciptakan ruang demokrasi yang lebih baik dan harmonis bukan
keretakan di tengah masyarakat