FIK-UPNVJ, 01 Juli 2026 – Selama berabad-abad, manusia membangun kepercayaan terhadap realitas melalui dua alat sederhana: mata dan telinga. Kita percaya karena melihat. Kita yakin karena mendengar. Sebuah foto dianggap sebagai bukti bahwa suatu peristiwa pernah terjadi, rekaman suara dianggap sebagai bukti bahwa seseorang pernah mengatakan sesuatu, dan video dianggap sebagai representasi paling dekat dengan kenyataan.

Artificial Intelligence sedang mengubah fondasi kepercayaan tersebut.

Perkembangan teknologi deepfake memungkinkan wajah, suara, gerakan bibir, ekspresi, dan identitas seseorang direkayasa sehingga menghasilkan konten sintetis yang semakin sulit dibedakan dari kenyataan. Pada Juni 2026, Kementerian Komunikasi dan Digital mengingatkan bahwa AI telah dimanfaatkan dalam penipuan digital melalui teknologi deepfake dan telah melahirkan apa yang disebut sebagai synthetic reality atau realitas sintetik, sebuah kondisi ketika masyarakat semakin sulit membedakan konten autentik dengan hasil manipulasi (Komdigi, 2026).

Persoalan ini jauh lebih besar daripada sekadar video palsu yang beredar di media sosial. Deepfake telah membawa manusia menuju persoalan epistemologis yang sangat mendasar: jika apa yang kita lihat dapat dipalsukan, apa dasar kita untuk mempercayai sebuah realitas?

Pertanyaan tersebut mungkin terdengar filosofis, tetapi dampaknya sangat praktis. Bayangkan sebuah video menampilkan pejabat publik seolah-olah memberikan pernyataan tertentu. Bayangkan suara seorang pimpinan perusahaan direplikasi untuk memerintahkan transaksi keuangan. Bayangkan wajah seseorang digunakan tanpa persetujuan dalam konten yang tidak pernah dibuatnya. Bayangkan seorang anggota keluarga menerima panggilan dengan suara yang terdengar persis seperti orang yang dicintainya dan meminta bantuan dalam keadaan darurat.

Teknologi tidak lagi hanya mampu memanipulasi informasi.

Teknologi kini mampu memanipulasi kepercayaan.

Indonesia telah menghadapi bentuk nyata dari persoalan tersebut. Pada Januari 2026, klarifikasi resmi pemerintah menyebut adanya konten manipulatif yang menawarkan bantuan dana dengan mengatasnamakan Presiden Republik Indonesia. Pemeriksaan yang dirujuk dalam klarifikasi tersebut menunjukkan indikasi sangat kuat bahwa konten merupakan hasil rekayasa AI (Komdigi, 2026).

Kasus lain juga menunjukkan bahwa konten hasil rekayasa AI digunakan untuk mengatasnamakan figur publik dan pejabat negara dalam modus penipuan. Pada April 2026, Komdigi memuat klarifikasi mengenai video bantuan dana yang mengatasnamakan pejabat Kementerian Keuangan dan dinyatakan sebagai hoaks hasil rekayasa AI atau deepfake (Komdigi, 2026).

Fenomena tersebut memperlihatkan perubahan penting dalam sejarah disinformasi.

Dahulu, kebohongan digital relatif mudah dikenali. Foto yang diedit sering meninggalkan jejak visual. Video manipulatif memiliki gerakan yang tidak alami. Suara sintetis terdengar kaku. Kesalahan pencahayaan, gerakan bibir, kedipan mata, dan ketidaksesuaian suara dapat menjadi petunjuk.

Namun kemampuan Generative AI berkembang dengan cepat.

Hari ini, masyarakat tidak dapat lagi bergantung sepenuhnya pada intuisi visual.

Kita sedang memasuki zaman ketika kalimat “saya melihatnya sendiri” tidak selalu cukup sebagai dasar untuk menyatakan bahwa sesuatu benar-benar terjadi.

Inilah ancaman terbesar deepfake.

Bukan hanya kemampuannya menciptakan kebohongan.

Tetapi kemampuannya menghancurkan kepercayaan terhadap kebenaran.

Ketika masyarakat terlalu sering berhadapan dengan konten palsu yang tampak nyata, dapat muncul fenomena yang sama berbahayanya: manusia mulai meragukan semua hal.

Video asli dapat disebut palsu.

Rekaman autentik dapat dituduh sebagai hasil AI.

Bukti digital yang sah dapat diperdebatkan hanya dengan kalimat, “mungkin itu deepfake”.

Dengan demikian, deepfake memiliki dua sisi ancaman. Pertama, membuat sesuatu yang tidak pernah terjadi terlihat seolah-olah benar-benar terjadi. Kedua, memberikan kesempatan kepada seseorang untuk menyangkal sesuatu yang benar-benar terjadi dengan menuduh bukti autentik sebagai hasil manipulasi.

Di sinilah persoalan deepfake menyentuh fondasi kehidupan sosial.

Masyarakat modern hidup berdasarkan kepercayaan.

Kita mempercayai identitas.

Kita mempercayai dokumen.

Kita mempercayai komunikasi.

Kita mempercayai media.

Kita mempercayai bukti.

Ketika teknologi mampu mengguncang seluruh lapisan tersebut, ancamannya tidak lagi hanya bersifat teknis. Ia menjadi ancaman terhadap arsitektur kepercayaan masyarakat.

Dalam skala global, ancaman tersebut juga semakin serius. Laporan INTERPOL pada Maret 2026 menyatakan bahwa penipuan yang diperkuat AI menghasilkan keuntungan 4,5 kali lebih tinggi dibandingkan metode penipuan tradisional. Laporan itu juga menyoroti perkembangan sistem AI yang semakin mampu membantu otomatisasi tahapan penipuan digital (INTERPOL, 2026).

Kondisi tersebut menegaskan bahwa deepfake tidak dapat dibicarakan hanya sebagai fenomena kreativitas Generative AI. Deepfake telah bersentuhan dengan keamanan siber, perlindungan identitas, penipuan finansial, disinformasi, privasi, reputasi, hukum, dan keamanan sosial.

Bagi Fakultas Ilmu Komputer, fenomena ini seharusnya menjadi salah satu medan refleksi akademik yang sangat penting.

Mahasiswa ilmu komputer bukan hanya calon pengguna teknologi AI.

Sebagian dari mereka akan menjadi orang yang mengembangkan model AI.

Sebagian akan bekerja dalam bidang computer vision.

Sebagian akan mengembangkan teknologi pemrosesan suara.

Sebagian akan menjadi peneliti machine learning.

Sebagian akan bekerja di bidang keamanan siber.

Sebagian akan membangun sistem verifikasi identitas.

Dan mungkin sebagian akan menciptakan teknologi yang kemampuannya belum dapat kita bayangkan hari ini.

Karena itu, pertanyaan bagi mahasiswa FIK tidak cukup hanya:

“Apakah saya mampu membuat teknologi ini?”

Pertanyaan yang lebih matang adalah:

“Apa yang terjadi apabila teknologi yang saya bangun digunakan oleh orang yang memiliki niat berbeda dari tujuan awal saya?”

Pertanyaan ini menyentuh salah satu dilema terbesar dalam sejarah teknologi: dual-use technology.

Teknologi yang sama dapat digunakan untuk tujuan yang sangat berbeda.

Generative AI dapat membantu industri film menciptakan efek visual.

Teknologi rekonstruksi wajah dapat membantu produksi kreatif.

Sintesis suara dapat membantu aksesibilitas.

Rekonstruksi digital dapat digunakan dalam pendidikan dan pelestarian sejarah.

Namun teknologi yang sama juga dapat digunakan untuk menyamar sebagai orang lain, melakukan penipuan, merusak reputasi, menciptakan konten intim tanpa persetujuan, atau memanipulasi persepsi masyarakat.

Pada Januari 2026, pemerintah juga menyoroti risiko penyalahgunaan deepfake terhadap perempuan dan anak, termasuk kemungkinan mengubah foto biasa menjadi konten manipulatif tanpa persetujuan. Pemerintah menegaskan bahwa perkembangan teknologi digital harus tetap memberikan rasa aman dan tidak boleh merampas martabat manusia (Komdigi, 2026).

Dalam kasus dugaan penyalahgunaan layanan AI untuk manipulasi citra pribadi tanpa hak, Komdigi juga menegaskan bahwa penyedia layanan maupun pengguna yang terbukti memproduksi atau menyebarkan konten terlarang dan manipulasi citra pribadi tanpa hak dapat menghadapi konsekuensi administratif maupun pidana sesuai ketentuan yang berlaku (Komdigi, 2026).

Di sinilah etika penggunaan Generative AI menjadi sangat penting.

Etika bukan sekadar kalimat tambahan dalam laporan penelitian.

Etika bukan satu slide terakhir dalam presentasi.

Etika bukan formalitas yang dibicarakan setelah teknologi selesai dikembangkan.

Etika dimulai sejak seseorang memilih masalah apa yang ingin diselesaikan, data siapa yang digunakan, bagaimana persetujuan diperoleh, risiko apa yang mungkin muncul, siapa yang menerima manfaat, dan siapa yang berpotensi dirugikan.

Indonesia telah memiliki pedoman awal melalui Surat Edaran Menteri Komunikasi dan Informatika Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial. Pedoman tersebut menempatkan prinsip etika, kehati-hatian, keselamatan, mitigasi risiko, dan orientasi pada dampak positif sebagai bagian penting dalam penyelenggaraan AI (SE Menkominfo No. 9 Tahun 2023).

Namun regulasi tidak akan pernah cukup apabila tidak diikuti oleh budaya etis dari orang-orang yang membangun teknologi.

Hukum biasanya bekerja setelah sebuah batas dirumuskan.

Sementara teknologi dapat berkembang sebelum masyarakat memiliki bahasa yang cukup untuk menjelaskan risikonya.

Karena itu, perguruan tinggi memiliki posisi yang sangat strategis.

Universitas harus menjadi tempat di mana kemampuan teknis dan kesadaran moral bertumbuh secara bersamaan.

Seorang mahasiswa computer vision tidak cukup hanya mampu meningkatkan akurasi model.

Ia harus memahami implikasi teknologi pengenalan wajah.

Seorang mahasiswa AI tidak cukup hanya mampu melakukan fine-tuning model.

Ia perlu memahami asal-usul data pelatihan, persetujuan, privasi, bias, keamanan, dan kemungkinan penyalahgunaan.

Seorang mahasiswa keamanan siber tidak cukup hanya mengetahui cara mendeteksi serangan.

Ia perlu memahami bahwa serangan masa depan dapat mengeksploitasi kelemahan psikologis manusia melalui suara dan wajah yang sangat meyakinkan.

Di sinilah tantangan penelitian Computer Vision menjadi semakin menarik sekaligus semakin berat.

Perkembangan teknologi generatif menciptakan perlombaan antara generasi dan deteksi.

Ketika metode deteksi mampu menemukan pola manipulasi tertentu, model generatif berkembang untuk menghasilkan konten yang lebih baik.

Ketika artefak visual tertentu dapat dikenali, teknologi berikutnya berusaha menghilangkannya.

Ketika deteksi berbasis satu karakteristik berhasil, metode manipulasi baru muncul dengan karakteristik berbeda.

Karena itu, penelitian deepfake detection tidak cukup hanya mengejar angka akurasi tinggi pada satu dataset.

Model yang menghasilkan akurasi 99 persen di laboratorium belum tentu memiliki performa yang sama ketika menghadapi video dari platform berbeda, tingkat kompresi berbeda, kondisi pencahayaan berbeda, bahasa berbeda, wajah yang belum pernah dilihat model, atau teknik manipulasi generasi terbaru.

Inilah salah satu jebakan ego dalam penelitian AI.

Kita terkadang terlalu cepat merasa telah “menyelesaikan masalah” karena memperoleh angka akurasi tinggi.

Padahal dunia nyata tidak pernah semudah dataset.

Dataset memiliki batas.

Dunia nyata tidak.

Dataset memiliki label yang relatif jelas.

Realitas sosial sering ambigu.

Dataset dapat dibersihkan.

Dunia nyata datang dengan noise, manipulasi, konteks, dan aktor yang terus beradaptasi.

Karena itu, mahasiswa dan peneliti perlu berani mengajukan pertanyaan yang lebih sulit.

Apakah model dapat melakukan generalisasi lintas dataset?

Apakah mampu mendeteksi metode manipulasi yang belum pernah dilihat?

Bagaimana performanya setelah video mengalami kompresi media sosial?

Bagaimana deteksi dilakukan secara real-time?

Bagaimana menjelaskan alasan sebuah video diklasifikasikan sebagai palsu?

Berapa besar risiko false positive ketika konten autentik justru dituduh sebagai deepfake?

Bagaimana membangun sistem deteksi yang tidak hanya akurat, tetapi juga dapat dipercaya?

Pertanyaan-pertanyaan tersebut membuka ruang penelitian yang sangat luas bagi mahasiswa dan dosen Fakultas Ilmu Komputer.

Penelitian dapat bergerak pada multimodal deepfake detection yang menganalisis hubungan antara suara, gerak bibir, ekspresi, dan konteks.

Penelitian dapat mengembangkan deteksi berbasis artefak temporal.

Penelitian dapat mengeksplorasi model explainability untuk menjelaskan indikator manipulasi.

Penelitian dapat mengembangkan digital provenance untuk membantu verifikasi asal-usul konten.

Penelitian keamanan dapat mempelajari serangan terhadap model deteksi itu sendiri.

Penelitian human-computer interaction dapat mempelajari bagaimana peringatan deepfake seharusnya ditampilkan agar membantu pengguna tanpa menciptakan kepanikan.

Dan penelitian sosial-komputasional dapat mengkaji bagaimana konten manipulatif menyebar melalui jaringan digital.

Tetapi ada satu hal yang perlu diingat.

Teknologi deteksi saja tidak akan memenangkan persoalan deepfake.

Sebab manusia tetap berada di dalam sistem.

Masyarakat membutuhkan literasi digital baru.

Literasi digital pada era deepfake bukan hanya kemampuan menggunakan aplikasi.

Bukan hanya kemampuan mencari informasi.

Bukan pula sekadar mengetahui cara menggunakan media sosial.

Literasi digital kini berarti kemampuan menunda kepercayaan.

Ini mungkin terdengar sederhana.

Namun dalam budaya digital yang dibangun berdasarkan kecepatan, menunda adalah tindakan intelektual.

Ketika menerima video mengejutkan, jangan langsung membagikan.

Periksa sumber awal.

Cari informasi pembanding.

Perhatikan konteks.

Verifikasi melalui kanal resmi.

Waspadai permintaan uang atau informasi sensitif yang disampaikan dengan tekanan emosional.

Untuk permintaan penting, lakukan verifikasi melalui saluran komunikasi kedua yang telah dikenal sebelumnya.

Kesadaran semacam ini penting karena pemerintah sendiri telah memperingatkan bahwa hasil AI semakin sulit dibedakan dari konten asli dan bahkan dapat mengecoh bukan hanya masyarakat awam (Komdigi, 2025).

Namun pendidikan literasi deepfake tidak boleh berhenti pada daftar ciri-ciri visual.

Nasihat seperti “perhatikan kedipan mata” atau “lihat gerakan bibir” semakin tidak memadai ketika teknologi generatif terus berkembang.

Literasi yang lebih fundamental adalah literasi verifikasi.

Pertanyaannya bukan lagi hanya:

“Apakah video ini terlihat aneh?”

Tetapi:

“Dari mana video ini berasal?”

“Siapa yang pertama kali mempublikasikannya?”

“Apakah ada konfirmasi dari sumber primer?”

“Apakah narasinya konsisten dengan fakta lain?”

“Siapa yang memperoleh keuntungan jika saya mempercayai atau menyebarkannya?”

Pertanyaan terakhir sangat penting.

Sebab disinformasi tidak hanya bekerja melalui teknologi.

Ia bekerja melalui psikologi manusia.

Manusia menyukai informasi yang membenarkan keyakinannya.

Manusia mudah bereaksi terhadap kemarahan.

Manusia tertarik pada ketakutan.

Manusia ingin menjadi orang pertama yang membagikan sesuatu yang mengejutkan.

Dan teknologi deepfake mengeksploitasi seluruh kecenderungan tersebut.

Karena itu, tantangan terbesar mungkin bukan membuat AI mampu berbohong.

Manusia telah mengenal kebohongan jauh sebelum komputer ditemukan.

Tantangan terbesar adalah ketika teknologi mampu menghasilkan kebohongan yang dirancang secara personal, disebarkan secara masif, dan diterima oleh manusia yang tidak lagi memiliki kesabaran untuk melakukan verifikasi.

Pada titik ini, deepfake bukan hanya masalah teknologi.

Deepfake adalah cermin kualitas berpikir masyarakat.

Masyarakat yang kritis akan memaksa teknologi manipulatif bekerja lebih keras untuk menipunya.

Masyarakat yang mudah percaya akan menjadi pasar paling subur bagi manipulasi.

Hal yang sama berlaku di lingkungan akademik.

Mahasiswa yang menggunakan AI secara kritis akan menjadi lebih kuat.

Mahasiswa yang menyerahkan seluruh proses berpikirnya kepada AI mungkin menghasilkan lebih banyak tugas, tetapi kehilangan kesempatan membangun kapasitas intelektual.

Dosen yang memahami AI dapat menggunakannya untuk memperkaya pembelajaran.

Namun dosen yang mengabaikan perubahan teknologi berisiko semakin jauh dari realitas yang dihadapi mahasiswa.

Karena itu, deepfake sesungguhnya membawa pesan yang lebih luas kepada perguruan tinggi.

Kita tidak hanya membutuhkan orang yang mampu membuat teknologi.

Kita membutuhkan orang yang mampu memverifikasi teknologi.

Kita tidak hanya membutuhkan generasi yang mampu menghasilkan konten.

Kita membutuhkan generasi yang mampu mempertanyakan autentisitas konten.

Kita tidak hanya membutuhkan mahasiswa yang cepat menggunakan AI.

Kita membutuhkan mahasiswa yang cukup cerdas untuk tidak selalu percaya kepada AI.

Dan mungkin di sinilah ego generasi digital harus diuji.

Kita sering merasa lebih cerdas karena memiliki akses terhadap informasi yang jauh lebih banyak dibandingkan generasi sebelumnya.

Namun apakah memiliki lebih banyak informasi otomatis membuat kita lebih bijaksana?

Kita merasa lebih maju karena mampu menggunakan teknologi terbaru.

Namun apakah kita benar-benar memahami cara kerjanya?

Kita merasa sulit ditipu karena terbiasa hidup di internet.

Namun justru rasa percaya diri berlebihan dapat menjadi kelemahan terbesar.

Di era deepfake, orang yang paling rentan tidak selalu orang yang paling sedikit menggunakan teknologi.

Kadang-kadang yang paling rentan adalah orang yang terlalu yakin bahwa dirinya tidak mungkin tertipu.

Itulah mengapa pendidikan harus membangun kerendahan hati intelektual.

Keberanian mengatakan:

“Saya belum tahu apakah ini benar.”

Keberanian untuk memeriksa.

Keberanian untuk menunggu.

Keberanian untuk tidak ikut menyebarkan sesuatu hanya karena semua orang sedang membicarakannya.

Dalam dunia yang semakin cepat, mungkin salah satu bentuk kecerdasan tertinggi adalah kemampuan untuk tidak bereaksi terlalu cepat.

Perkembangan deepfake juga membawa tanggung jawab baru bagi Fakultas Ilmu Komputer. Kampus perlu memperkuat riset Computer Vision, Generative AI, multimedia forensics, cybersecurity, dan human-centered AI. Namun pada saat yang sama, penelitian perlu dibangun di atas budaya tanggung jawab.

Mahasiswa perlu memahami bahwa kode yang mereka tulis dapat memiliki kehidupan di luar laboratorium.

Model yang dibuat untuk eksperimen dapat digunakan dengan cara yang tidak pernah direncanakan penciptanya.

Dataset yang dikumpulkan dapat menyimpan persoalan privasi.

Teknologi yang dianggap hiburan dapat berubah menjadi instrumen manipulasi.

Karena itu, profesionalisme teknologi tidak hanya diukur dari seberapa canggih sesuatu yang mampu dibangun.

Profesionalisme juga diukur dari kemampuan memahami konsekuensi.

Pada akhirnya, ancaman deepfake membawa manusia pada satu pertanyaan filosofis yang sangat tua:

Apa itu kebenaran?

Bedanya, pertanyaan tersebut kini tidak hanya dibicarakan di ruang filsafat.

Ia hadir di layar ponsel.

Di media sosial.

Di ruang keluarga.

Di kantor.

Di ruang kelas.

Di dalam sistem perbankan.

Di dalam proses hukum.

Dan mungkin suatu hari, di hadapan sebuah video yang terlihat sempurna, kita harus mengakui bahwa mata dan telinga tidak lagi cukup.

Kita membutuhkan ilmu pengetahuan.

Kita membutuhkan teknologi verifikasi.

Kita membutuhkan hukum.

Kita membutuhkan etika.

Dan yang paling penting, kita membutuhkan manusia yang tetap mau berpikir.

Artificial Intelligence dapat membuat wajah palsu.

AI dapat meniru suara.

AI dapat menghasilkan video.

AI dapat menciptakan realitas sintetik.

Namun keputusan untuk percaya, memeriksa, menolak, atau menyebarkan tetap berada pada manusia.

Di situlah tanggung jawab kita dimulai.

Masa depan tidak hanya membutuhkan AI yang semakin cerdas. Masa depan membutuhkan manusia yang tidak mudah menyerahkan kebenaran kepada apa pun yang sekadar terlihat meyakinkan.

Dan bagi Fakultas Ilmu Komputer, inilah tantangan sekaligus kesempatan: bukan hanya menjadi tempat lahirnya orang-orang yang mampu menciptakan teknologi, tetapi juga generasi yang mampu menjaga batas antara inovasi dan manipulasi, antara kecerdasan dan penyalahgunaan, serta antara realitas dan ilusi.

Penulis: Rohani Situmorang | Tendik Fakultas Ilmu Komputer UPN Veteran Jakarta

Humas Fakultas Ilmu Komputer
UPN “Veteran” Jakarta
Informasi lainnya dapat dilihat pada web UPNVJ