”Sebagai seorang fisikawan, saya sangat khawatir akan sesuatu yang tidak punya kontrol, sesuatu yang tidak sepenuhnya saya pahami agar bisa tahu batasan teknologi tersebut,” kata John Hopfield, guru besar di Universitas Princeton, Amerika Serikat, seperti dikutip AFP (9/10).
Adapun partnernya, Geoffrey Hinton, yang dijuluki Godfather of AI, mengingatkan tentang risiko besar AI terhadap masyarakat dan kemanusiaan. ”Saya khawatir terhadap konsekuensi keseluruhan (dari AI) berupa sistem yang jadi lebih cerdas dari kita yang akhirnya mengambil alih,” katanya.
Penggunaan voice cloning atau pengkloningan suara oleh AI jangan-jangan salah satu wujud awal kekhawatiran kedua Nobelis Fisika tersebut. Hati-hati, kalau tidak, bisa dipakai penipuan, termasuk yang berkedok asmara alias love scam.
Secara garis besar, voice cloning adalah memproduksi ulang suara dengan data suara seseorang. ”Dengan kalimat yang terserah penggunanya. Ini berbahaya sekali,” kata Hermansyah, pakar teknologi informasi Institut Teknologi Bandung, kepada Jawa Pos kemarin (11/10).
Di Indonesia, setahu Hermansyah, AI voice cloning telah digunakan dalam iklan. Salah satunya, suara presiden terpilih Prabowo Subianto yang berjualan seprai atau alas tidur dan beredar di TikTok.
”Suaranya sangat mirip, hampir tidak bisa dibedakan. Jelas sangat mengerikan kalau digunakan dalam kejahatan,” ujarnya.
Misalnya, saat penipu mengabari ada anak kecelakaan atau ditangkap polisi. Dan, suara yang mengabari adalah suara orang yang sangat dikenal. ”Tentunya, korban akan langsung percaya dan lebih mendahulukan untuk transfer uang. Di sinilah bahayanya,” jelasnya.
Diketahui dari Orang Lain
Hermansyah menyarankan untuk masyarakat cara mencegahnya dengan terus mempertajam informasi. Itu penting untuk melihat respons, untuk bisa membedakan antara AI dengan suara manusia asli. Tentu dengan catatan: korban tidak panik duluan.
Untuk pemerintah dan kepolisian, lanjutnya, perlu melakukan antisipasi berupa sosialisasi. Bahkan mungkin perlu larangan penggunaan voice cloning AI. Atau setidaknya penggunaannya diatur ketat.
Terpisah, tenaga ahli psikologi Unit Pelaksanaan Teknis Daerah Perlindungan Perempuan dan Anak Provinsi Jawa Barat Nurafni menuturkan bahwa love scam terjadi kepada seseorang yang memiliki kebutuhan psikologi dan lahiriah tertentu. ”Misalnya karena ada dorongan untuk mencari pasangan, karena problem rumah tangga dan sebagainya,” paparnya.
Dalam istilah kekinian mungkin jarang dibelai atau jablai. Karena kondisi itulah, biasanya para korban justru tidak mau melaporkan. Sebab, menganggapnya sebagai masalah pribadi.
Sebab, korban merasa masih berharap hubungan bisa dipertahankan. ”Love scamming ini hampir 90 persen diketahui justru dari orang lain. Misalnya, orang yang mau dipinjam uangnya oleh korban,” terangnya.
Cara untuk mencegah menjadi korban love scamming tentunya harus memiliki kekuatan mental. Kesadaran yang kuat untuk mengetahui tujuan hidup. ”Sehingga bisa bertanya ke diri, apakah benar bisa berhubungan melalui dunia maya. Sudah saling bertukar foto atau video vulgar, pinjam uang, padahal belum pernah bertemu,” paparnya. (idr/c17/ttg/jpg)
Editor : Adetio Purtama