Selasa, 13 Desember 2022 15:19:23 WIB

Regulator Dumay Utama Tiongkok Keluarkan Aturan Penerapan Teknologi 'Deepfake' untuk Melindungi Informasi Pribadi hingga Menjaga Keamanan Nasional

Teknologi

Endro

BEIJING, Radio Bharata Online - Teknologi deepfake, juga dikenal sebagai "sintesis mendalam layanan informasi internet", menggunakan bentuk kecerdasan buatan yang disebut pembelajaran mendalam, untuk membuat gambar dan peristiwa palsu.  Dengan aplikasi Deepfake, baik video maupun audio kini dapat dengan mudah dipalsukan.

Langkah tersebut bertujuan untuk membatasi risiko yang mungkin timbul dari aktivitas yang disediakan oleh platform, mempromosikan perkembangan industri yang sehat, serta meningkatkan kapasitas regulasi.

Cyberspace Administration of China (CAC), bersama dengan Kementerian Perindustrian dan Teknologi Informasi, dan Kementerian Keamanan Publik pada Minggu malam, bersama-sama mengeluarkan ketentuan yang akan diberlakukan mulai 10 Januari 2023.

Menurut regulator, dengan perkembangannya yang cepat, teknologi deepfake telah digunakan oleh oknum-oknum, dalam menyebarkan informasi ilegal dan tidak diinginkan, dengan tujuan untuk merendahkan reputasi atau kehormatan seseorang, dan melakukan penipuan, dalam beberapa tahun terakhir.  Hal ini telah mempengaruhi tatanan komunikasi dan tatanan sosial, merusak hak dan kepentingan publik yang sah, dan membahayakan keamanan nasional dan stabilitas sosial.

Menurut Beijing Youth Daily, kasus terbaru di Pengadilan Internet Hangzhou menunjukkan, bahwa pengembang aplikasi seluler memanfaatkan teknologi deepfake untuk melanggar hak potret korban, setelah secara ilegal menggunakan video korban sebagai template, untuk menyediakan video yang dihasilkan kecerdasan buatan, untuk mendapatkan keuntungan.

Kostum periode korban dalam video yang dia unggah secara online, digunakan oleh pengguna aplikasi untuk membuat video baru dengan foto mereka sendiri, dengan membayar 68 hingga 198 yuan ke penyedia layanan.

Pengadilan akhirnya memutuskan, bahwa pengembang harus meminta maaf dan memberi kompensasi kepada korban sebesar 5.000 yuan.

Dengan pesatnya perkembangan teknologi deep synthesis dalam skenario nyata, beberapa oknum secara ilegal telah menggunakan audio, video, dan teknologi sintesis lainnya, dan melakukan pelanggaran atas informasi sensitif pribadi seperti wajah, suara, dan sidik jari.

Menurut laporan Xinhua pada bulan April, Korban lain bermarga Chen dari Wenzhou di Provinsi Zhejiang, Tiongkok Timur, menjadi korban penipuan hampir 50.000 yuan oleh penjahat, yang menggunakan wajah buatan AI yang dibuat dengan gambar teman Chen.

Kasus serupa telah dilaporkan di beberapa provinsi termasuk Zhejiang dan Jiangsu di Tiongkok Timur, dan provinsi Henan di Tiongkok Tengah dalam beberapa tahun terakhir.

Para penjahat yang tidak bermoral, memperoleh foto orang lain, atau secara ilegal membeli suara orang lain, untuk mensintesis audio dan video palsu, yang terlihat seperti orang sungguhan untuk melakukan penipuan, untuk melanggar keamanan pribadi dan properti orang lain, atau untuk menjual, dengan jahat mendistribusikan video tidak senonoh, untuk merusak reputasi atau kehormatan orang lain.

Dibandingkan dengan teknologi sintesis di masa lalu, teknologi deepfake sangat canggih, sehingga wajah dan suara yang dihasilkan dapat terlihat dan terdengar identik dengan aslinya.  

Ketentuan yang dikeluarkan CAC dan dua kementrian tersebut, mengharuskan penyedia layanan deepfake, untuk memperkuat manajemen konten mereka.

Ketentuan tersebut juga mengharuskan penyedia layanan deepfake, untuk memperkuat manajemen keamanan data, untuk mencegah informasi pribadi ditangani secara ilegal, dan untuk meninjau, mengevaluasi, serta memverifikasi mekanisme algoritme secara berkala.

Selain itu, penyedia layanan deepfake juga harus menambahkan pengidentifikasi, ke konten yang dihasilkan atau diedit, untuk mencegah kebingungan atau kesalahan identifikasi publik. Untuk itu, organisasi dan individu mana pun, tidak boleh menggunakan sarana teknis untuk menghapus, mengutak-atik, atau menyembunyikan pengidentifikasi yang relevan.  (GT)

Komentar