Australia Siapkan UU untuk Cegah Gambar Vulgar Buatan AI dan Deepfake

CANBERRA, KOMPAS.com - Pemerintah Australia menyiapkan rancangan undang-undang baru untuk mencegah gambar vulgar melalui alat daring.

Pemerintah mengumumkan langkah ini pada Selasa (2/9/2025) dan menyebut aturan ini sebagai upaya melawan “teknologi menjijikkan” yang kian meresahkan, meski belum menetapkan batas waktu penerapannya.

Jika aturan ini sudah disahkan, perusahaan teknologi diwajibkan untuk mencegah penyalahgunaan alat daring yang digunakan membuat gambar vulgar buatan AI atau aktivitas menguntit tanpa terdeteksi.

Baca juga: Gara-gara AI, Dunia Perfilman Bollywood Terguncang

“Tidak ada tempat bagi aplikasi dan teknologi yang digunakan semata-mata untuk menyalahgunakan, mempermalukan, dan menyakiti orang, terutama anak-anak kita,” kata Menteri Komunikasi Australia, Anika Wells, sebagaimana yang dilansir dari AFP pada Selasa (2/9/2025).

Aplikasi berbasis AI yang meningkatkan kasus

Pemerintah menyebut aplikasi “Nudify” sebagai contoh paling nyata dari masalah tersebut.

Alat berbasis kecerdasan buatan ini dapat secara digital menanggalkan pakaian seseorang dalam gambar, yang kini menyebar luas di internet.

Popularitas aplikasi itu memicu peringatan terkait meningkatnya kasus sextortion yang menargetkan anak-anak.

Wells menegaskan, pemerintah akan menggunakan “setiap perangkat” untuk membatasi akses ke aplikasi Nudify dan aplikasi penguntit, sekaligus menempatkan tanggung jawab pada perusahaan teknologi untuk memblokirnya.

“Meskipun langkah ini tidak akan menghapus masalah teknologi penyalahgunaan sekaligus, bersama dengan undang-undang yang ada dan reformasi keselamatan daring terdepan di dunia, ini akan membuat perbedaan nyata dalam melindungi warga Australia,” ujar Wells.

Penyebaran alat AI telah memunculkan bentuk penyalahgunaan baru yang berdampak pada anak-anak.

Itu termasuk skandal pornografi di universitas dan sekolah di seluruh dunia, di mana remaja membuat gambar seksual teman sekelas mereka.

Survei Save the Children baru-baru ini menemukan bahwa satu dari lima anak muda di Spanyol menjadi korban gambar telanjang deepfake, dengan gambar tersebut dibagikan secara daring tanpa izin mereka.

Baca juga: Sengaja Pakai AI, Jepang Rilis Mengerikannya Letusan Gunung Fuji

Pemerintah Australia menegaskan undang-undang baru nanti akan diarahkan untuk melindungi warga, tanpa mengganggu layanan kecerdasan buatan atau pelacakan daring yang sah dan berbasis persetujuan.

Australia diketahui terdepan dalam upaya global untuk mengekang bahaya internet, terutama yang menargetkan anak-anak.

Pada November tahun lalu, negara ini telah mengesahkan undang-undang penting yang membatasi anak di bawah 16 tahun dari media sosial.

Itu termasuk salah satu tindakan paling ketat di dunia terhadap pembatasan akses ke situs populer, seperti Facebook, Instagram, YouTube, dan X.

Raksasa media sosial itu akan menghadapi denda hingga 49,5 juta dollar Australia (sekitar Rp 529,2 miliar), jika gagal mematuhi larangan tersebut.

Sementara, pihak perusahaan menilai aturan tersebut “tidak jelas”, “problematik”, dan “tergesa-gesa”, terutama terkait verifikasi usia pengguna.

Namun, sebuah studi independen yang dipesan pemerintah menemukan pengecekan usia dapat dilakukan “secara pribadi, efisien, dan efektif” dengan berbagai teknologi, meski tidak ada satu solusi yang berlaku untuk semua konteks”.

Baca juga: Studi: Pekerja Muda di AS Sudah Mulai Tergantikan AI