Peringatan dari OpenAI, Hati-hati Kalau Pakai ChatGPT Atlas

KOMPAS.com - OpenAI merilis web browser bertenaga kecerdasan buatan (AI) ChatGPT Atlas pekan lalu. Web browser ini disebut-sebut bisa mengubah cara orang berselancar di internet.

Pasalnya, Atlas menawarkan pengguna pengalaman menjelajah web dengan bantuan asisten AI ChatGPT yang diklaim memungkinkan pengguna melakukan pencarian, menyimpan konteks riwayat penjelajahan, hingga menerima rekomendasi yang dipersonalisasi.

Namun, di balik berbagai kemampuannya tersebut, OpenAI selaku pengembang justru mengingatkan adanya potensi risiko keamanan yang perlu diwaspadai pengguna. Peringatan ini bahkan disampaikan langsung oleh Kepala Keamanan OpenAI, Dane Stuckey. 

Ancaman prompt injection

Menurut Stuckey, sampai saat ini, ada salah satu celah keamanan yang masih menjadi perhatian serius tim OpenAI. Serangan ini disebut dengan istilah prompt injection. 

Baca juga: OpenAI Rilis Atlas, Web Browser AI Bertenaga ChatGPT

Dihimpun KompasTekno dari The Decoder, serangan prompt injection dilakukan dengan cara menyisipkan instruksi tersembunyi di dalam situs web atau e-mail untuk mengelabui sistem AI.

OpenAI Ilustrasi browser ChatGPT Atlas

Begitu perintah tersembunyi itu dibaca, AI disebut bisa menjalankan aksi yang tidak diinginkan pengguna.

Misalnya, pelaku jadi bisa mengambil data pribadi, membaca e-mail, atau bahkan memengaruhi keputusan pengguna saat ingin melakukan transaksi (pembelian) di internet.

OpenAI sendiri menyebut bahwa pihaknya telah melakukan berbagai pengujian ekstensif dan menambahkan mekanisme perlindungan.

Beberapa di antaranya yaitu memperkenalkan metode pelatihan baru berbasis AI dan membangun mekanisme perlindungan. 

Langkah pengamanan OpenAI

Sebagai langkah pengamanan, OpenAI disebut membekali ChatGPT Atlas dengan dua fitur keamanan tambahan.

Fitur yang pertama adalah "logged out mode". Secara teknis, fitur ini dirancang untuk mencegah AI di web masuk (login) dan mengakses data pribadi si pengguna.

Lalu fitur yang kedua yaitu "watch mode", yang dirancang untuk mencegah akses ke situs-situs sensitif. Dalam mode ini, setiap tindakan AI di laman nantinya akan memerlukan pengawasan aktif si pengguna.

Stuckey menambahkan bahwa OpenAI sedang mengembangkan fitur keamanan tambahan, sekaligus sistem tanggap darurat yang lebih cepat untuk menangani atau merespons potensi berbagai potensi serangan digital serupa. 

Atlas mengubah pengalaman internetan

Tom's Guide Tampilan browser AI ChatGPT Atlas.

Secara konsep, Atlas bekerja layaknya web app modern yaitu setelah diunduh dan dipasang di perangkat, browser ini langsung terintegrasi dengan chatbot tanpa perlu membuka situs tambahan seperti chat.openai.com.