eradt.com – Di era kecerdasan buatan (AI) yang semakin berkembang, muncul ancaman baru dalam dunia keamanan siber yang dikenal sebagai “prompt injection”. Serangan ini terjadi ketika perintah tersembunyi disisipkan ke dalam input pengguna atau data eksternal, seperti dokumen dan email, untuk memanipulasi respons sistem AI. Prompt injection dapat digunakan untuk mengakses data sensitif, menyebarkan informasi palsu, atau bahkan mengendalikan perilaku AI secara tidak sah.
Menurut laporan dari The Alan Turing Institute, sekitar 75% karyawan bisnis menggunakan Generative AI, dengan 46% di antaranya mengadopsi teknologi ini dalam enam bulan terakhir. Namun, hanya 38% organisasi yang mengambil langkah untuk mengurangi risiko prompt injection. Bahkan, lembaga keamanan siber seperti UK National Cyber Security Centre (NCSC) dan US National Institute for Standards and Technology (NIST) telah mengklasifikasikan prompt injection sebagai ancaman kritis dalam keamanan siber.
Beberapa contoh nyata dari serangan prompt injection telah ditemukan pada berbagai platform AI terkemuka. Misalnya, ChatGPT dilaporkan rentan terhadap manipulasi melalui teks tersembunyi di halaman web, yang dapat mengubah responsnya secara tidak terduga. Demikian pula, Gemini AI milik Google menunjukkan kerentanan terhadap prompt injection yang dapat mempengaruhi memori jangka panjangnya. Serangan semacam ini memungkinkan penyerang untuk menyisipkan instruksi tersembunyi yang kemudian diaktifkan oleh interaksi pengguna di masa depan.
Untuk mengatasi ancaman ini, para pengembang dan pengguna AI perlu meningkatkan kesadaran dan menerapkan langkah-langkah keamanan yang lebih ketat. Ini termasuk validasi input yang lebih baik, pembatasan akses terhadap data sensitif, dan pengembangan sistem AI yang lebih tahan terhadap manipulasi eksternal. Dengan demikian, kita dapat memastikan bahwa kemajuan teknologi AI tidak disalahgunakan dan tetap memberikan manfaat positif bagi masyarakat.
