Makronesia.id, Jakarta – Dalam upaya melindungi organisasi dari ancaman siber yang semakin canggih, PRecious Communications, mewakili Palo Alto Networks—pemimpin global dalam keamanan siber—baru-baru ini membagikan temuan riset terbaru dari Unit 42, divisi penelitian Palo Alto Networks. Temuan tersebut mengungkap kerentanan serius pada platform DeepSeek, sebuah chatbot AI berbasis Large Language Model (LLM) open source yang dikembangkan oleh organisasi riset asal Tiongkok.
Belum lama ini, Unit 42 merilis hasil penelitian yang mengungkap bahwa DeepSeek sangat rentan terhadap serangan jailbreaking. Dengan menggunakan teknik jailbreaking, penyerang dapat dengan mudah mengakali pembatasan sistem dan memanipulasi output AI untuk menghasilkan konten jahat, tanpa memerlukan pengetahuan atau keahlian khusus. Temuan ini menyoroti potensi risiko signifikan bagi karyawan yang mengandalkan LLM pihak ketiga yang tidak sah, serta menekankan perlunya penanganan kerentanan sebelum LLM open source diintegrasikan ke dalam proses bisnis.
Para peneliti Unit 42 mengidentifikasi dua teknik jailbreaking baru yang efektif, yaitu Deceptive Delight dan Bad Likert Judge. Selain itu, mereka juga menguji teknik multistage lain yang disebut Crescendo pada model DeepSeek. Hasil riset menunjukkan beberapa poin penting, antara lain:
- Tingkat Bypass Tinggi: Teknik jailbreaking ini berhasil menembus sistem dengan tingkat bypass yang tinggi, mengungkap potensi risiko vektor serangan yang dapat dimanfaatkan oleh pelaku kejahatan siber.
- Mempermudah Aktivitas Siber Jahat: Metode jailbreaking memungkinkan penyerang untuk menghasilkan panduan aktivitas siber jahat secara gamblang, yang kemudian dapat mempercepat operasional serangan, termasuk pembuatan keylogger dan pencurian data.
- Risiko untuk Keamanan Bisnis: Dengan kemampuan untuk menciptakan perangkat lunak atau perangkat keras yang dapat merekam penekanan tombol (keylogger), serta mengambil alih data secara ilegal, serangan ini membuka celah besar yang dapat mengancam keamanan organisasi.
Philippa Cogswell, Vice President & Managing Partner Unit 42 untuk wilayah Asia Pacific & Japan, memberikan tanggapan atas temuan tersebut. Ia menyatakan:
“Penelitian Unit 42 tentang jailbreaking DeepSeek menunjukkan bahwa LLM tidak selalu berfungsi sebagaimana mestinya — ternyata, LLM dapat dimanipulasi. Penting bagi perusahaan untuk mempertimbangkan hal ini saat mengembangkan LLM open source ke dalam proses bisnis. Kita harus berasumsi bahwa pagar pengaman LLM dapat ditembus sehingga pengamanan pada tingkat organisasi diperlukan.”
Lebih lanjut, Philippa menambahkan:
“Saat organisasi berupaya memanfaatkan model ini, kita harus berasumsi bahwa pelaku ancaman juga melakukan hal yang sama — dengan tujuan meningkatkan kecepatan, skala, dan kecanggihan serangan siber. Kami telah melihat bukti bahwa pelaku ancaman memanfaatkan OpenAI dan Gemini untuk meluncurkan serangan, meningkatkan daya tarik phishing, dan menulis malware. Kami melihat bahwa kemampuan penyerang akan semakin canggih saat mereka memanfaatkan AI dan LLM dengan lebih baik dan bahkan mulai mengembangkan agent serangan AI.”
Temuan dari Unit 42 ini mengingatkan organisasi untuk lebih berhati-hati dalam mengintegrasikan LLM open source ke dalam lingkungan bisnis. Palo Alto Networks menawarkan berbagai solusi untuk mengatasi risiko ini, termasuk:
- AI Access Security
- AI Security Posture Management
- Unit 42 AI Security Assessment
Organisasi yang tertarik untuk mengetahui lebih lanjut mengenai temuan ini dan solusi keamanan siber yang ditawarkan dapat mengakses artikel blog lengkap yang telah dipublikasikan oleh Palo Alto Networks.
Dalam era di mana AI dan LLM memainkan peran penting dalam operasi bisnis, keamanan data dan integritas sistem menjadi prioritas utama. Temuan dari Unit 42 menekankan bahwa meskipun teknologi AI menawarkan potensi transformasi besar, tanpa pengamanan yang tepat, celah seperti jailbreaking dapat dimanfaatkan oleh penyerang untuk merusak sistem dan mencuri data penting. Oleh karena itu, perusahaan harus mengintegrasikan praktik terbaik keamanan siber dalam setiap implementasi teknologi AI, guna memastikan bahwa inovasi tidak mengorbankan keamanan organisasi. (EHS-01)
