Synopsys: AI Google Rentan Terhadap Ancaman Keamanan - Large Language Model (LLM) Gemini Google terbukti rentan terhadap ancaman keamanan, yang berpotensi menyebabkan pengungkapan perintah sistem, pembuatan konten berbahaya, dan serangan injeksi tidak langsung, yang berdampak pada konsumen yang menggunakan Gemini Advanced dengan Google Workspace dan perusahaan yang menggunakan LLM API.
Kerentanannya termasuk menghindari langkah-langkah keamanan untuk membocorkan perintah sistem, menghasilkan informasi yang salah menggunakan teknik "crafty jailbreaking", dan membocorkan informasi melalui token yang tidak biasa berulang kali.
 |
| credit image: YouTube |
Penting untuk dicatat bahwa kerentanan ini tidak hanya terjadi pada Gemini, tetapi mungkin berlaku untuk sebagian besar LLM publik. Kelvin Lim, Senior Director, Security Engineering, APAC, Synopsys Software Integrity Group berbagi wawasan tentang apa artinya hal tersebut dan bagaimana bisnis dapat melindungi diri mereka sendiri.
Munculnya Large Language Model (LLM) publik menghadirkan peluang dan tantangan. Selain memberikan kemampuan yang kuat, model ini juga berfungsi sebagai platform baru bagi pelaku kejahatan untuk melancarkan serangan. Akibatnya, perusahaan harus memutuskan apakah akan mengizinkan atau memblokir akses staf ke model LLM publik ini.
Jika perusahaan mengizinkan stafnya mengakses model LLM publik, maka penting untuk menetapkan dan mengkomunikasikan kebijakan dan pedoman yang jelas untuk pemanfaatannya secara aman. Di antara pedoman ini, penting untuk menekankan bahwa informasi yang sensitif terhadap perusahaan dan Kekayaan Intelektual (IP) tidak boleh disertakan dalam perintah LLM publik. Selain itu, informasi yang dihasilkan oleh model LLM publik juga harus menjalani prosedur pemeriksaan fakta yang ketat untuk mengurangi risiko misinformasi.
Namun, untuk keamanan dan kontrol yang lebih baik, disarankan bagi perusahaan untuk mempertimbangkan mengembangkan LLM swasta mereka sendiri. LLM swasta menawarkan beberapa manfaat utama yang mengatasi keterbatasan hanya mengandalkan model publik:
- Privasi & keamanan data
Membangun LLM pribadi memungkinkan bisnis mencapai privasi dan keamanan data tanpa membaginya dengan penyedia layanan pihak ketiga.
- Persyaratan peraturan
Dalam industri yang memerlukan kontrol data yang ketat, LLM swasta memastikan bahwa data sensitif tidak diedarkan ke luar ke LLM publik sekaligus memungkinkan perusahaan mendapatkan manfaat dari alat tersebut.
- Mengurangi ketergantungan
LLM swasta mengurangi ketergantungan pada model publik, yang bergantung pada penyedia layanan. Dengan LLM Anda sendiri, ini memungkinkan perusahaan untuk mengoptimalkan modelnya, khusus untuk kebutuhan unik dan kasus penggunaannya.
- Kustomisasi
Keuntungan signifikan dari LLM swasta adalah pilihan penyesuaian yang disesuaikan untuk memenuhi kebutuhan dan persyaratan bisnis tertentu. Hal ini memungkinkan perusahaan untuk menyesuaikan model dengan kebutuhan unik mereka, termasuk kemampuan dan terminologi spesifik platform.
Tingkat kontrol atas data pelatihan ini memastikan bahwa model berperforma lebih baik untuk kasus penggunaan tertentu dibandingkan dengan model umum seperti Gemini atau Chat GPT.
- Potensi penghematan biaya
Tergantung pada tingkat penggunaan, LLM swasta dapat menghasilkan potensi penghematan biaya dalam jangka panjang. Membangun LLM Anda sendiri memberi Anda kontrol lebih besar atas tumpukan teknologi dan infrastruktur model, perusahaan dapat mengoptimalkan biaya ini dan menghindari ketergantungan pada penyedia AI eksternal.
Source: press release, The Hacker News
Anda mungkin suka:Spesifikasi Realme C51s vs Realme C51 NFC Sangat Mirip, Bedanya Cuma Bagian Ini...
Posting Komentar