AI yang cerdas membutuhkan banyak sekali pengawalan dari segi keamanannya. Hal tersebut bertujuan agar tak adanya pihak yang dapat menghasilkan informasi membahayakan dari teknologi kecerdasan buatan itu. Meski dituding sebagai AI yang sangat efisien, rupanya DeepSeek asal Tiongkok ini disebut lebih mudah dimanfaatkan celah keamanannya?
DeepSeek R1 Ternyata Lebih Mudah Dibobol
Ternyata lebih mudah dimanipulasiSam Rubin dari Palo Alto Networks mengabarkan via The Wall Street Journal kalau AI yang dikerjakan oleh Tiongkok ini tetap gampang dimanipulasi untuk menghasilkan konten-konten berbahaya.
Meski pun dari pengetesan mereka, DeepSeek terlebihnya model R1 mempunyai semacam garis pertahanan. Nyatanya, AI ini tetap mudah untuk diakali dan menghasilkan konten yang menjurus ke arah anti-semit, dan manipulasi emosional seseorang.
Chatbot tersebut juga dilaporkan bisa menghasilkan konten instruksi pembuatan senjata biologis tiba menuliskan email yang berisikan malware. Tentunya dari pengetesan serupa terhadap ChatGPT, prompt sejenis ditolak oleh AI buatan OpenAI tersebut.
AI Paling Buruk Soal Guardrail
Adu dengan ChatGPT soal keamanan, tetap kalah Tak dapat dipungkiri kalau AI asal Tiongkok ini tetap paling jelek untuk urusan pengamanan konten. Dikala pesaing mereka sudah mulai sadar dengan penyalahgunaan AI, DeepSeek sepertinya tetap harus berbenah banyak agar dapat menyajikan konten yang ramah bagi penggunanya.
Perlunya bijak dalam menggunakan AI apalagi sejenis chatbot, meskipun itu sudah dibatasi oleh keamanan yang ketat, tetap saja ada potensi halu yang bisa membahayakan penggunanya.
Dapatkan informasi keren di Gamebrott terkait Tech atau artikel sejenis yang tak kalah seru dari Andi. For further information and other inquiries, you can contact us via author@gamebrott.com.
English (US) · 
Indonesian (ID) ·