ARKTECH
Prompt Injection (Yapay Zekanın Hacklenmesi)
Kötü niyetli bir kullanıcı, sisteme masum gibi görünen bir metin girerek AI modelini asıl görevinden saptırabilir ve sistemin veritabanını okumasını veya gizli verileri sızdırmasını sağlayabilir.
Çift Katmanlı AI-Firewall
Kullanıcıdan gelen prompt, ana modele gitmeden önce ufak bir denetleyici modelden (Sanitizer) geçer. Manipülatif emirler bu katmanda engellenir.
Kamu İçin Güvenli AI altyapılarımıza göz atın.