Concentric AI Baş Bilimcisi Madhu Shashanka, LLM araçlarının ve aracılarının güvenliğini sağlamanın neden modelden çok verilerinize bağlı olduğunu açıklıyor. Korkuluklar ve enjeksiyon tespiti gibi model davranışı üzerindeki kontroller, kötü sonuçların oranını azaltır ancak asla sıfıra ulaşmaz. Bir temsilcinin erişebileceği belgelere, sistemlere ve kimlik bilgilerine sahip olduğunuz için, içeri girenlere ilişkin kontroller farklıdır. Hızlı enjeksiyonu kapsıyor...
Concentric AI Baş Bilimcisi Madhu Shashanka, LLM araçlarının ve aracılarının güvenliğini sağlamanın neden modelden çok verilerinize bağlı olduğunu açıklıyor. Korkuluklar ve enjeksiyon tespiti gibi model davranışı üzerindeki kontroller, kötü sonuçların oranını azaltır ancak asla sıfıra ulaşmaz. Bir temsilcinin erişebileceği belgelere, sistemlere ve kimlik bilgilerine sahip olduğunuz için, içeri girenlere ilişkin kontroller farklıdır. Hızlı enjeksiyon, bağlayıcılar yoluyla veri sızıntısı, aşırı ayrıcalıklı aracılar ve gölge yapay zeka konularını ele alıyor. … Diğer
LLM aracı güvenliğinin korkuluklardan daha fazlasına ihtiyacı var yazısı ilk olarak Help Net Security'de göründü.
