이해관계자에게 긍정적인 영향을 더 크고 빠르게 전달하기 위해 AI를 도입하는 조직이 점점 더 많아지고 있습니다. AI의 활용은 많은 이점을 가져다 주지만, 기존 보안 시스템이 평가하거나 보호하도록 설계되지 않은 새로운 공격 표면이 생겨나기도 했습니다.
AI 시스템을 개발하기에 앞서 이러한 취약점을 사전에 평가하는 것은 개발자가 가장 영향력 있는 AI 애플리케이션을 구축하고 업계에서 상당한 경쟁 우위를 확보할 수 있게 해주는 보다 효율적이고 비용 효과적인 방법입니다.
Prisma® AIRS™ AI 레드 팀은 특정 LLM 또는 LLM 기반 애플리케이션의 이러한 취약점에 대한 추론을 테스트합니다. 애플리케이션이 브랜드에 부합하지 않는 출력을 생성하는지 또는 에이전트가 설계되지 않은 작업을 실행하는지 여부를 테스트합니다.
