Verificação de Conformidade OWASP ASI do Agente

Avalie sistemas de agentes de IA contra o OWASP Agentic Security Initiative (ASI) Top 10 — o padrão da indústria para postura de segurança de agentes.

Visão Geral

O OWASP ASI Top 10 define os riscos de segurança críticos específicos para agentes autônomos de IA — não LLMs, não chatbots, mas agentes que chamam ferramentas, acessam sistemas e agem em nome de usuários. Esta habilidade verifica se sua implementação de agente aborda cada risco.

Codebase → Scan for each ASI control:
  ASI-01: Prompt Injection Protection
  ASI-02: Tool Use Governance
  ASI-03: Agency Boundaries
  ASI-04: Escalation Controls
  ASI-05: Trust Boundary Enforcement
  ASI-06: Logging & Audit
  ASI-07: Identity Management
  ASI-08: Policy Integrity
  ASI-09: Supply Chain Verification
  ASI-10: Behavioral Monitoring
→ Generate Compliance Report (X/10 covered)

Os 10 Riscos

Verificação ASI-01: Proteção contra Injeção de Prompt

Procure por validação de entrada que seja executada antes da execução da ferramenta, não após a geração do LLM.

import re
from pathlib import Path

def check_asi_01(project_path: str) -> dict:
    """ASI-01: Is user input validated before reaching tool execution?"""
    positive_patterns = [
        "input_validation", "validate_input", "sanitize",
        "classify_intent", "prompt_injection", "threat_detect",
        "PolicyEvaluator", "PolicyEngine", "check_content",
    ]
    negative_patterns = [
        r"eval\(", r"exec\(", r"subprocess\.run\(.*shell=True",
        r"os\.system\(",
    ]

    # Scan Python files for signals
    root = Path(project_path)
    positive_matches = []
    negative_matches = []

    for py_file in root.rglob("*.py"):
        content = py_file.read_text(errors="ignore")
        for pattern in positive_patterns:
            if pattern in content:
                positive_matches.append(f"{py_file.name}: {pattern}")
        for pattern in negative_patterns:
            if re.search(pattern, content):
                negative_matches.append(f"{py_file.name}: {pattern}")

    positive_found = len(positive_matches) > 0
    negative_found = len(negative_matches) > 0

    return {
        "risk": "ASI-01",
        "name": "Prompt Injection",
        "status": "pass" if positive_found and not negative_found else "fail",
        "controls_found": positive_matches,
        "vulnerabilities": negative_matches,
        "recommendation": "Add input validation before tool execution, not just output filtering"
    }

O que significa passar:

# GOOD: Validate before tool execution
result = policy_engine.evaluate(user_input)
if result.action == "deny":
    return "Request blocked by policy"
tool_result = await execute_tool(validated_input)

O que significa falhar:

# BAD: User input goes directly to tool
tool_result = await execute_tool(user_input)  # No validation

Verificação ASI-02: Uso Inseguro de Ferramentas

Verifique se as ferramentas possuem listas de permissão, validação de argumentos e nenhuma execução irrestrita.

O que procurar:

• Registro de ferramentas com listas de permissão explícitas (não abertas)
• Validação de argumentos antes da execução da ferramenta
• Nenhuma subprocess.run(shell=True) com entrada controlada pelo usuário
• Nenhuma eval() ou exec() em código gerado pelo agente sem sandbox

Exemplo de aprovação:

ALLOWED_TOOLS = {"search", "read_file", "create_ticket"}

def execute_tool(name: str, args: dict):
    if name not in ALLOWED_TOOLS:

…