Por Nicho Agencia Digital · Publicado el
Reconoce dónde entra contenido no confiable
Haz un mapa de entradas: mensajes de usuarios, documentos, páginas web, resultados de búsqueda y texto devuelto por integraciones. Para cada fuente, distingue quién la controla y qué confianza merece. Un archivo compartido dentro de una empresa también puede contener texto copiado de otra persona.
La guía de OWASP sobre prompt injection describe ataques que mezclan instrucciones y datos, y propone defensas por capas. Sus recomendaciones incluyen separación estructurada, validaciones y permisos mínimos. Ninguna frase aislada de protección reemplaza esos controles.
Separa contenido consultado de autorización
Como regla de diseño, una factura, una web o un correo pueden aportar información para una tarea, pero no otorgar acceso a otros archivos ni ampliar el objetivo. Conserva el origen de cada fragmento y limita las herramientas disponibles según el usuario autenticado y el proceso.
Si el documento dice que hay que enviar información a una dirección nueva, esa frase debe analizarse como contenido. La aplicación no debería convertirla automáticamente en un destinatario autorizado. Comprueba en el sistema de permisos quién pidió la acción y qué datos puede compartir.
Diseña barreras fuera de la respuesta del modelo
- Valida parámetros y destinatarios antes de ejecutar herramientas.
- Usa cuentas de lectura cuando el trabajo solo requiere consultar.
- Limita cada consulta al conjunto de datos que corresponde al usuario.
- Exige la aprobación definida por el negocio para operaciones sensibles.
- Registra acciones y rechazos con la información mínima necesaria para investigar.
No coloques secretos dentro de instrucciones esperando que el modelo nunca los repita. Una herramienta que no puede acceder a un dato reduce el riesgo de divulgarlo. Revisa también qué información se muestra en mensajes de error y registros técnicos.
Ejemplo hipotético: un catálogo con instrucciones ajenas
Una empresa usa IA para resumir catálogos de proveedores. Un archivo incluye una nota que intenta hacer que el agente comparta documentos internos con un contacto externo. El comportamiento esperado es resumir el catálogo y no ejecutar ese envío.
La prueba debe comprobar algo más que una respuesta educada: ningún archivo interno fue consultado fuera del alcance, ninguna herramienta recibió el destinatario ajeno y el incidente quedó disponible para revisión. El contenido comercial válido del catálogo puede seguir siendo útil, siempre que se trate como datos.
Evalúa el resultado observable y prepara contención
Construye pruebas en un entorno aislado con archivos sintéticos, cuentas de prueba y herramientas sin efectos reales. Incluye texto escondido en tablas, instrucciones en resultados de búsqueda y solicitudes que mezclan una tarea legítima con otra no autorizada. No pruebes enviando datos verdaderos a terceros.
Registra qué control impidió la acción, qué información intentó usar el sistema y si el usuario pudo completar su tarea normal. Ante un fallo, restringe la herramienta afectada y revisa el alcance antes de reactivar. Un filtro adicional puede ayudar, pero también necesita evaluación.
Esta guía es un punto de partida defensivo, no una certificación de seguridad. Compleméntala con una revisión de permisos del agente para modificar sistemas y pruebas periódicas cuando cambien fuentes o integraciones.
El siguiente paso
Revisemos qué fuentes consulta tu chatbot y qué acciones puede ejecutar antes de conectar información interna.
Agentes de IA para atención y ventas · Conversar sobre tu proyecto ↗
Fuentes y alcance
Fuentes consultadas el 12 de octubre de 2026. Las recomendaciones de proceso son propuestas editoriales de Nicho; los ejemplos identificados como hipotéticos no representan resultados de clientes.
Contenido preparado con asistencia de IA y comprobaciones automáticas. No sustituye una evaluación de tu implementación ni garantiza resultados. Escríbenos si encuentras algo que debamos corregir.