Transparencia de la IA — Guarrix

Guarrix está diseñado como una capa de detección automatizada que inspecciona las solicitudes antes de que lleguen a su proveedor de LLM, e inspecciona las respuestas antes de que lleguen a sus usuarios. Guarrix está diseñado para identificar datos personales, intentos de inyección de prompts y patrones de jailbreak, y para aplicar la acción que usted configure: redactar, enmascarar o bloquear, además de cualquier regla personalizada que defina para su tenant.

Guarrix no toma decisiones sobre personas. Guarrix no perfila a los usuarios finales, no genera contenido y no está diseñado para producir ninguna decisión automatizada con efecto jurídico o de importancia similar sobre una persona. Guarrix no se entrena con el contenido de sus prompts o respuestas: el contenido nunca se almacena.

El propio Guarrix funciona como una capa de detección y filtrado en su nombre, no como un sistema que toma decisiones autónomas que afectan a personas; Guarrix no es, en sí mismo, un sistema de IA de alto riesgo conforme al anexo III del Reglamento de IA de la UE. Que su propio uso del LLM elegido sea de alto riesgo depende de cómo lo utilice; esa clasificación le corresponde a usted, no a Guarrix.

El artículo 50 del Reglamento de IA de la UE exige que se informe a las personas cuando interactúan con un sistema de IA, y que el contenido generado o manipulado por IA se señale como tal. Guarrix no genera contenido que se muestre a los usuarios finales: Guarrix inspecciona y filtra contenido ya producido por su propia aplicación y su proveedor de LLM. Si su propio producto utiliza IA para interactuar directamente con los usuarios finales, la obligación de información del artículo 50 hacia esos usuarios finales le corresponde a usted, no a Guarrix.

El motor de detección propio de Guarrix aún está en desarrollo y todavía no está en uso en producción; esta página se actualizará con los modelos de detección y proveedores concretos en cuanto el servicio esté activo. Guarrix no elige qué proveedor de LLM procesa el tráfico de sus clientes; usted configura su propio proveedor (OpenAI, Anthropic, Mistral o cualquier endpoint compatible con OpenAI). Cuando el propio Guarrix utiliza internamente un modelo de lenguaje de gran tamaño, usa Mistral, alojado en la UE, por las mismas razones de residencia de datos que el resto de la plataforma Guarrix.

Guarrix es un sistema probabilístico. Son posibles los falsos positivos (contenido marcado incorrectamente) y los falsos negativos (contenido dejado pasar incorrectamente). La precisión de la detección depende de los tipos de entidad y las reglas configuradas para su tenant. Guarrix no está diseñado ni validado para su uso en ámbitos críticos para la seguridad, como el diagnóstico médico, las decisiones jurídicas o cualquier contexto en el que una detección fallida pueda causar un daño grave.

Las preguntas sobre cómo están diseñados los sistemas de IA de Guarrix, o las reclamaciones sobre el comportamiento de detección, pueden enviarse a hello@guarrix.com. Consulte nuestra política de privacidad para ejercer sus derechos conforme al RGPD, y nuestros términos de servicio para saber cómo se gestionan las disputas.