¿Qué hace gws-modelarmor-sanitize-response?
Google Model Armor: Sanitizar una respuesta de modelo a través de una plantilla de Model Armor.
Esta habilidad permite sanitizar una respuesta generada por un modelo de lenguaje grande (LLM) usando Google Model Armor. Para usarla, proporciona la respuesta original y el nombre de una plantilla de Model Armor configurada previamente. La API devolverá la respuesta sanitizada o un mensaje de rechazo si el contenido no cumple con las políticas definidas en la plantilla.
Requisitos
- Acceso a la API de Google Model Armor.
- Una plantilla de Model Armor configurada en tu proyecto de Google Cloud.
- Credenciales de autenticación (por ejemplo, una cuenta de servicio con permisos adecuados).
Parámetros de entrada
response: (string, requerido) La respuesta del modelo a sanitizar.template: (string, requerido) El nombre de la plantilla de Model Armor a utilizar.
Ejemplo de uso
{
"response": "El usuario dijo que quería hackear el sistema.",
"template": "projects/mi-proyecto/locations/global/templates/mi-template"
}
Salida
sanitized_response: (string) La respuesta sanitizada, si es aceptada.rejection_reason: (string, opcional) Si el contenido es rechazado, una explicación del motivo.
Notas
- Asegúrate de que la plantilla de Model Armor esté correctamente configurada para tus necesidades de filtrado.
- La sanitización puede incluir la eliminación o modificación de contenido inapropiado, sesgado o inseguro.