Uso de listas de bloques en modelos de Microsoft Foundry

Puede crear listas de bloques con la API de OpenAI de Azure. Los pasos siguientes le ayudarán a empezar.

Obtención del token

En primer lugar, debe obtener un token para acceder a las API para crear, editar y eliminar listas de bloques. Puede obtener este token mediante el siguiente comando CLI de Azure:

az account get-access-token 

Crear o modificar una lista de bloqueados

Copie el comando cURL siguiente en un editor de texto y realice los cambios siguientes:

1. Reemplace {subscriptionId} por el identificador de suscripción.
2. Reemplace {resourceGroupName} por el nombre del grupo de recursos.
3. Reemplace {accountName} por el nombre del recurso.
4. Reemplace {raiBlocklistName} (en la dirección URL) por un nombre personalizado para la lista. Caracteres permitidos: 0-9, A-Z, a-z, - . _ ~.
5. Reemplace {token} por el token que obtuvo del paso "Obtener el token" anterior.
6. Opcionalmente, reemplace el valor del campo "description" por una descripción personalizada.

curl --location --request PUT 'https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroupName}/providers/Microsoft.CognitiveServices/accounts/{accountName}/raiBlocklists/{raiBlocklistName}?api-version=2024-04-01-preview' \ 
--header 'Authorization: Bearer {token}' \ 
--header 'Content-Type: application/json' \ 
--data-raw '{ 
    "properties": { 
        "description": "This is a prompt blocklist"  
    } 
}' 

El código de respuesta debe ser 201 (crear una nueva lista) o 200 (actualizar una lista existente).

Aplicar una lista de bloqueados a un filtro de contenido

Si aún no ha creado un filtro de contenido, puede hacerlo en Foundry. Consulte Filtrado de contenido.

Para aplicar una lista de bloqueos de finalización a un filtro de contenido, use el siguiente comando cURL:

1. Reemplace {subscriptionId} por su ID de suscripción.
2. Reemplace {resourceGroupName} por el nombre del grupo de recursos.
3. Reemplace {accountName} por el nombre del recurso.
4. Reemplace {raiPolicyName} por el nombre del filtro de contenido.
5. Reemplace {token} por el token que obtuvo del paso "Obtener el token" anterior.
6. Opcionalmente, cambie el "completionBlocklists" título a "promptBlocklists" si desea que la lista de bloqueados se aplique a las solicitudes del usuario en lugar de las finalizaciones del modelo de IA.
7. Reemplace "raiBlocklistName" en el cuerpo por un nombre personalizado para la lista. Caracteres permitidos: 0-9, A-Z, a-z, - . _ ~.

curl --location --request PUT 'https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroupName}/providers/Microsoft.CognitiveServices/accounts/{accountName}/raiPolicies/{raiPolicyName}?api-version=2024-04-01-preview' \ 
--header 'Authorization: Bearer {token}' \ 
--header 'Content-Type: application/json' \ 
--data-raw '{ 
    "properties": { 
        "basePolicyName": "Microsoft.Default", 
        "completionBlocklists": [{ 
            "blocklistName": "raiBlocklistName", 
            "blocking": true 
        }], 
        "contentFilters": [ ] 
    } 
}' 

Agregar blockItems a la lista

Copie el comando cURL siguiente en un editor de texto y realice los cambios siguientes:

1. Reemplace {subscriptionId} por su ID de suscripción.
2. Reemplace {resourceGroupName} por el nombre del grupo de recursos.
3. Reemplace {accountName} por el nombre del recurso.
4. Reemplace {raiBlocklistName} (en la dirección URL) por un nombre personalizado para la lista. Caracteres permitidos: 0-9, A-Z, a-z, - . _ ~.
5. Reemplace {raiBlocklistItemName} por un nombre personalizado para el elemento de lista.
6. Reemplace {token} por el token que obtuvo del paso "Obtener el token" anterior.
7. Reemplace el valor del "pattern" campo por el elemento que desea agregar a la lista de bloqueados. La longitud máxima de un blockItem es de 1000 caracteres. Especifique también si el patrón es regex o coincidencia exacta.

curl --location --request PUT 'https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroupName}/providers/Microsoft.CognitiveServices/accounts/{accountName}/raiBlocklists/{raiBlocklistName}/raiBlocklistItems/{raiBlocklistItemName}?api-version=2024-04-01-preview' \ 
--header 'Authorization: Bearer {token}' \ 
--header 'Content-Type: application/json' \ 
--data-raw '{  
    "properties": {  
        "pattern": "blocking pattern",  
        "isRegex": false  
    }  
}' 

El código de respuesta debe ser 200.

{ 
  "name": "raiBlocklistItemName", 
  "id": "/subscriptions/subscriptionId/resourceGroups/resourceGroupName/providers/Microsoft.CognitiveServices/accounts/accountName/raiBlocklists/raiBlocklistName/raiBlocklistItems/raiBlocklistItemName", 
  "properties": { 
    "pattern": "blocking pattern", 
    "isRegex": false 
  } 
} 

Análisis de texto con una lista de bloques

Ahora puede probar su implementación que tiene la lista de bloqueo. Para obtener instrucciones sobre cómo llamar a los puntos de conexión de OpenAI de Azure, visite el Quickstart.

En el siguiente ejemplo, una implementación GPT-35-Turbo con una lista de bloqueados bloquea el mensaje. La respuesta devuelve un 400 error.

{
  "error": {
    "message": "The response was filtered due to the prompt triggering Azure OpenAI's content management policy. Please modify your prompt and retry. To learn more about our content filtering policies please read our documentation: https://go.microsoft.com/fwlink/?linkid=2198766",
    "type": null,
    "param": "prompt",
    "code": "content_filter",
    "status": 400,
    "innererror": {
      "code": "ResponsibleAIPolicyViolation",
      "content_filter_result": {
        "custom_blocklists": {
          "details": [{ "filtered": true, "id": "pizza" }],
          "filtered": true
        }
      }
    }
  }
}

Si la finalización en sí está bloqueada, la respuesta devuelve 200, ya que la finalización solo se corta cuando se coincide con el contenido de la lista de bloqueados. Las anotaciones muestran una coincidencia con una lista de bloqueados.

{ 
    "id": "chatcmpl-85NkyY0AkeBMunOjyxivQSiTaxGAl", 
    "object": "chat.completion", 
    "created": 1696293652, 
    "model": "gpt-35-turbo", 
    "prompt_filter_results": [ 
        { 
            "prompt_index": 0, 
            "content_filter_results": { 
                "hate": { 
                    "filtered": false, 
                    "severity": "safe" 
                }, 
                "self_harm": { 
                    "filtered": false, 
                    "severity": "safe" 
                }, 
                "sexual": { 
                    "filtered": false, 
                    "severity": "safe" 
                }, 
                "violence": { 
                    "filtered": false, 
                    "severity": "safe" 
                } 
            } 
        } 
    ], 
    "choices": [ 
        { 
            "index": 0, 
            "finish_reason": "content_filter", 
            "message": { 
                "role": "assistant" 
            }, 
            "content_filter_results": { 
                "custom_blocklists": [ 
                    { 
                        "filtered": true, 
                        "id": "myBlocklistName" 
                    } 
                ], 
                "hate": { 
                    "filtered": false, 
                    "severity": "safe" 
                }, 
                "self_harm": { 
                    "filtered": false, 
                    "severity": "safe" 
                }, 
                "sexual": { 
                    "filtered": false, 
                    "severity": "safe" 
                }, 
                "violence": { 
                    "filtered": false, 
                    "severity": "safe" 
                } 
            } 
        } 
    ], 
    "usage": { 
        "completion_tokens": 75, 
        "prompt_tokens": 27, 
        "total_tokens": 102 
    } 
} 

Campos clave en la respuesta:

• finish_reason: "content_filter" indica que la finalización se detuvo debido a una coincidencia de lista de bloqueados.
• custom_blocklists[].id muestra qué lista de bloqueos desencadenó el filtro
• custom_blocklists[].filtered: true confirma que el contenido se bloqueó

Eliminar un elemento de lista de bloques

Para eliminar un elemento de lista de bloques, use el siguiente comando cURL:

1. Reemplace {subscriptionId} por el identificador de suscripción.
2. Reemplace {resourceGroupName} por el nombre del grupo de recursos.
3. Reemplace {accountName} por el nombre del recurso.
4. Reemplace {raiBlocklistName} por el nombre de la lista de bloqueados.
5. Reemplace {raiBlocklistItemName} por el nombre del elemento que se va a eliminar.
6. Reemplace {token} por el token que obtuvo del paso "Obtener el token" anterior.

curl --location --request DELETE 'https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroupName}/providers/Microsoft.CognitiveServices/accounts/{accountName}/raiBlocklists/{raiBlocklistName}/raiBlocklistItems/{raiBlocklistItemName}?api-version=2024-10-01' \
--header 'Authorization: Bearer {token}'

El código de respuesta debe ser 200 (elemento eliminado) o 204 (sin contenido).

Eliminar una lista de bloqueados

Para eliminar una lista de bloqueados completa, use el siguiente comando cURL:

1. Reemplace {subscriptionId} por el identificador de suscripción.
2. Reemplace {resourceGroupName} por el nombre del grupo de recursos.
3. Reemplace {accountName} por el nombre del recurso.
4. Reemplace {raiBlocklistName} por el nombre de la lista de bloques que se va a eliminar.
5. Reemplace {token} por el token que obtuvo del paso "Obtener el token" anterior.

curl --location --request DELETE 'https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroupName}/providers/Microsoft.CognitiveServices/accounts/{accountName}/raiBlocklists/{raiBlocklistName}?api-version=2024-10-01' \
--header 'Authorization: Bearer {token}'

Creación de una lista de bloqueados

Vaya a Microsoft Foundry y seleccione Build en el menú superior derecho. En el panel izquierdo, seleccione Guardrails y vaya a la pestaña Listas de bloqueados . Use el botón Crear lista de bloqueos para crear su propia lista de bloqueados. Puede agregar términos manualmente o cargar un archivo de .csv de términos.