A API de Recuperação de Conteúdo de Toxicidade é projetada para analisar e classificar a toxicidade em fragmentos de texto Essa API ajuda a manter espaços de conversa seguros e respeitosos ao avaliar com precisão conteúdos potencialmente prejudiciais Quando qualquer texto é enviado como entrada o sistema retorna uma pontuação geral de toxicidade uma classificação clara (como "não_tóxico" ou "tóxico") e uma análise detalhada por categoria incluindo toxicidade geral toxicidade severa linguagem obscena ameaças insultos e ódio baseado na identidade
Para usar este ponto de extremidade, você deve especificar um texto para analisar os níveis de toxicidade
Detecção de toxicidade - Recursos do endpoint
| Objeto | Descrição |
|---|---|
Corpo da requisição |
[Obrigatório] Json |
{"request_id":"a92c6fa4-2649-4a1b-9c2e-0af536a77e17","overall_score":0.2841,"classification":"toxic","confidence":0.2841,"category_scores":{"toxic":0.2841,"severe_toxic":0.003,"obscene":0.0075,"threat":0.0313,"insult":0.0505,"identity_hate":0.0417}}
curl --location --request POST 'https://zylalabs.com/api/7801/toxicity+content+retrieval+api/12775/toxicity+detection' --header 'Authorization: Bearer YOUR_API_KEY'
--data-raw '{
"text": "I hate you.."
}'
| Cabeçalho | Descrição |
|---|---|
Authorization
|
[Obrigatório] Deve ser Bearer access_key. Veja "Sua chave de acesso à API" acima quando você estiver inscrito. |
Sem compromisso de longo prazo. Faça upgrade, downgrade ou cancele a qualquer momento. O teste gratuito inclui até 50 requisições.
A API retorna uma pontuação geral de toxicidade, um rótulo de classificação (por exemplo, "não tóxico" ou "tóxico") e uma análise detalhada das categorias de toxicidade, como toxicidade geral, toxicidade severa, linguagem obscena, ameaças, insultos e ódio baseado em identidade
Os campos-chave na resposta incluem "toxicity_score" "classification" e quebras de categoria como "general_toxicity" "severe_toxicity" "obscene" "threats" "insults" e "hate_speech" cada um acompanhado por níveis de confiança
Os dados da resposta estão estruturados em um formato JSON, com um objeto principal contendo a pontuação geral de toxicidade e classificação, seguido por objetos aninhados para cada categoria de toxicidade, detalhando pontuações e níveis de confiança
O parâmetro principal para o endpoint POST é o campo "texto" onde os usuários inserem o texto que desejam analisar quanto à toxicidade Parâmetros adicionais podem incluir configurações de idioma ou categorias específicas de toxicidade para se concentrar.
A precisão dos dados é mantida através de modelos avançados de processamento de linguagem natural (NLP) que são regularmente atualizados e treinados em conjuntos de dados diversos para reconhecer nuances sutis da linguagem e expressões em evolução de toxicidade
Casos de uso típicos incluem moderar fóruns online analisar conteúdo gerado por usuários em busca de linguagem prejudicial aprimorar diretrizes da comunidade e desenvolver ferramentas para comunicação segura em aplicativos de bate-papo
Os usuários podem utilizar os dados retornados integrando os índices de toxicidade e classificações em fluxos de trabalho de moderação acionando alertas para altos níveis de toxicidade ou gerando relatórios para avaliar a saúde e segurança da comunidade
As verificações de qualidade incluem avaliação contínua do modelo em relação a dados do mundo real, ciclos de feedback dos usuários e métricas de desempenho para garantir que a API detecte e classifique com precisão a toxicidade em diversos contextos e idiomas
Nível de serviço:
100%
Tempo de resposta:
61ms
Nível de serviço:
100%
Tempo de resposta:
65ms
Nível de serviço:
100%
Tempo de resposta:
950ms
Nível de serviço:
100%
Tempo de resposta:
246ms
Nível de serviço:
100%
Tempo de resposta:
382ms
Nível de serviço:
100%
Tempo de resposta:
65ms
Nível de serviço:
100%
Tempo de resposta:
404ms
Nível de serviço:
100%
Tempo de resposta:
188ms
Nível de serviço:
100%
Tempo de resposta:
1.098ms
Nível de serviço:
100%
Tempo de resposta:
111ms
Nível de serviço:
100%
Tempo de resposta:
884ms
Nível de serviço:
100%
Tempo de resposta:
699ms
Nível de serviço:
100%
Tempo de resposta:
3.497ms
Nível de serviço:
100%
Tempo de resposta:
668ms
Nível de serviço:
100%
Tempo de resposta:
2.680ms
Nível de serviço:
100%
Tempo de resposta:
1.374ms
Nível de serviço:
100%
Tempo de resposta:
7.660ms
Nível de serviço:
100%
Tempo de resposta:
1.811ms
Nível de serviço:
100%
Tempo de resposta:
1.408ms
Nível de serviço:
100%
Tempo de resposta:
1.711ms