文本毒性分析器 API 旨在分析和分类文本片段中的毒性。该 API 通过准确评估潜在有害内容,帮助维护安全和尊重的对话空间。当任何文本被提交为输入时,系统会返回一个整体毒性评分、一个明确的分类(如“非毒性”或“毒性”),以及按类别的详细分类,包括一般毒性、严重毒性、淫秽语言、威胁、侮辱和基于身份的仇恨。得益于先进的自然语言处理(NLP)模型,该 API 可以识别语言中的微妙差异,甚至能够检测到伪装成滥用、消极攻击或极化语言的表达。每次分析都包含信心水平,以支持自动决策或人工辅助的审核
毒性检测 - 端点功能
| 对象 | 描述 |
|---|---|
请求体 |
[必需] Json |
{"request_id":"a92c6fa4-2649-4a1b-9c2e-0af536a77e17","overall_score":0.2841,"classification":"toxic","confidence":0.2841,"category_scores":{"toxic":0.2841,"severe_toxic":0.003,"obscene":0.0075,"threat":0.0313,"insult":0.0505,"identity_hate":0.0417}}
curl --location --request POST 'https://zylalabs.com/api/7803/text+toxicity+analyzer+api/12777/toxicity+detection' --header 'Authorization: Bearer YOUR_API_KEY'
--data-raw '{
"text": "I hate you.."
}'
| 标头 | 描述 |
|---|---|
授权
|
[必需] 应为 Bearer access_key. 订阅后,请查看上方的"您的 API 访问密钥"。 |
无长期承诺。随时升级、降级或取消。 免费试用包括最多 50 个请求。
API返回整体毒性评分、分类标签(例如“非毒性”或“毒性”)以及毒性类别的详细分解,如一般毒性、严重毒性、淫秽语言、威胁、侮辱和基于身份的仇恨
响应中的关键字段包括"toxicity_score" "classification"以及类别分类如"general_toxicity" "severe_toxicity" "obscene" "threats" "insults"和"hate_speech"每个字段都有相应的置信水平
响应数据采用JSON格式结构,主对象包含整体毒性分数和分类,随后是每个毒性类别的嵌套对象,详细说明分数和置信水平
POST端点的主要参数是“文本”字段,用户在此输入他们想要分析毒性文本。其他参数可能包括语言设置或特定的毒性类别以进行聚焦
数据准确性通过先进的自然语言处理(NLP)模型得以维护,这些模型定期更新并在多样化的数据集上训练,以识别微妙的语言细微差别和不断演变的有毒表达
典型用例包括管理在线论坛 分析用户生成的内容以识别有害语言 增强社区准则以及开发聊天应用程序中的安全沟通工具
用户可以通过将毒性分数和分类整合到审查工作流中利用返回的数据,触发高毒性水平的警报,或生成报告以评估社区健康和安全
质量检查包括对真实数据的持续模型评估、用户反馈循环和性能指标,以确保API能够准确检测和分类各种上下文和语言中的毒性
服务级别:
100%
响应时间:
61ms
服务级别:
100%
响应时间:
246ms
服务级别:
100%
响应时间:
817ms
服务级别:
100%
响应时间:
1,101ms
服务级别:
100%
响应时间:
111ms
服务级别:
100%
响应时间:
65ms
服务级别:
100%
响应时间:
65ms
服务级别:
100%
响应时间:
1,339ms
服务级别:
100%
响应时间:
2,809ms
服务级别:
100%
响应时间:
689ms
服务级别:
100%
响应时间:
90ms
服务级别:
96%
响应时间:
391ms
服务级别:
100%
响应时间:
1,307ms
服务级别:
100%
响应时间:
5,205ms
服务级别:
100%
响应时间:
197ms
服务级别:
100%
响应时间:
17,857ms
服务级别:
100%
响应时间:
597ms
服务级别:
100%
响应时间:
18,795ms
服务级别:
100%
响应时间:
17,323ms
服务级别:
100%
响应时间:
11,987ms