当前位置:首页 >娱乐 >微软推出Azure AI Content Safety,以减少图片或文本中的负面内容 微软推出Azure AI Content Safety

微软推出Azure AI Content Safety,以减少图片或文本中的负面内容 微软推出Azure AI Content Safety

2024-06-28 14:51:01 [百科] 来源:避面尹邢网

微软推出Azure AI Content Safety,微软以减少图片或文本中的推出图片负面内容

作者:Yu 人工智能 微软宣布正式推出Azure AI Content Safety,这是减少一项新服务,可以帮助用户在应用程序和服务中检测和过滤有害的或文人工智能和用户生成的内容。

10月20日消息,本中据外媒报道,面内微软宣布正式推出Azure AI Content Safety,微软这是推出图片一项新服务,可以帮助用户在应用程序和服务中检测和过滤有害的减少人工智能和用户生成的内容。

微软推出Azure AI Content Safety,以减少图片或文本中的负面内容 微软推出Azure AI Content Safety

该服务包括文本和图像检测,或文并识别微软所说的本中“冒犯、危险或不受欢迎”的面内内容,包括亵渎、微软血腥、推出图片暴力和某些类型的减少言论。

微软推出Azure AI Content Safety,以减少图片或文本中的负面内容 微软推出Azure AI Content Safety

Azure Anomaly Detector产品经理Louise Han表示:“通过关注内容安全,我们可以创造一个更安全的数字环境,促进负责任地使用人工智能,保障个人和整个社会的福祉。”

微软推出Azure AI Content Safety,以减少图片或文本中的负面内容 微软推出Azure AI Content Safety

Azure AI Content Safety能够处理各种内容类别、语言和威胁,以调节文本和视觉内容。它还提供了使用人工智能算法扫描、分析和调节视觉内容的图像功能,确保微软所说的360度全面安全措施。

该服务还配备了跨多种语言的内容调节功能,并使用严重性度量标准,在0到7的范围内提供特定内容的严重性指示。

0-1级的内容被认为是安全的,适合所有观众观看,而表达偏见、判断或固执己见的内容被评为2-3级或较低。

中等严重程度的内容被分级为4-5,包含攻击性,侮辱性,嘲弄,恐吓语言或对身份群体的明确攻击,而高严重程度的内容,包含有害和明确的促进有害行为,或支持或美化对身份群体的极端形式的有害活动,被分级为6-7。

此外,Azure AI Content Safety还使用多类别过滤来识别和分类一些关键领域的有害内容。

责任编辑:庞桂玉 来源: 比特网 微软AI

(责任编辑:娱乐)

    推荐文章
    热点阅读