近日，全球边缘人工智能、云计算、网络和安全解决方案提供商 Gcore 推出了Gcore AI Content Moderation，这是一个实时解决方案，使在线服务提供商无需人工智能（AI）或机器学习（ML）经验即可自动审核音频、文本和用户生成的视频内容。它能帮助企业提高用户安全，确保符合欧盟《数字服务法案》（DSA）和英国《在线安全法案》（OSB）等法规。
任何托管用户生成内容（UGC）（从评论到长篇视频）或可供儿童访问的内容的平台都必须对 UGC 进行审核，以确保其观众免受攻击性、暴力、非法或与年龄不符内容的影响。在社交媒体、游戏、电子商务、教育和数字广告等行业中，企业都负有法律义务。让用户接触有害内容可能导致声誉受损、法律调查、暂停服务、禁止运营以及巨额罚款（DSA 最高可达全球收入的 6%）。
实时人工智能内容审核UGC 的急剧增长意味着人工审核跟不上识别有害和非法内容的挑战。大量内容使审核人员不堪重负，成本过高，或运营效率低下导致违规内容被遗漏，合法内容被延迟发布。
Gcore 人工智能内容审核可自动审查视频内容流，标记不适当的内容，并在必要时提醒人工审核员。该解决方案集成了尖端技术，可在视频或直播流发布后数秒内开始审查：
最先进的计算机视觉技术：先进的计算机视觉模型用于物体检测、分割和分类，以准确识别和标记不恰当的视觉内容。光学字符识别（OCR）：将视频中可见的文字转换为机器可读的格式，从而对视频内容中显示的不恰当或敏感的文字信息进行修改。语音识别：先进的算法可对音频轨迹进行分析，以检测和标记粗言秽语或仇恨言论，从而像管理视觉内容一样有效地管理音频内容。多模型输出汇总：复杂的决策（如识别涉及剥削儿童的内容）需要整合来自不同模型的多个数据点和输出。Gcore AI 内容审核系统可汇总这些输出，从而做出精确可靠的审核决策。组织可以通过 API 将 Gcore AI 内容审核快速集成到其现有基础设施中，而无需事先具备 AI 或 ML 经验。AI 内容审核在 Gcore 的全球网络上运行，该网络拥有 180 多个边缘接入点，容量超过 200 Tbps，可确保为客户提供低延迟、速度和弹性。
Gcore 视频流主管 Alexey Petrovskikh 评论道：“仅靠人工进行内容审核已成为一项难以管理的任务——分配足够的人力资源并控制成本根本是不可能的。Gcore AI 内容审核使组织能够在全球范围内审核内容，同时让人工参与审查被标记的内容。这项新服务在帮助公司保护其用户、社区和自身声誉方面发挥着重要作用——同时确保遵守法规。”
