最新新闻
起亚电动SUV EV9升级,动力与软件得到全面提升 上汽大众新款SUV途岳正式上市,售价15.86-21.66万元 福特领衔投资45亿美元,将在印尼建立镍加工厂 主机厂召开座谈会,探讨国六B切换情况 特斯拉在墨西哥大举投资,助力其成为电动汽车大国 特斯拉推出版Giga啤酒,啤迷大喜过望 西安特斯拉中心车间揭秘,让你近距离了解制造 宝马、特斯拉等豪掷重金,墨西哥将成电动车大国 本田雅阁e:HEV亮相:能否成为雅阁救世主? 特斯拉中国首次败诉,需退一赔三 AI伦理员工大量裁减引发业界担忧,微软、谷歌等科技巨头被指责 AI过于强大,人类面临危险?马斯克、图灵奖得主呼吁暂停GPT-4模型后续研发 微软早期阶段将广告植入GPT-4版必应搜索 故意毁灭证据:美法庭对谷歌Play商店垄断诉讼开出罚单 元宇宙仍是未来,但实现需要时间——Meta重申在计算领域的地位 AI老板发出警告:无法解释的推理能力可能导致人类灭亡 监管机构开始对特斯拉Model X的问题展开调查 追溯OpenAI的历史,揭示其与马斯克的众多纷争 GitHub裁员,印度团队成最大受害者 微软与OpenAI强力结盟,共同致力于网络安全领域 AI视频素材来源不明,百度文心一言创作者面临版权风暴 OpenAI神秘CTO只有35岁,是ChatGPT之母 马斯克脑机接口公司开始寻找合作伙伴 推进人体试验 芝麻信用黑灰产生意:购买会员、薅羊毛可轻松提升信用分 比尔盖茨遭马斯克批评 AI 理解有限 AI越来越智能,你的工作还能保住吗?现实不容忽视 微软研究惊艳科学界:GPT-4能力接近人类,AI朝“天网”迈进? 推特泄露部分源代码,GitHub受命删除,安全问题引人担忧 谁在制造泰国游客流失的恐慌?真相揭秘 为何马斯克和OpenAI撕破脸了?马斯克为何实际控制被拒?
您的位置:首页 >快讯 > 股票 >

AI驱动的内容审核永远不可能完美

2021-11-23 19:14:08   来源:
导读 在布鲁塞尔民主与技术中心本周举行的小组讨论中,我讨论了AI驱动的内容审查技术的功能和局限性。其他团队成员包括SP Global的Armineh

在布鲁塞尔民主与技术中心本周举行的小组讨论中,我讨论了AI驱动的内容审查技术的功能和局限性。其他团队成员包括SP Global的Armineh Nourbakhsh,她讨论了她在路透社期间帮助开发的Tracer工具,CDT的EmmaLlans,以及她的最新论文“混合新闻?”自动化社交媒体内容分析的局限性。欧盟委员会的普拉巴特阿加瓦尔提供了决策者的深刻观点。

AI驱动的内容审核永远不可能完美

平台和其他互联网参与者使用自动化程序对系统上的非法材料(如仇恨言论或恐怖材料)采取行动。他们也用同样的技术强制执行自己的用户志愿服务条款,从而维持一个稳定且有吸引力的在线环境。最后还有一种中间类型的内容,不仅没有吸引力,而且有害,需要控制。虚假信息活动就属于这一类。

现在讨论自动删除这些材料的原因不仅仅是技术上的。政策制定者非常关注内容审计系统的有效性,并推动平台做得更多。有时,这将超出监管要求。

AI驱动的内容审核永远不可能完美

最近公布的欧盟防止网络恐怖主义条例草案就是一个很好的例子。许多关切集中在其提案上,该提案允许成员国的国家主管当局要求平台在收到通知后一小时内删除恐怖主义内容的具体实例。然而,更令人担忧的是,它要求平台首先采取“积极措施”防止恐怖分子的信息出现在系统上。由于积极措施是对恐怖内容的自动封锁系统,拟议的条例明确规定了对现行电子商务指令的减损,从而明确了监测恐怖内容的义务。更糟糕的是,如果一家公司收到太多拆除令,无法与监管机构就设计改进达成协议。

在决策中必须使用明确的标准,并且这些标准必须是透明的,以便用户可以对超范围和可接受的范围形成期望。此外,有必要解释每个删除决定,以解释触发删除的内容的特定功能或方面。最后,由于没有一个系统是完美的,所以需要一个纠正机制,以便材料在被错误删除后可以恢复。作为一个典范,请看美国信贷行业的做法,有透明度,有解释,有补救,代代相传。

AI驱动的内容审核永远不可能完美

出于EmmaLlans在论文中概述的原因,仅依靠自动化系统进行清洁是错误的。错误率太高,总是需要手动检查,以确保在删除内容之前充分考虑内容的上下文和含义。

免责声明:本文由用户上传,如有侵权请联系删除!