document.write('
')
数字化观察网 - 信息化观察网 - 引领行业改革
菜单导航

美国FTC报告:人工智能在打击虚假信息、深度伪

作者: 数字化观察网 发布时间: 2022年06月23日 15:23:44

  不要将AI当作解决网络危害问题的唯一方案。

   记者张雅婷 实习生高艺 广州报道 近日,美国联邦贸易委员会(FTC)向美国国会发布一份报告,指出使用人工智能技术在打击虚假信息、深度伪造和其他网络问题上存在风险。报告显示,人工智能在设计上可能不准确、有偏见与歧视性,并可能造成对商业不当监控的鼓励。

  事实上,对人工智能可能带来的社会风险和防治已经成为全球共同关注的话题。面对人工智能可能造成的社会风险、法律侵权、道德伦理争议,各国监管一直走在探索的路上,寻求鼓励技术创新和防治社会风险之间的平衡。

  算法技术的合规重要性近年来在我国多次被强调。继《个人信息保护法》与《互联网信息服务算法推荐管理规定》的规制之后,6月22日中央全面深化改革委员会第二十六次会议中再次指出,加强平台企业沉淀数据监管,规制大数据杀熟和算法歧视。

  AI存风险,立法需警惕

  此次报告的发布是出于国会的审查请求。在《2021年综合拨款法案》中,国会指示FTC审查人工智能是否以及如何“可能被用于识别、删除或采取任何其他必要的适当行动”,以应对各种特定的“网络危害”。国会特别关注的在线问题包括在线欺诈、假冒诈骗、虚假评论和账户、机器人攻击、社交媒体操纵、非法毒品销售和其他非法活动、在线骚扰和网络跟踪,以及影响选举等。

  报告建议,国会不要将AI当作解决这些网络问题的政策方案,并指出采用人工智能可能带来的额外危害。报告概述了与使用人工智能相关的几个问题:

  一是人工智能具有固有的设计缺陷和不准确性。人工智能具有内置的不精确性和不准确性,对“网络危害”的监测能力受到设计缺陷的显著限制,例如可能出现不具有代表性的数据集、错误的分类、未能识别新现象以及缺乏上下文和意义等;

  二是人工智能携带偏见和歧视。人工智能会反映开发人员的偏见,从而导致错误的结果和潜在的非法风险。报告示例包括人工智能导致对受保护人群的歧视,或可能通过过度限制内容而损害表达自由;

  三是人工智能可能鼓励商业对人们的不当监控。由于技术开发需要大量数据,人工智能可能会鼓励和支持商业监控和数据提取的行为。此外,提高人工智能的准确性和性能需求可能会导致更具侵入性的监视形式。

  报告发现,鉴于主要技术平台和其他平台已使用人工智能来解决网络危害,立法者更应考虑制定法律框架,以确保人工智能不会造成额外伤害。政府、平台等必须非常谨慎地强制使用或过度依赖这些工具,即使是为了减少危害的重要目的。国会不应推出那些要求公司使用人工智能来监测有害内容的法律,且迫使平台快速删除某些有害内容的法律会因为损害言论自由而无法通过《宪法第一修正案》的审查。

  报告认为,对于任何涉及人工智能使用与处理网络危害问题的法律,都有三个关键的考虑因素——定义、覆盖范围和线下影响。首先,人工智能、算法、网络危害等术语的定义因其模糊性和广度存在争议。其次,法律涵盖范围存在问题,例如覆盖技术的哪些部分;如果仅限于社交媒体公司,是否应根据规模区分这类公司与如何衡量规模;法律应涵盖为不同代际的人提供网络服务的规定。最后,网络危害将对线下也产生影响,立法者要避免孤立看待。

  报告提出,立法重点应该优先考虑创建、使用人工智能解决网络危害的平台的透明度和问责制,包括公开披露信息,即使用人工智能的方式与数据;研究人员可获取额外信息;保护举报人、审计员、研究人员和记者;公开审计和评估的要求;推出标记违规内容、投诉内容、通知删除、纠正删除的系统。报告敦促国会关注增强数据访问所带来的隐私和安全风险。

  AI监管,全球在路上

  近年来,人工智能商业化风起云涌,技术可能造成的社会风险及防治方式已是全球关注的重点。目前,人工智能可能出现算法黑箱、安全漏洞、算法歧视、隐私侵犯、信任危机等多重问题。面对人工智能可能造成的社会风险、法律侵权、道德伦理争议,各国一直在寻求鼓励技术创新和防治社会风险之间的平衡。

  欧洲走在人工智能法律监管的前列。2015年,欧盟委员会决定下设负责人工智能法律与政策研究的工作小组。2017年,欧盟议会发布《欧盟机器人民事法律规则》。2018年12月,欧盟委员会通过《人工智能开发和适用伦理指南草案》。2019年欧盟委员会发布《可信赖人工智能伦理准则》,准则包括七项要素:人的能动性和监督、技术稳健性和安全性、隐私和数据管理、透明度、多样性和非歧视性以及公平性、社会及环境福祉、问责制。2020年2月,欧盟委员会发布《人工智能白皮书——欧洲追求卓越和信任的策略》,希望建立可信任的人工智能生态系统。2021年4月,欧盟委员会发布立法提案《欧洲议会和理事会关于制定人工智能统一规则(《人工智能法》)和修正某些欧盟立法的条例》,是目前在该方面涉及范围最广泛的条例之一,正在通过评论期和重新修订迅速推进。该提案规定了企业和政府应如何使用人工智能技术,将对“高风险”领域的人工智能使用进行限制。根据该提案要求,欧盟将有可能对违规最严重的公司处以相当于其全球年销售额6%的罚款。

热门标签