并指出了人工智能可能带来的额外危害

来源:东方财富

不要把AI作为解决网络危害问题的唯一方案。

最近几天,美国美国联邦贸易委员会向美国国会发布报告,指出使用人工智能技术在打击虚假信息,深度伪造和其他网络问题方面存在风险报告称,人工智能在设计上可能存在不准确,偏见和歧视,并可能鼓励不当的商业监控

事实上,人工智能可能带来的社会风险和防范已经成为全球共同关注的话题面对人工智能可能引发的社会风险,法律侵权,道德伦理争议,国家监管一直在探索的道路上,在鼓励技术创新和防范社会风险之间寻求平衡

算法合规的重要性最近几年来在国内被多次强调继《个人信息保护法》,《互联网信息服务算法推荐管理规定》规范之后,6月22日,中央全面深化改革领导小组第二十六次会议再次指出,要加强平台企业入驻数据监管,规范大数据杀熟和算法歧视

AI风险,立法需警惕

这份报告的发布是由于国会的审查要求在2021年的综合拨款法案中,国会指示FTC审查人工智能是否以及如何可以被用来识别,删除或采取任何其他必要的适当行动,以应对各种特定的网络危害国会特别关注的网络问题包括网络欺诈,虚假欺诈,虚假评论和账户,机器人攻击,社交媒体操纵,非法药品销售和其他非法活动,网络骚扰和网络跟踪,以及影响选举等

报告建议国会不要将AI视为解决这些网络问题的政策方案,并指出了人工智能可能带来的额外危害。该报告概述了与使用人工智能相关的几个问题:

首先,人工智能有固有的设计缺陷和不准确性人工智能具有内在的不准确性和不准确性,其监控网络危害的能力受到设计缺陷的显著限制,例如不具代表性的数据集的可能性,错误的分类,无法识别新现象以及缺乏上下文和意义等

第二,人工智能带有偏见和歧视人工智能会体现开发者的偏见,导致错误的结果和潜在的违法风险

第三,人工智能可能会鼓励企业不当监控人因为技术发展需要大量的数据,人工智能可能会鼓励和支持商业监测和数据提取此外,提高人工智能的准确性和性能要求可能会导致更具侵入性的监控形式

报告发现,鉴于各大技术平台和其他平台已经使用人工智能解决网络危害,立法者应考虑制定一个法律框架,以确保人工智能不会造成额外的危害政府,平台等必须非常小心地强制或过度依赖这些工具,即使是为了减少伤害这一重要目的国会不应该出台要求公司使用人工智能监控有害内容的法律,强制平台快速删除一些有害内容的法律将无法通过宪法第一修正案的审查,因为它损害了言论自由

根据该报告,对于任何涉及使用人工智能和处理网络危害的法律,都有三个关键的考虑因素——定义,覆盖范围和线下影响首先,人工智能,算法,网络危害等术语的定义因其模糊性和广泛性而备受争议其次,法律覆盖面有问题,比如技术覆盖哪些部分,如果仅限于社交媒体公司,这类公司是否应该按照规模来区分,如何衡量其规模,法律应该涵盖为不同代的人提供网络服务最后,网络危害也会对线下产生影响,立法者应避免孤立看待

报告提出,立法重点应优先考虑创造和使用人工智能解决网络危害的平台的透明度和问责制,包括公开披露信息,即使用人工智能的方式和数据,研究人员可以获得额外的信息,保护举报人,审计人员,研究人员和记者,公共审计和评估的要求,引入违法内容标注,内容投诉,通知删除,更正删除等制度该报告敦促国会关注增强数据访问带来的隐私和安全风险

AI监管,世界在路上

最近几年来,人工智能商业化风起云涌,技术可能引发的社会风险及其防范方法成为全球关注的焦点目前人工智能可能存在算法黑箱,安全漏洞,算法歧视,隐私侵犯,信任危机等诸多问题面对人工智能可能引发的社会风险,法律侵权和道德争议,各国一直在鼓励技术创新和防范社会风险之间寻求平衡

欧洲处于人工智能法律监管的前沿2015年,欧盟委员会决定成立一个工作组,负责人工智能的法律和政策研究2017年,欧洲议会发布了关于机器人的欧盟民法规则2018年12月,欧盟委员会通过了人工智能发展和应用的伦理指南草案2019年,欧盟委员会发布了可信人工智能道德准则,该准则包括七个要素:人类的主动性和监督,技术的鲁棒性和安全性,隐私和数据管理,透明度,多样性和非歧视性,公平性,社会和环境福祉以及问责制2020年2月,欧盟委员会发布了《人工智能白皮书——欧洲追求卓越和信任的战略》,希望建立一个值得信赖的人工智能生态系统2021年4月,欧盟委员会发布了立法提案《欧洲议会和理事会关于制定人工智能统一规则和修改部分欧盟立法的规定》,这是目前该领域涉及面最广的法规之一,正在通过征求意见期和修改快速推进该提案规定了企业和政府应该如何使用人工智能技术,并将限制在高风险领域使用人工智能根据提案,欧盟有可能对违规最严重的公司处以相当于其全球年销售额6%的罚款

在美国,立法者提出了一项追求透明度,问责制和可解释性的人工智能监管法案,强调监管的灵活性除了发布几个发展规划文件,他们还注重技术监督2018年6月首次提出,2019年7月再次提出的《自动程序披露和问责法》要求FTC制定法规,强制数字平台公开披露其使用复制人们在互联网上行为的自动软件程序或过程,并禁止政治候选人使用自动程序分享或传播任何有关政治选举的信息2019年,参议院提出了《算法问责法案》,该法案赋予FTC实施和监督的权力,要求企业研究和修复存在缺陷并将导致人们做出不准确,不公平,有偏见或歧视性决定的算法该法案是美国国会首次全面监管人工智能系统的立法尝试2020年1月,美国联邦政府发布了《人工智能应用监管指南》,这是美国发布的第一部人工智能监管指南2021年10月,白宫科技政策办公室公布了制定《人工智能权利法案》的计划,试图改善社会隐私泄露,算法透明度不足,生物识别技术滥用等问题

在国内,人工智能的风险防控也提上日程2017年7月,国务院公布了《新一代人工智能发展规划》,这是中国人工智能发展的长期规划中国信息通信研究院发布的《人工智能安全白皮书》将人工智能安全风险分为六大类:网络安全风险,数据安全风险,算法安全风险,信息安全风险,社会安全风险和国家安全风险2019年,国家新一代人工智能治理专业委员会发布了《新一代人工智能治理原则——发展负责任的人工智能》,强调人工智能发展应遵循八项原则:和谐友爱,公平正义,包容共享,尊重隐私,安全可控,责任共担,开放合作,敏捷治理2021年9月发布的《新一代人工智能伦理准则》强调将伦理道德融入人工智能的全生命周期

在与人工智能密切相关的算法技术方面,我们国家出台的很多法律法规都有严格的规定2021年8月,我国出台的《个人信息保护法》规定,不得实施大数据杀伤,个性化推荐还应当提供不针对其个人特征的选项,或者便捷的拒绝方式等2021年12月,《互联网信息服务算法推荐管理规定》发布,明确规定了我国应用算法推荐技术提供互联网服务应当遵循的合规要求,包括保障用户的知情权和选择算法的权利,建立完善的人工干预和用户自主选择机制,不得利用算法实施影响网络舆论,规避监督管理,垄断和不正当竞争等

2022年4月,中央网信办牵头开展清朗2022算法综合治理专项行动,对互联网企业平台算法安全问题进行排查整治,评估算法安全能力,重点检查具有较强舆论属性或社会动员能力的大型网站,平台和产品,督促企业运用算法加大正能量传播力度,处理违法和不良信息,整治算法滥用和乱象,积极开展算法备案,推动算法综合治理常态化,规范化日前,中央全面深化改革委员会第二十六次会议再次指出,加强平台企业沉淀数据监管,规范大数据杀熟和算法歧视

人工智能是未来科技发展的前景,会带来产业变革,但也有全新的社会风险用法律来监督和防范,是各国都必须讨论的问题正如这份报告的起草者,FTC消费者局局长塞缪尔·莱文所说:新技术是一把双刃剑打击有害的在线内容需要广泛的社会努力,而不是过度乐观地认为新技术可以帮助我们摆脱这些问题