AI写作假新闻闹出大乌龙 新技术更需要新监管

11

据浙江之声官微消息,2月16日,一则“浙江省杭州市政府3月1号取消机动车依尾号限行”的“新闻”在网上传开了,这条看起来没头没尾的“新闻”一时间还真让不少人信以为真了。2月17日,杭州警方证实消息不实,警方已介入调查。

很快这起乌龙事件的源头也被找到了,原来是杭州某小区业主在群众讨论最近非常热门的AI聊天机器人chatgpt时,一位业主开玩笑说自己要用chatgpt来写一条关于杭州取消限行的新闻稿,随后将chatgpt生成的文章发布在了群中。结果被群内不明真相的其他业主截图转发了,因此在网上流传开来,引起了误会,该业主后续也在群中表示了歉意。

这起乌龙事件引发了不少网友的讨论,从性质上来说,这条假新闻属于谣言,但另一方面,这个错误究竟应该谁来负责又引发了不少网友讨论。一方面有观点认为,应该由截图的人负责,该业主已经在群里说了自己要用chatgpt来写个“新闻”,截图转发的人没有看上下文就转发到公开的网络平台,导致了错误信息的传播。另一方面也有观点认为发布人也应当承担责任,如果没有发布人的一时兴起,用AI来编造了一条像模像样的假消息,也不会造成群内其他人的误会。

早前就曾有海外研究机构对chatgpt写作表示隐忧,担心它将会成为谣言制造机。人工智能快速迭代所带来的一系列伦理、道德问题要如何从法律层面应对解决,似乎也还处于探索的初级阶段。2022年我国出台了《互联网信息服务算法推荐管理规定》,首次提出来人工智能的算法应当坚持社会主义主流价值观,不能利用算法危害国家安全和社会公共利益、扰乱经济秩序和社会秩序、侵犯他人合法权益。

今年1月10日起施行的《互联网信息服务深度合成管理规定》中明确,任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息,不得利用深度合成服务从事危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动。

AI技术迭代给监管带来了新的挑战,数据安全漏洞带来的隐私风险如何规避,AI系统中哪些内容应该被列入高风险区,“眼见不为实”的深度伪装要如何识别,深度伪装造成的危害要怎么处理,人工智能应当适用怎样的伦理规则……2021年,欧盟委员会曾提出人工智能规则法案,日前亦有消息称《欧盟人工智能法案》将于三月初进行讨论,但该法案的推进遭遇了阻力。

或许就像世界上出现第一辆汽车时一样,当第一辆汽车上路时也曾造成过无数混乱,但如今也有了完善的交通法规约束监管,车祸虽然仍然无法避免,但一场交通事故背后的权责划分却有法可依。人工智能新技术就像刚刚诞生的汽车,当新的监管方案也上了路,这辆“汽车”才算是稳当了。

扬子晚报/紫牛新闻记者 沈昭

《扬子晚报》2023年2月20日A10版 【编辑:李岩】

国务院办公厅转发中国证监会等部门《关于加强监管防范风险促进期货市场高质量发展的意见》的通知

青海同仁:民族式射箭比赛开赛

2025合肥侨创大赛决赛举行

全国超八成有线电视、IPTV家庭用户实现开机看直播

以创新应对挑战 中关村论坛与会者吁开放合作

美国再次一票否决加沙停火决议草案

黑龙江出台“1+N”科技创新政策 5年内高新企业突破5000家

亚洲大学生武术锦标赛哈尔滨开赛 系比赛首站落户中国

海南大学新生开学普法第一课:抵制离岛免税“套代购”走私行为

公安部公布10起破坏生态环境犯罪典型案例

加方称中方军机拦截加方军机的行为十分不专业 中方:恶人先告状

全球极端天气频频“变脸” 人类如何应对

字节跳动成立六个业务板块 梁汝波正式接任CEO

运动组局解锁社交新玩法 夜跑和骑行拥有高人气

意大利驻重庆总领事在昆明“细数”滇意交往合作

文章版权声明:除非注明,否则均为可梦网原创文章,转载或复制请以超链接形式并注明出处。