AI技术应用乱象频发引质疑

近期，有关AI技术应用的乱象引发关注。一些博主用AI“复活”李玟、高以翔、乔任梁等已逝明星牟取利益，惹来众怒。3月17日，“乔任梁父亲喊话撕下AI复活明星伪善面具”话题冲上热搜，引发了大众对AI应用的道德伦理、法律界限等问题的讨论。此前，央视3·15晚会曝光，近两年来，全国共发生“AI换脸”类诈骗案近百起，累计造成经济损失高达2亿元，“AI犯罪”话题备受关注。此外，伴随着AI技术在内容生产领域的应用范围不断扩大，涉及AI知识产权争议的话题时有出现，网红博主@曾bobi用AI作品欺骗观众事件广受网友热议。

一、舆情综述

中国文化传媒集团舆情系统数据显示，截至目前，有关“AI争议”的“乔任梁父亲喊话撕下AI复活明星伪善面具”“央媒揭秘AI诈骗新套路”“曾bobi道歉”等话题信息总量约120.28万条，其中负面信息2万余条，阅读量高达3.8亿，评论数为35.64万。热点话题舆情走势分析如下：

3月17日，“乔任梁父亲喊话撕下AI复活明星伪善面具”等话题冲上微博热搜榜第2位，阅读量高达2.4亿。光明网、央广网、央视网、环球网、中国经济网、中工网、京报网、扬子晚报等媒体进行报道，话题热度达到峰值，此后有所回落。3月18日，@红星新闻发布报道【起底AI复活乔任梁等明星背后产业链】，@极目新闻、@新民晚报等多家媒体转发，话题热度再度升温。

3月15日，“央媒揭秘AI诈骗新套路”话题引发大众关注，阅读量高达358万。新华社、环球网、澎湃新闻、北京日报、大洋网等媒体多家媒体跟进报道，话题热度迅速走高，此后逐渐降低。

2月23日，“曾bobi道歉”话题冲上微博热搜榜第47位，多个自媒体大V转发，阅读量高达2023万，目前话题热度已经回落。

二、媒体观点

一是用AI技术“复活”明星，背后的社会伦理问题应该引起重视。环球时报认为，从伦理和社会角度来看，将已故的亲人“复活”，可能会对活着的人产生误导，让他们无法面对现实。此外，这种技术也可能会被滥用于制造虚假信息误导公众。中工网分析，“AI复活逝者”技术毕竟是新生事物，不可避免地遇到法律、社会道德、传统观念、科技伦理等诸多问题，需要厘清边界，对技术加以规制，避免滥用侵害他人合法权益，衍生“二次伤害”。

二是“AI诈骗”多发，完善监管体系迫在眉睫。中国日报网建议，随着人工智能技术的发展，不法分子利用AI实施诈骗的精准性、隐蔽性进一步增强，需高度警惕。人工智能安全治理需多方协力，完善监管体系迫在眉睫。新京报建议，目前，中国已经成长为全球第二大网络安全支出国家，网络安全市场进入快速发展期。但在整体IT投入中的占比相对于全球平均水平还有较大提升空间。这就需要政府通过严格执法，倒逼企业持续扩大数据安全投入力度，弥补原有缺口。对于严重不作为、导致数据大规模泄露的企业，加大问责力度，提高其违法成本。

三是应该以知识产权立法推动人工智能发展。新华社认为，知识产权法也需要划出红线，对于违反社会安全和社会伦理的人工智能产品，我们需要坚决说不。东方财富网认为，法律层面除了对生成式人工智能技术发展大力支持，也需要对知识产权法律及相关法规做出相应的调整。法律的监管重点并不是技术，而是拥有该项技术的企业。在促进技术健康发展的同时，规范市场、明确监管与企业职责、保护用户的合法权益。

三、网民观点

对“AI引发争议”有关话题的网络评论进行梳理、汇总后发现：39.82%的网民认为，应该厘清用AI技术复活“数字生命”的伦理、法律边界；31.43%的网民认为，AI诈骗新技术层出不穷，相关部门应该与时俱进，普及AI防诈知识、更新AI防诈手段，更要推动相关政策法规出台、落地；21.93%的网民指出，近年来，AI著作权、AI辅助创作侵权等问题愈发凸显，希望有关部门与专家学者通力协作，推进知识产权相关立法工作。

图：网友观点分布图

  四、热点评议

近来，用AI技术复活“数字生命”、冒用“人脸”的新型AI诈骗以及AI知识产权争议等话题热度不断升温。归根结底，AI技术是把“双刃剑”，在驱动数字经济飞速发展的同时，也会对社会伦理道德、网络安全以及知识产权等提出新挑战。种种乱象层出不穷，说明AI应用的规范治理迫在眉睫。

在AI规范治理领域，国际一直走在前列。24年3月13日，欧洲议会正式通过《人工智能法案》，欧盟延续数字时代的监管态势，在人工智能法律监管方面率先布局。2023年，美国也陆续出台了《人工智能风险管理框架》、《关于安全、可靠和可信开发和使用人工智能的行政命令》等管控人工智能风险。近日，日本更是举行AI战略会议，宣布成立专门调查生成式AI安全及相关方面问题的国家机构“AI安全研究所”，推进制定面向企业等的AI指导方针。

我国在AI治理领域也进行了不少探索。2023年，《生成式人工智能服务管理暂行办法》正式施行，从价值规范、行为规制和过程监管等方面对生成式人工智能加强了治理。自然，随着AI 技术的应用范围愈加广泛，新兴乱象也需要实时关注。针对用AI复活“数字生命”现象，相关部门应协同专家学者尽快建立道德伦理标准，厘清法理与人情界限，避免功利投机行为。平台也应及时审查清理涉嫌侵权账号，注意筛查AI生成不健康内容，引导技术向善发展。AI“人脸”诈骗横行，严重危害百姓财产生命安全，相关部门在与时俱进更新防范手段的同时，也要做好风险提示、防诈提示，普及鉴别技巧，提醒大众警惕“人脸”诈骗。此外，AI技术引发的知识产权争议也要引起重视，在推进立法完善之外，可以充分发挥司法裁判的定分止争作用。前段时间，国内第一个人工智能文生图著作权侵权案引发大众热议，可以遴选更多典型案例予以适当宣传，必要时还可以组织专家学者展开深入研究和解读，以逐步构建普遍适用的司法实践秩序。平台也要加强对内容生产的监管，做好AI生成信息标注工作，推动AI创作规范发展。创作者也要加强行业自律，遵守职业道德，切莫用AI装原创欺骗大众。

责编：王晓琳 二审：唐志成 三审：赵婷