生成的错误消息更为难以分辨，所谓“人工智能幻象”引发了“看似严肃实则荒谬的言论”……这种容易扩散且难以控制的“人工智能虚假信息”，给政府监督机构、网络服务提供商、科技研发人员以及社会大众带来了全新的难题。
怎样阻止人工智能进行虚假陈述，既要靠技术进步和规则制定，又得依靠整体性管理。不少被采访的学者指出，必须健全法规体系，加强机构监督，促进各方协作的联合管理方式形成。
亮明法律底线，增强对“AI谣言”的威慑力
最近，编造关于燃气提价的AI假消息的广西网民郑某被实施了行政处罚；相当数量的散布AI虚假信息的网络账号被网信机构勒令停止发言或依照规定关闭；那些向用户教授怎样用AI实现“脱衣”“换脸换身”技巧的账号，以及售卖相关软件的网络商店，遭到网信、公安等机构联合打击惩办……
依法打击违法行为，得益于近年来人工智能相关法规的持续改进。《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》等文件相继颁布，为人工智能应用者和平台运营者划定了行为规范，为执法活动奠定了法律基础。
中南大学法学院副院长杨清望谈到，当前关于人工智能的虚假信息，其需要承担的法律后果不够严厉，这种情况有待改进，必须对违规操作进行更严厉的制裁，同时健全相关法律规范，以此加大其社会影响。
北京师范大学新闻传播学院教授许小可提出看法，对于制造和散布不实消息的易发环节，应借助法律解释等手段，清晰界定各方责任范围，并且需要拟定严谨得当的AI侵权判定准则。
当前，“AI谣言”案件在收集证据方面存在困难，这让负责调查的部门感到棘手。杨清望建议，要处理“AI谣言”案件收集证据的难题，必须创建一个能够匹配AI技术特点的证据获取和确认体系。需要制定健全的案件证据司法判定规范和准则，同时让那些不牵涉商业机密和私人信息的平台算法公开透明，这样才能有效解决证据和责任归属的复杂问题。
部分地区的公安机关已对“AI谣言”的识别与监测进行了实践探索，我们积极与科研机构及企业紧密协作，持续增强对恶意“深度伪造”内容进行监测预警和迅速辨识的水平，同时联合相关单位构建了网络谣言进行巡查监测、核查反馈、会商研判、线索移交、打击惩治的完整流程，针对经由AI技术等手段生成的虚假信息，确保第一时间依照法规规章展开处理。”辽宁沈阳市公安局网络安全保卫支队民警杨永志表示。
加固技术堤坝，斩断“AI谣言”的传播链
有网民指出，部分线上平台在AI创作的图像或影片发布时，标注“疑似机器制作”的警示文字往往滞后，从而为错误资讯的散布提供了机会。
平台为了保持自身发展和维护自身权益，更应主动管理“AI谣言”，切断“AI谣言”的扩散路径。杨清望指出，一旦发现“AI谣言”，平台需要迅速采取下架内容、删除信息、发布澄清等行动。特别是在处理重大事件或敏感内容时，要严格审核图片和视频的真实性，尽快消除谣言造成的恶劣影响。
如何加强真伪核查？
关注民众意见。设置通畅的检举和控诉途径，针对网络上传闻不实的资讯，需迅速展开核实并作出应对。对于反复借助人工智能编造虚假消息的个人，能够运用加入禁止名单等约束手段，以此约束其活动。杨清望这样强调。
开展人工智能鉴别工作，必须要有坚实的技术支撑。中国政法大学网络法学研究中心主任李怀胜谈到，从技术层面来看，能够运用算法甄别、海量资料研究以及区块链记录等办法，来发现并阻止虚假信息扩散。比如说，借助人工智能平台进行监测，运用自然语言解析和影像辨识能力，自动指出有问题的材料并且降低其被展示的频率。
监管机构能够建立一种‘实时可追溯责任体系’办法，借助显性标记和隐性标记等手段，尝试实施‘人工智能虚假信息’的源头排查和持续问责，这是许小可提出的建议。
提高辨别能力，看清“AI谣言”的真面目
计算手指数量，AI或许会显示“六指”；判断阴影方位，AI也许会将太阳位置弄错；观察面部神态，AI生成的图像可能存在眼神与嘴巴的错位……AI相关传言真伪难辨，但依然可以找到一些细微的线索。
提高警惕，是提升“AI谣言”辨别能力的第一步。
若遇到标有“知情人士透露”“内部消息”等字眼的内容，或者察觉到信息条理不清、前后抵触，就必须提高警惕——这类信息极有可能被恶意修改或凭空捏造。应当审慎判断，务必寻求官方渠道获取确切资料；同时，还可以采用对比参照的方法，确认信息的可靠性。这是许小可提出的建议。
还要增强法律意识，防止在“无意识”中助力谣言传播。
某些人或许并非有意编造虚假信息，他们仅仅是把由人工智能制造出来的东西放到公共平台上，后来这些东西被很多人传播开来，最终引发了不良后果。这是李怀胜的观点。
李怀胜指出，人工智能制造的信息或许会有内容失实、推理错误或信息陈旧的情况，应用时需谨慎小心，不可将未经验证的AI产品结果直接对外发布，以免无意中干扰了信息的正常传播。
就媒体责任而言，权威人士指出，网络平台须加强素材校验水平，借助正式途径和可靠资讯确认内容真伪；网络写手则需强化法规观念，确保所传信息真实可靠且立场中立。
遏制虚假信息，提升认知至关重要。许小可指出，公布典型事例，能够让人们认识虚假信息产生途径、扩散规律、欺骗手法和辨别方法，有助于大家认清虚假信息的本质。
人工智能进步很快，掌握巧妙使用智能设备的方法，才能让机器更好地帮助大家工作生活。
（侯依阳参与采写）
《 人民日报 》（ 2025年08月20日 04 版）
