网警守护网络安全,系列提醒之“AI生成内容安全”篇
发布时间:2026-09-24 | 浏览:1
汽车 教育 时尚 女性 星座 健康
房产 历史 视频 收藏 育儿 读书
文本、图片、音频、视频、虚拟场景等信息。
但AI造谣虚假合成等隐患丛生,
请大家提高防范意识守住法律底线,
依法安全文明使用AI工具,共护清朗网络。
2026年2月,上海罗某为吸粉引流,利用AI生成“施工区地面塌陷”的虚假视频,在短视频平台传播,扰乱公共秩序。
网警通过细节违和、逻辑漏洞识破AI伪造内容,罗某最终被依法行政拘留。
免费AI作图、视频生成工具普及,导致虚假内容生产成本降低,且生成的虚假内容传播速度快、影响范围广。
AI换脸、声音克隆技术等生成的视频内容相当逼真,导致虚假灾情、虚假事故等类型谣言难以分辨,易误导公众、带偏舆论。
03 / 新规明确要求AI内容标注来源
服务提供者提供的生成合成服务属于《互联网信息服务深度合成管理规定》第十七条第一款情形的,应当按照下列要求对生成合成内容添加显式标识:
(一)在文本的起始、末尾或者中间适当位置添加文字提示或者通用符号提示等标识,或者在交互场景界面、文字周边添加显著的提示标识;
(二)在音频的起始、末尾或者中间适当位置添加语音提示或者音频节奏提示等标识,或者在交互场景界面中添加显著的提示标识;
(三)在图片的适当位置添加显著的提示标识;
(四)在视频起始画面和视频播放周边的适当位置添加显著的提示标识,可以在视频末尾和中间适当位置添加显著的提示标识;
(五)呈现虚拟场景时,在起始画面的适当位置添加显著的提示标识,可以在虚拟场景持续服务过程中的适当位置添加显著的提示标识;
(六)其他生成合成服务场景根据自身应用特点添加显著的提示标识。
服务提供者提供生成合成内容下载、复制、导出等功能时,应当确保文件中含有满足要求的显式标识。
为了促进人工智能健康发展,规范人工智能生成合成内容标识,保护公民、法人和其他组织合法权益,维护社会公共利益,国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局制定了《人工智能生成合成内容标识办法》。同时,我们也要学会识别AI造假,既能避免误导,也能防止自己无意中传播违法违规内容,守住法律底线。
留意人物五官扭曲、动作僵硬、文字错乱等AI破绽。
用户使用网络信息内容传播服务发布生成合成内容的,应当主动声明并使用服务提供者提供的标识功能进行标识。
任何组织和个人不得恶意删除、篡改、伪造、隐匿本办法规定的生成合成内容标识,不得为他人实施上述恶意行为提供工具或者服务,不得通过不正当标识手段损害他人合法权益。
不随意在陌生AI平台上传照片、原声视频,防止被不法分子用于换脸、仿声 。
涉及灾害、事故等事件,以官方通报为准,不轻信、不转发来源不明的AI视频。
遇到AI谣言等违法违规内容,立即向平台或网警举报,共同抵制网络乱象。
愿大家都能明辨虚实、文明用网,
24小时滚动播报最新的财经资讯和视频,更多粉丝福利扫描二维码关注(sinafinance)
01 / 马斯克6岁小儿子新中式装扮火了:马甲出自国产小众定制品牌,售价970元,虎头包由绣娘缝制,一个用时一周
02 / 历史性会晤,给世界释放的5个信号
03 / 特朗普说习主席很温暖
04 / A股“股王”,副总被刑拘
05 / 特朗普在欢迎晚宴致辞 美国始终尊重中国人民 很荣幸孔子雕像 雕刻在美最高法院门楣之上
06 / 深夜,苹果突然降价!
07 / 网传央视发出邀请函:将全程直播世界杯 2天后举办发布会正式官宣
08 / “需要共同书写的时代答卷”——习近平主席同特朗普总统会晤侧记
09 / 中美关系新定位,如何相向而行?
10 / 特朗普第一季度进行3642笔股票交易,打破数十年保密信托惯例
01 / 视频|特朗普欢迎晚宴上的中企代表都有谁?
02 / 光纤上游材料,“纤维之王”火了,龙头三天两板!机构:或短缺!(附股)
03 / 操盘必读:影响股市利好或利空消息_2026年5月15日_财经新闻
04 / 中泰证券:谁偷走了本轮券商的弹性?
05 / 财经早报:苹果突然降价 业绩预告频频失准多家公司收监管函丨2026年5月15日
06 / 多路外资齐聚 A股公司获重新“扫描”
07 / 雷军追慕马斯克,深谙时代造王规律
08 / 信立泰,突发利空股价暴跌前夕,国金证券研究员“无脑唱多”?
09 / 特朗普结束对华国事访问 将乘专机离京
10 / 股海导航_2026年5月15日_沪深股市公告与交易提示
01 / 多家银行理财子公司推出“T+0.5”赎回到账模式
02 / 大行首家!工行将积存金风险等级从C3降至C2,释放什么信号?
03 / 支付宝回应184万元莫名被扣
04 / 重庆,率先落地!多地严打非法金融活动
05 / 五家银行A股IPO候场 一季报业绩表现分化
06 / 资金面持续宽松 6个月期买断式逆回购净回笼5000亿元
07 / 中信特钢:“零碳排放”成为“发展底气”
08 / 4月新增贷款转负,增速放缓或将成常态
09 / 4月金融数据出炉 直接融资占比持续提升
10 / 唯一的女性是全职太太 招行私行介绍页引质疑
盛松成 : 信用货币的两面性及其挑战
郑淼 : 智能体技术是如何长出来的?
顾雷 : 防非打非“三年总体战”
任泽平 : 物价涨,金融落,货币观望
莫开伟 : 养老金融产品应如何创新?
7x24快讯 : 9月19日沪深两市涨停分析
非凡哥哥samm : 不想做任何操作
飞我eight : 今天才这点成交量
和你天天向上 : 全部清除了 一分不剩
用户7048726012 : 想红但是又有点怕羞
江东子弟93949 : 还对中芯抱有幻想的人
和你天天向上 : 拉升一下吧 给我清仓的机会
用户7763476192 : 再玩下去6000亿都守不住了,没人玩了
05-18 长进光子 688635 40.98
05-18 龙辰科技 920161 9.21
05-13 惠康科技 001237 53.26
05-13 嘉德利 603435 15.76
05-13 朗信电气 920220 28.29
新浪简介 | 广告服务 | About Sina 联系我们 | 招聘信息 | 通行证注册 产品答疑 | 网站律师 | SINA English
Copyright © 1996-2026 SINA Corporation
All Rights Reserved 新浪公司 版权所有