据科技日报，生成式人工智能（ai）横空出世后，除了可能对部分职业岗位有所波及、对现有的版权制度形成新的挑战外，还能被用于社交媒体上的虚假信息活动，既造成了新的危险，也放大了现有的危险，进而危害经济和社会的稳定。
基于现实情况进行合理预测，AI加持下的虚假信息活动可能主要应用于以下4个方面：
①炮制假新闻。
这里主要针对官媒新闻进行歪曲和篡改，淘汰以往“开局一张图，剩下全靠编”的落后的内容生产方式，改为设定要求——输入部分素
材——自动生成图文/视频的全自动化模式。
②.散播谣言。
制*消息快、自动化+批量化传播扩散快，如果再加上由深谙新媒体、社媒调性机制，且深谙传播学或新闻学理论的“专业人士”操刀，便能实现“谎言重复一千遍，就会成为真理”的效果。另外，由于谣言还具有极强的噱头性，天然容易在互联网传播中获得极大的关注度和讨论度，与此截然相反的，却是辟谣不仅要“跑断腿”，还因为“太正”而没人看。
③结合生成式AI与社媒特性，推行“垃圾信息海”战术。
向全网灌注娱乐新闻、八卦信息等“奶头乐”内容，占据用户全部视野，以驱除正经新闻和消息，彻底掌握社媒中流通信息的支配权。通过与娱乐公司展开深度合作，幕后推手能够在完成既定战术目标的同时获得额外的收益。
④利用深度合成技术仿冒账号，搅乱正常社媒秩序。
爬取机关、企业、机构、社会组织、名人/大V/意见领袖等官方账号和个人账号的信息，包括但不限于图文、露脸形象、声音等，凭借这些语料和素材生成虚假内容，既能为事主招黑，还能挑起事端、搅乱风波、以假乱真。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜
ChatGPT Writer
免费 Chrome 扩展程序，使用 ChatGPT AI 生成电子邮件和消息。
106
查看详情
更关键的是，为牟利也好，为达成其别有用心的目的也罢，虚假信息的制造者和传播者的行为本就非法，自然会无视法律法规、平台规定等束缚，于是便产生了3大难点——审核难、监管难、处罚难。
①审核难。
目前各平台对生成式AI内容的要求，主要可以概括为“上传者自律”，也就是该用户主动做出醒目标识，向受众明示其内容为AI制作，如此规定“防君子不防小人”。正常用户当然依规行事，不法用户则完全可以不标、缓标、少标。
②监管难。
在AI应用于内容生成领域之前，众所周知网上假新闻已经像野草一样层出不穷，难以根除。对此，传统的治理方式为大数据筛查+受理举报相结合，并重点打击违规账号、重点标记其关联账号，这是堂堂正正的处置之道，无可指摘。可问题就在于不法用户引入AI后，如果将之前的状态看成零星的、点状的野火，那此后需要处理和整治的虚假信息，将变成片的大火，治理所耗费的人力、物力、难度呈指数级上升。
③处罚难。
最终，惩罚存在两个问题，一是配套法律法规不够完备，二是由于隐秘性而难以抓取的问题。不过，不久前关于反网暴的适用法律条文已面向社会收集意见，相信很快就能具体落地。预计随着AI生成虚假信息治理工作的推进，相关的法治建设也会紧随其后。
阿知曾多次在关于生成式AI的问题中提及，AI与以往历史上出现的新技术没有本质不同，无关对错和善恶，关键是要看谁来用、怎么用。其作为互联网行业新引擎、金融市场中的新蓄水池作用当然毋庸置疑，但一味地、片面地强调其技术优越性多为投机主义者所为，图利而已。我们必须客观全面地看待生成式AI这项革新性技术，并采取预防措施，以避免其滥用所带来的风险。
以上就是警惕！AI或致虚假信息泛滥的详细内容，更多请关注其它相关文章！
# 假新闻
# 毒物营销推广分析
# 什么企业适合做seo
# 年度十大推文关键词排名
# 河南seo矩阵项目公司
# 平乡网站建设优势
# 邵阳网站网络推广渠道
# 新网站要做推广吗
# 推广盘他的网站
# 网站谷歌推广
# 荣成工地建设网站
# 就会
# AI
# 这是
# 的是
# 上海
# 应用于
# 谁能
# 还能
# 互联网
# 开源
# 警惕
# 虚假信息
相关栏目：
【
企业资讯168 】
【
行业动态20933 】
【
网络营销52431 】
【
网络学院91036 】
【
运营推广7012 】
【
科技资讯60970 】
相关推荐：
美图影像节演讲实录：191次提及AI，发布7款影像生产力工具
“聚智启新，‘蓉’力同行” 成都市人工智能产业融通对接会成功举办
腾讯自主研发机器狗 Max 升级，可“奔跑跳跃”完成避障动作
实测 AI 建筑设计软件的自动生成效果图能力
一家 380 亿美元的数据巨头，要掀起企业「AI 化」革命
百度举办AIGC创作沙龙，现场传授AI绘画“咒语”技巧
2025年深圳举办的SUSECON 创新峰会开始接受报名
首届全国体育人工智能大会在首都体育学院召开
7/8上海 | 2025世界人工智能大会分论坛:科技与人文-共筑无障碍智能社会
赋能选题探索：AI助手在经济学专业中的应用指南
清华&中国气象局大模型登Nature：解决世界级难题，「鬼天气」预报时效首次达3小时
微软大牛加入ZOOM，AI人才大战打响
普渡机器人与变形金刚品牌合作，特别活动爆火，商品售罄！
V社悄悄封禁使用AI生成美术素材的游戏
苹果AIGC专利：可通过语音指令生成AR/VR虚拟场景
郭帆谈ChatGPT：电影行业需要创新，否则人工智能将让电影变得平庸
Hugging Face发布了基于NASA卫星数据构建的AI地理空间基础模型
中国联通发布图文AI大模型，可实现以文生图、视频剪辑
人工智能领域，突破难题：国产大模型“无源之水”问题得到解决。
陈根：AI冥想教练为用户提供个性化指导
ChatGPT大更新！OpenAI奉上程序员大礼包：API新增杀手级能力还降价，新模型、四倍上下文都来了
「社交达人」GPT-4！解读表情、揣测心理全都会
软通动力多项AI创新产品及应用亮相2025世界人工智能大会
五款 AI 网站构建器，任何人都能快速构建网站
优化系统韧性：故障恢复与监控在RabbitMQ中的应用
Snow Kylin登陆中国列车，打造全球首条元宇宙专列
创作音乐/音频的Meta开源AI工具AudioCraft，让用户通过文本提示实现
马斯克回应人工智能拯救世界：人类已处于“半机器人”状态
组建团队，字节跳动要造机器人？
V社回应拒绝上架含 AI 生成内容的游戏：审核政策正在调整中
人工智能在商业中的风险和局限性
360发布AI数字人广场，可同孙悟空、爱因斯坦等古今中外角色对话
英伟达的AI领域垄断地位：一直无法撼动吗？
"探索Meta发布的Quest MR/VR视频录制与拍摄指南"
网友自制 AI 版《流浪地球 3》预告片，登上 CCTV6
探索人工智能和物联网的动态融合
华为云天筹AI求解器荣获世界人工智能大会最高奖
周鸿祎：用超级AI实现室温超导和核聚变，实现能源自由
山东机器人编程：Scratch编程基础，认识舞台！~济南机器人编程
AI 冥想应用 Ogimi.ai 推出，可为用户提供教练级个性化指导
智能机器人正在彻底改变客户服务
找对了风口想不火都难，乐天派机器人，安卓机器人的最终形态？
喜马拉雅在国际会议挑战赛中突破语音重叠难题斩获第一 加速AI创新
最大助力35公斤 外骨骼机器人或在养老、医疗领域“大展身手”
微软推出人工智能模型 CoDi，可互动和生成多模态内容
写出优质文章的妙招：利用"稿见AI助手"的实用指南
2025 WAIC｜美团无人机发布第四代新机型
Unity 内测 Safe Voice 服务，利用 AI 自动识别玩家不当聊天内容
改动一行代码，PyTorch训练三倍提速，这些「高级技术」是关键
此「错」并非真的错：从四篇经典论文入手，理解Transformer架构图「错」在何处
