警惕！AI或致虚假信息泛滥

据科技日报，生成式人工智能（ai）横空出世后，除了可能对部分职业岗位有所波及、对现有的版权制度形成新的挑战外，还能被用于社交媒体上的虚假信息活动，既造成了新的危险，也放大了现有的危险，进而危害经济和社会的稳定。

基于现实情况进行合理预测，AI加持下的虚假信息活动可能主要应用于以下4个方面：

①炮制假新闻。

这里主要针对官媒新闻进行歪曲和篡改，淘汰以往“开局一张图，剩下全靠编”的落后的内容生产方式，改为设定要求——输入部分素材——自动生成图文/视频的全自动化模式。

②.散播谣言。

制*消息快、自动化+批量化传播扩散快，如果再加上由深谙新媒体、社媒调性机制，且深谙传播学或新闻学理论的“专业人士”操刀，便能实现“谎言重复一千遍，就会成为真理”的效果。另外，由于谣言还具有极强的噱头性，天然容易在互联网传播中获得极大的关注度和讨论度，与此截然相反的，却是辟谣不仅要“跑断腿”，还因为“太正”而没人看。

③结合生成式AI与社媒特性，推行“垃圾信息海”战术。

向全网灌注娱乐新闻、八卦信息等“奶头乐”内容，占据用户全部视野，以驱除正经新闻和消息，彻底掌握社媒中流通信息的支配权。通过与娱乐公司展开深度合作，幕后推手能够在完成既定战术目标的同时获得额外的收益。

④利用深度合成技术仿冒账号，搅乱正常社媒秩序。

爬取机关、企业、机构、社会组织、名人/大V/意见领袖等官方账号和个人账号的信息，包括但不限于图文、露脸形象、声音等，凭借这些语料和素材生成虚假内容，既能为事主招黑，还能挑起事端、搅乱风波、以假乱真。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

ChatGPT Writer

免费 Chrome 扩展程序，使用 ChatGPT AI 生成电子邮件和消息。

106 查看详情

更关键的是，为牟利也好，为达成其别有用心的目的也罢，虚假信息的制造者和传播者的行为本就非法，自然会无视法律法规、平台规定等束缚，于是便产生了3大难点——审核难、监管难、处罚难。

①审核难。

目前各平台对生成式AI内容的要求，主要可以概括为“上传者自律”，也就是该用户主动做出醒目标识，向受众明示其内容为AI制作，如此规定“防君子不防小人”。正常用户当然依规行事，不法用户则完全可以不标、缓标、少标。

②监管难。

在AI应用于内容生成领域之前，众所周知网上假新闻已经像野草一样层出不穷，难以根除。对此，传统的治理方式为大数据筛查+受理举报相结合，并重点打击违规账号、重点标记其关联账号，这是堂堂正正的处置之道，无可指摘。可问题就在于不法用户引入AI后，如果将之前的状态看成零星的、点状的野火，那此后需要处理和整治的虚假信息，将变成片的大火，治理所耗费的人力、物力、难度呈指数级上升。

③处罚难。

最终，惩罚存在两个问题，一是配套法律法规不够完备，二是由于隐秘性而难以抓取的问题。不过，不久前关于反网暴的适用法律条文已面向社会收集意见，相信很快就能具体落地。预计随着AI生成虚假信息治理工作的推进，相关的法治建设也会紧随其后。

阿知曾多次在关于生成式AI的问题中提及，AI与以往历史上出现的新技术没有本质不同，无关对错和善恶，关键是要看谁来用、怎么用。其作为互联网行业新引擎、金融市场中的新蓄水池作用当然毋庸置疑，但一味地、片面地强调其技术优越性多为投机主义者所为，图利而已。我们必须客观全面地看待生成式AI这项革新性技术，并采取预防措施，以避免其滥用所带来的风险。

以上就是警惕！AI或致虚假信息泛滥的详细内容，更多请关注其它相关文章！

# 假新闻  # 游戏试玩网站推广  # 泰州互联网营销推广培训  # 邢台淘宝网站推广简介  # 餐饮小区营销推广文案范文  # 眉山广场推广招聘网站  # 六心网络seo  # 郑州网站整站优化有哪些  # seo锚  # 大型seo  # 湖南关键词排名渠道  # 就会  # AI  # 这是  # 的是  # 上海  # 应用于  # 谁能  # 还能  # 互联网  # 开源  # 警惕  # 虚假信息 

相关栏目： 【 行业新闻62819 】 【 科技资讯67470 】

相关推荐： AI取代人工先拿教育行业开刀？美版“作业帮”启动裁员  微幼科技推出全自动晨检机器人，助力幼儿园校园健康检测  国内首家，360智脑通过中国信通院可信AIGC大语言模型功能评估  金山办公：AI是重要的产品战略之一  微软 GitHub Copilot 编程助手被投诉：换口吻改写公共代码来躲版权  山东机器人编程：Scratch编程基础，认识舞台！~济南机器人编程  英伟达H100霸榜权威AI性能测试 11分钟搞定基于GPT-3的大模型训练  昇腾AI & 讯飞星火：深度联手，共话国产大模型“大未来”  图灵奖得主Hinton：我已经老了，如何控制比人类更聪明的AI交给你们了  码刻 | 48小时Hackathon，源码见证新生代AI创新的发生  人工智能产业协同创新中心：全产业链资源在这里汇聚  智能电网技术：提高能源效率和可靠性  Xreal AR 眼镜用投屏盒子 Beam 发布：分体式设计，到手 699 元  参议院司法听证会：AI 不易管控，有可能被恶意分子利用来研发生化武器  Meta Connect 2025已确定时间为9月27-28，主题涵盖Quest 3与AI技术  两小时就能超过人类！DeepMind最新AI速通26款雅达利游戏  静安大宁功能区企业云天励飞亮相2025世界人工智能大会，秀出AI硬实力！  江永：精准施训提升通信无人机应急救援能力  OpenAI 已全面开放 GPT-3.5 Turbo、DALL-E 及 Whisper API  “风乌”气象大模型科学家团队：用AI预报极端天气未来不是梦！  【趋势周报】全球元宇宙产业发展趋势：ChatGPT的出现，将元宇宙实现至少提前了10年  从GOXR到PartyOn，XRSPACE致力打造多元共赢的元宇宙世界  25个AI智能体源码现已公开，灵感来自斯坦福的「虚拟小镇」和《西部世界》  懒人必备的家居清洁好物，石头自清洁扫拖机器人G20  2025VR&AR显示技术峰会展示歌尔光学最新一代光学模组  小红书陷入麻烦！被指控未经许可使用用户图片进行AI训练  Gartner发布中国企业人工智能趋势浪潮3.0  人工智能和你聊天 成本有多高  人工智能：解决劳动力短缺的关键策略  ​日媒：AI高效解析纳斯卡地画  人工智能如何与智能家居集成  苹果在韩举办首届中小企业智能制造论坛，加速推动工业4.0发展  500元一张的AI艺术二维码制作，详细教程来了！  6月14日《星空下的对话》 张朝阳陆川将畅聊人生、电影、心理学与AI  专家解读国家网信办深度合成服务算法备案信息公告：不等于百度、阿里、腾讯等生成式AI产品获批  十个AI算法常用库J*a版  自研4D激光雷达L1 + GPT大语言模型 宇树Unitree Go2四足机器人有啥黑科技？  煤电“三改联动”需多措联动  构建AI绘画网站的方法：使用API接口和调用步骤  软银、淡马锡、沙特阿美突击入股，“协作机器人第一股”节卡股份：强敌环伺，持续失血是常态  “直击”AI新世界，智能机器人再次“火出圈”了  全国体育人工智能大会举办，专家聚焦体育人工智能领域人才培养  人工智能加速走进百姓生活：从2025全球人工智能技术大会看行业新趋势  MiracleVision视觉大模型  字节、网易相继入局，AI之后大厂又找到下一个风口？  调查：过半数艺术家认为 AI 作图无法帮助他们的工作  微软向美国政府提供GPT大模型，如何保证安全性？  OpenAI首席执行官引用《道德经》 呼吁就AI安全问题合作  DreamAvatar数字人使用教程  “上海市民营企业人工智能赋能创新中心”揭牌成立