AI教父Bengio：我感到迷失，对AI担忧已成「精神内耗」！

最近，图灵三巨头之一的Yoshua Bengio接受了BBC的采访。

Bengio在访谈中透出了一股浓浓的「忧郁风」，表示他对自己一生所追求的事业感到某种程度上的迷失。

往具体了说，他觉得如果自己能早点认识到AI可能的发展速度，那他可能就会倾向于AI的安全性优先，而非实用性优先。

要知道，Bengio刚刚签署了前几天公布的「AI可能灭绝人类」的公开信。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

迷失的Bengio

公开信的签署立场鲜明地表明了Bengio的态度。

这封只有22个字的公开信，将AI可能灭绝人类的风险和核战争、传染病等社会危机做对比。

在BBC的访谈中，Bengio详细地阐述了自己的观点。

他呼吁，我们应该对AI进行更严格地规范，举例来说，军方就绝对不应该被赋予使用AI的权力。

当然，政治机构也并不是对AI的发展熟视无睹。

欧盟可能就会是最早针对AI进行立法的组织。也是在最近，欧盟表示，AI相关的行为准则可能会在未来几周内创建。

这种担心不无道理。毕竟，AI的高性能可能被使用在对人类有害的目标上，比如开发新型化学武器。

Bengio表示，自己很担心那些「有恶意」的人掌握AI，尤其是在AI发展速度如此之快的情况下。

「可能是军方，可能是恐怖分子，也可能是精神情绪并不稳定的人。总之，如果这些人掌握了AI，让AI执行一些极度危险的事情，那么后果是不可预料的。」

另外，他表示，如果AI继续发展，我们可能无法中断进程中的AI。

接下来，Bengio又聊到了自己。

这些担忧无疑增加了他的内耗，对他的个人生活和工作产生了影响。

从前的Bengio是荣誉傍身的AI大牛（当然现在也是），当时的他，愿意为自己所热爱和擅长的事业奋斗终生。

AI事业曾经给他带来了身份感、认同感和人生方向。但现在，因为这些担忧的存在，这些东西对他来说已经不再清晰。

「对于那些身在AI行业的人来说，这在情感上是具有挑战性的。」

不过，忧郁的背后仍然是积极的态度。

「你可以说我感到迷失。但你必须坚持下去，你必须参与讨论，鼓励别人和你一起思考。」

马斯克也表达过类似的担忧。

虽然他并不认为AI一定会灭绝人类，但他认为AI可能会限制并控制人类。

Bengio认为，所有和AI产品相关的科技巨头公司都需要受管控，登记在册。

「政府需要追踪他们在做什么，他们需要能够审计他们。而这只是我们对其他任何行业（如建造飞机、汽车或制药）所做的最基本的事情。」

「我们还需要引入一种道德训练，而这通常来说都是计算机科学及不会接受到的。」

Huggingface的科学家Sasha Luccioni博士表示，社会应该关注诸如AI偏见，信息的错误传播等问题，她认为这些问题是具体的。

她的理念是，具体的问题应该被我们更多关注。灭绝人类什么的，有点虚，还聊不到。

而实际上，也有许多实例显示了AI为社会带来的诸多好处。

就在上周，凭借AI的力量，一个瘫痪的人只需靠意念控制就能再次尝试行走，这得益于使用AI开发的微芯片。

而在科技影响以外，AI对国家经济产生的深远影响也不能忽视。

很多公司已经开始用AI工具取代人工，这也正是好莱坞剧作家发动罢工的一个重要原因。

毅然离职的Hinton

无独有偶，前一阵子，同为图灵三巨头的Hinton也因为同样的原因上过一次热搜。

当时，各大媒体充斥着这个标题：深度学习泰斗、神经网络之父Geoffrey Hinton突然宣布离职谷歌。

为了能够自由谈论人工智能风险，而不考虑这对谷歌的影响。

在纽约时报的报道中，Hinton直接警示世人：注意，前方有危险，前方有危险，前方有危险！

而这正是他对人工智能风险深深地担忧。Hinton直言：「我对自己的毕生工作，感到非常后悔。」

从人工智能的开创者到末日预言者，Hinton的转变，也标志着科技行业正处于几十年来最重要的一个拐点。

这一点同样让许多业内人士感到不安，他们担心自己所做的研究，正在向外释放某种危险。

因为生成式人工智能可能已经成为产生错误信息的工具。并在未来的某个时候，可能会对人类构成威胁。

在Hinton看来，如何防止坏人利用它做坏事，我们还未能找到方法。

而在Hinton辞职钱，在喧嚣的反对浪潮中，人工智能教父Hinton却并未在限制AI发展的两封公开信上签名。

他表示，自己在辞去工作之前，并不想公开批评谷歌，或其他公司。

忍到上个月，Hinton终于下定决心，通知谷歌自己即将辞职。

选择离职谷歌后，Hinton终于可以畅所欲言地谈论AI的风险了。

我对我的毕生工作，感到十分后悔。

我只能这样安慰自己：即使没有我，也会有别人。

ChatGPT Writer

免费 Chrome 扩展程序，使用 ChatGPT AI 生成电子邮件和消息。

106 查看详情

以上就是AI教父Bengio：我感到迷失，对AI担忧已成「精神内耗」！的详细内容，更多请关注其它相关文章！

# 已成  # seo 标题字符  # 而在  # 我对  # 是在  # 就会  # 而这  # 自己的  # 我感到  # 开源  # 的人  # AI  # 光触媒营销推广大纲  # 衡阳SEO优化推荐  # 晋安区公司推广营销咋样  # 坦洲个性化网站建设  # 丰都seo整站优化公司  # wish厨房龙头关键词排名  # 独自出镜营销推广文案怎么写  # 普洱网站建设企业  # app关键词排名怎么做上去 

相关栏目： 【 行业新闻62819 】 【 科技资讯67470 】

相关推荐： 复旦发布「新闻推荐生态系统模拟器」SimuLine：单机支持万名读者、千名创作者、100+轮次推荐  鸿蒙4即将支持大规模AI模型  爱设计 AI 一键生成 PPT 工具上线：输入标题即可生成 PPT  机器人加速！稀土永磁也被带火，持续性如何？  复盘MWC上海：AI大模型时代到来 通信网络将会怎样改变？  聚焦人工智能大模型、AIGC 徐汇十余场重磅论坛等你来  腾讯自主研发机器狗 Max 升级，可“奔跑跳跃”完成避障动作  建立元宇宙产业联盟：移动、咪咕、华为、小米等加入  “踩油门，也要会踩刹车” 互联网企业高管谈人工智能发展  常见的五个人工智能误解  消息称苹果 iPhone 15 系列健康应用将深度融合 AI 技术  如何获得元宇宙的第一个属于自己的空间  人工智能行业急缺人 AI人才年薪能达近42万元  杀入生成式AI的亚马逊云科技，能否再次生成未来？  华为昇腾AI原生支持30多种基础大模型，包括GPT  海南省公安机关警用无人机培训班结业并举行警航比武演练  将上下文长度扩展到256k，无限上下文版本的LongLLaMA来了？  企业软件行业更将被AI全面重构！Moka李国兴：未来优秀组织和个人将一定是善于使用AI生产力的  南京制造的国产工业机器人：在外资品牌竞争中突围，年销售1.8万台  优傲机器人的人机协作技术 助力中小企发展  小艺主导智慧交互升级，借助AI大模型增强能力  618京东3C数码趋势产品备受青睐 AR设备成交额同比增长15倍  VR健身应用《FitXR》将取消Quest 1端会员服务  北京市通用人工智能产业创新伙伴计划名单公布，京东科技入选“算力伙伴”  美图影像节演讲实录：191次提及AI，发布7款影像生产力工具  Meta发布语音AI模型 Voicebox 助虚拟助手与NPC对话  视觉中国推出付费AI绘图功能：无版权可用  280万条多模态指令-响应对，八种语言通用，首个涵盖视频内容的指令数据集MIMIC-IT来了  大厂出品！这个AI网站太顶了，所有功能免费用  字节、网易相继入局，AI之后大厂又找到下一个风口？  人工智能“Aria”现身 Opera浏览器100版本更新：新功能“标签岛”  深企派遣无人机救援队赴京津冀开展防汛救灾任务  全球首款AI裸眼3D平板 国产的售价破万  AIGC浪潮下，联想集团再加码计算与人工智能  “电碳”技术提升碳排放监测精度  AI立法迫在眉睫，如何看对行业影响？  谷歌推出新 AI 工具 Imagen Editor，一句话对图片二次创作  IBM 与 NASA 携手开源地理空间 AI 模型，促进气候科学研究进步  OpenAI 已全面开放 GPT-3.5 Turbo、DALL-E 及 Whisper API  日入400万，第一批AI骗子已上岗  无人机巡检方案是什么，该如何选择适合的巡检方案  百川智能发布Baichuan-13B AI模型，号称“130亿参数开源可商用”  人工智能的变革之路：通过OpenAI的GPT-4漫游  速途网络成立“人工智能专家委员会”5位中美博士加盟  V社谈AI制作游戏被ban：为确保开发者有素材所有权  昇腾AI & 讯飞星火：深度联手，共话国产大模型“大未来”  ChatGPT设计出的第一个机器人来了！【附人工智能行业预测】  无人机在电力巡检中的应用：全面解析高效巡检流程  电池比 Air 2S 大 20%，大疆 Air 3 无人机现身 FCC  苹果CEO库克：持续研究生成式人工智能技术