400 128 6709

行业新闻

百度视频推荐跨域多目标预估与融合的实践和思考

发布时间:2023-12-01点击次数:

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

百度视频推荐跨域多目标预估与融合的实践和思考

一、百度视频背景介绍

1、统一产品形态

百度视频推荐跨域多目标预估与融合的实践和思考

一方面,百度 APP 的所有视频场景已经升级成统一的沉浸式(上下滑)交互形态;另一方面,基于百度统一的大模型,我们打通了所有场景的数据和推荐体验。交互和数据的统一可以更好地实现生态共赢,促进百度视频的长远发展。

为了更好地培养用户对视频的消费习惯,我们还打造了一个视频消费的一级入口(底部导航栏入口)。大家如果有兴趣可以去下载百度 APP,有好的建议和 badcase 随时欢迎反馈给我们。

2、搜+推双引擎满足用户需求

值得一提的是,百度是做搜索起家,搜索的使用率极高,在推荐场景中需要更好地使用搜索的数据,通过”搜+推”双引擎来满足用户的需求。搜索主要是“人找内容”,用户会明确地输入自己的需求,而推荐是“内容找人”。将搜索的信号和推荐的信号进行跨域整合,做到更好的推搜融合,这也是百度的优势之一。

百度视频推荐跨域多目标预估与融合的实践和思考

二、推荐系统概述

1、推荐系统解决的问题

百度视频推荐跨域多目标预估与融合的实践和思考

由于听众中有相当一部分人对推荐技术缺乏了解,因此有必要简单介绍推荐技术要解决的问题。推荐平台有三个玩家:

  • 用户:在这里探索世界、发现新的感知。
  • 创作者:平台推荐的基础,为平台提供内容供给;平台为其提供广阔的空间,激发他们无限的灵感和创作。
  • 广告主:提供平台生存下去的资金支持,大部分平台都是以广告为生。

推荐平台希望实现生产、消费和收入的良性循环,推荐系统作为平台的核心部件,主要解决两方面的问题:

  • 优胜劣汰的内容选择机制(B 端):优质的内容如何获得更多的分发,留住优质的创作者。
  • 极致的用户消费体验(C 端):只有用户诉求得到满足了,才能促进规模上的持续提升。

在设计目标时,我们需要综合考虑推荐系统的两个使命

2、推荐系统概览

百度视频推荐跨域多目标预估与融合的实践和思考

推荐系统的流程大致如下:审核后的资源会先推送到存储 meta 信息的统一正排库;推荐系统收到请求后,先通过图引擎、多目标召回等,召回相关资源;召回之后会经过两轮排序,分别为粗排和精排,再经过多目标的融合模型,选出一些与用户强相关的内容;最后通过多样性感知、序列建模、流量分配机制等策略,生成一个视频列表,下发到用户的手机。

下面的内容将主要关注于精确排列的目标设计和模型的融合

三、多目标的设计和建模

首先,我们要介绍的是多目标设计在视频推荐中的应用

1、目标设计的思考

百度视频推荐跨域多目标预估与融合的实践和思考

先请大家思考一下视频沉浸式的场景下,如何设计推荐系统的目标呢?

在传统的推荐系统中,用户通过点击内容或视频来消费资源,从而明确表达了对该资源的喜好。因此,在传统推荐场景中,点击行为是非常重要的信号,也是一种明确而简单的反馈方式。然而,在沉浸式场景中,由于缺乏明确的反馈,用户的喜好往往通过“隐藏”的行为来表现,此时观看时间成为沉浸式推荐场景中极其重要的信号

百度视频推荐跨域多目标预估与融合的实践和思考

除了上述消费时长以外,还需要考虑用户在系统中主动留下的行为,比如关注、评论、分享、点赞。然而,与播放数据相比,这些行为数据非常稀疏,可能只有千分之一这个量级

除了这些交互信号以外,在百度 APP 的推荐里面还有一部分很重要的数据就是搜索信号,在百度 70% 的用户既会消费推荐信息流,又会用搜索,因此推荐系统也需要刻画用户搜索域的满意度信号。

B端的创作者需要一套竞争机制,以除C端用户满意的消费信号外,筛选出劣质创作者,激发优质创作者的创作潜力,从而实现生产和消费的良性循环

2、目标设计考虑的维度


百度视频推荐跨域多目标预估与融合的实践和思考

从推荐系统角度看,用户就是样本标注员,用户有一些明确的正向表达,比如播放、点赞、收藏、评论等行为;还有一些明确的负向表达,比如 Dislike、负向评论、举报等等。除了明确表达,用户还会有一些隐式的表达,比如通过完播、播放时长、作者页消费、阅读相关推荐等表达出的喜欢,或是通过短播、快速跳出等表达出的不喜欢。因此在设计目标的时候,要全方面地思考,平衡明确的信号和隐式的信号,避免设计出一个“偏科”的推荐系统。

3、综合满意度建模

百度视频推荐跨域多目标预估与融合的实践和思考

除了上述基础目标,我们还会设计一些高阶的目标,不再是简单地使用用户的反馈。举个例子,如上图右侧所示,我们上线了基于用户满意度反馈的模型。第一阶段,通过完播、时长这种稠密的信号,利用简单的规则或者模型去拟合用户的满意反馈,得到一个比较稠密的用户满意度 label。第二阶段,基于这个 label 建一个满意度模型,利用推搜全域大模型产生的 Embedding、文心底层 Embedding,以及用户画像和行为序列特征建模,以评估推荐域相对于搜索域的满意度增益。如果某个兴趣点用户在搜索里消费过了,推荐系统可以基于该满意度模型推荐出更优质的内容,这样就可以使搜推融合更加平滑,将搜索的兴趣更好地迁移到 Feed。

4、长期价值建模(Long Term Value)

百度视频推荐跨域多目标预估与融合的实践和思考

在前文中介绍了如何预估当前内容的播放时长和互动。我们可以利用用户的历史消费行为作为样本或特征,来预测即将推出的内容是正反馈还是负反馈,以及是否会有互动和消费的满意情况

我们可以进一步思考,用户未来的消费内容与当前消费的内容是否有关系?举例来说,如果用户现在正在观看郭德纲的视频,那么如果在接下来的第N天他们继续消费于谦的视频,那么这些于谦的视频是否是由郭德纲的视频“激发”而来的呢?消费未来的兴趣点是否可以被视为当前兴趣点的“延续”呢?答案是肯定的。因此,我们在系统中引入了LTV的体系,将未来长期价值的内容归因于当前视频的推荐

百度视频推荐跨域多目标预估与融合的实践和思考

假设 V是当前视频的价值,V1,V2,… V是用户未来消费的视频,假设 V和 V是满意的消费,并且是 V的一个延续,就可以将其归因到V

归因方式有多种,根据百度 Feed 的业务场景,归因包括以下三大块:

  • 功能的归因:如通过相关推荐看了挂载的资源,那么这部分资源消费信号可以归因到 V上来。
  • 召回关联的归因:如召回阶段是通过 itemCF 等隐式召回的。
  • 相关性关联:如通过多模态 embedding 或者推荐大模型的 embedding 可以衡量资源之间的相关性,比如 Vn 和 V0 有比较高的相关性得分,就可以把 Vn 的价值归因到 V0 上来。

当然这个归因是有权重的,我们通过距离 V的时间间隔,和 V的相关性等因子来调节用户未来消费视频的归因权重,从而得到当前视频 V的长期价值。有了长期价值目标后,学习就比较简单了,首先是目标的归一化,然后直接建模即可。

百度视频推荐跨域多目标预估与融合的实践和思考

基于对业务现状的抽象和梳理,我们在设计推荐系统目标时会从以下三个方向入手进行简单总结

  • 多目标,首先进行基础物理目标建模,接下来是一些高阶目标的建模,刻画全场景的满意度,同时还需要对生态进行调控。
  • 刻画未来的价值。
  • 除了资源维度还可以考虑其他维度,例如作者维度的建模。

要综合考虑各个发展方向,推荐系统的目标需要从多个角度出发

5、百度 Feed 模型技术变革联动体验进化

百度视频推荐跨域多目标预估与融合的实践和思考

百度现在推荐场景的发展已经分为三个主要场景:

  • 「推荐」信息流:已经存在了很多年。
  • 『发现』场景:相比之下,主 Feed 偏信息资讯,『发现』则更轻松活泼,贴近生活。
  • 「沉浸式」场景:纯视频形态的消费流。

百度产品的发展演变,导致了排序目标的逐步改变。最初只有单个领域的主要目标,然后发展为多领域多目标,现在已经实现了全领域的综合建模,将多个领域的样本整合在一起,实现信息的充分共享。下面将介绍全领域综合建模的具体内容

6、跨域多目标建模

百度视频推荐跨域多目标预估与融合的实践和思考

首先,我们来看一下业界都做了哪些工作。无论是MMoE、PLE,还是阿里在做的STAR网络、PEPNet等这些结构,以及谷歌、腾讯等公司,都在不遗余力地根据自己的业务设计各种各样的网络结构,希望在异构场景下共享更多有用的信息。这些工作主要解决了两个问题:

  • 跨域信号的迁移问题,如何在两个不同的域之间更好地迁移,实现跨域信息共享。
  • 多目标之间负迁移的问题,即多目标的跷跷板效应。

同样百度推荐系统也面临这两个问题。

百度视频推荐跨域多目标预估与融合的实践和思考

百度的场景下存在许多不同的子域目标,而这些目标之间的相关性较低,这可能导致多个目标之间发生负迁移。为了解决这个问题,需要分析不同目标之间的 PNR,并找出它们之间的相关性差异。也就是说,在异构场景下如何描述用户信息,以及如何实现异构信息的迁移,这是模型结构需要解决的问题

根据百度的业务需求,我们设计了一种跨域分层多目标网络结构,采用 Gating 结构。这个结构主要分为三层:首先是个性化的共享网络作为底层;第二层是跨域信息提取的 GCG 网络;最后一层是子域的多目标网络。通过这样的设计,我们可以在共享信息的同时,对每个域进行多目标预估

这套方案与单域多目标相比有着显著提升,初次上线 AUC 约提升 3-9 个千分。如上图右下角所示,获取用户特征在多个域的 embedding,做了一个 TSNE 降维后,除了搜 C 和二跳这两个比较接近以外,其它两个场景的区分还是比较明显的,说明模型可以学到场景间的差异。搜 C 和二跳两个场景区别不大也是合理的,都是视频场景,用户的交互和兴趣也都差别不大。

百度视频推荐跨域多目标预估与融合的实践和思考

百度业务场景有 40 多个物理目标,还有 4 个大的子域,6 种形态,包括视频、图文、动态、小程序等。我们希望模型在众多复杂业务中都能有较好的表现。简单介绍一下模型结构。第一层是 common 网络,作为分域的底座,筛选各个场景中多目标的满意样本,通过 gate 网络实现个性化 embedding 映射。第二层是域间信息的提取,将域内独有的特征和个性化共享特征通过 CGC 网络实现。两者共同构建了跨域的信息提取,其好处是既保留了域内的信息丰富度,同时又提取出了异构场景的共享信息。第三层是子域的多目标建模。这块我们还有对应的论文在发表中,对细节感兴趣的朋友可以看论文。

四、多目标融合

百度视频推荐跨域多目标预估与融合的实践和思考

百度的多目标融合演进过程与业界相似。首先是先验知识融合,虽然简单直接,但需要耗费大量人力。接着我们升级到了LTR,效果显著,但弊端是当业务变化时需要频繁调整,同时偏序关系也会随着业务和用户分层的变化而变化。之后,我们采用了多目标融合价值模型,使用序列最优的方法。短期使用后,我们升级到了现在正在使用的方法——ES(Evolution Strategy)进化学习

百度视频推荐跨域多目标预估与融合的实践和思考

要使用ES,首先需要定义一个奖励,即北极星指标。百度的奖励是会话的深度(时长+步长)和互动,时长和步长对应的业务指标是时长和视频播放量,这两个指标反映了用户的留存,即LT。此外,还有互动信息,代表了用户在APP中资产的积累,例如关注作者的行为,实际上是希望在作者有更新后能够找到。不管是提高消费次数还是互动数量,都是希望用户能够更长期地使用这个APP

我们的初始版本是一个简单的启发式模型,而当前线上的 ES 则进行更高级的计算,比如引入不同场景和人群的信息

以上就是百度视频推荐跨域多目标预估与融合的实践和思考的详细内容,更多请关注其它相关文章!


# 景中  # SEO淘宝客好做吗  # 河南公司网站建设网站  # 河南企业抖音seo排名  # 郧西网站推广公司电话  # 寒亭区全域营销推广软件实时价格  # seo网络营销推广要多少钱  # 如何开网站广告推广员  # seo云南营销推广  # 淄博农业机械网站推广公司  # 线上营销推广策略研究  # 推荐系统  # 更好地  # 这两个  # 开源  # 未来  # 时长  # 万元  # 互动  # 多个  # 满意度  # 跨域多目标建模 


相关栏目: 【 行业新闻62819 】 【 科技资讯67470


相关推荐: 联想首发AI PC于今年秋季,英特尔CEO确认AI PC时代来临  微软 Azure AI 文本转语音服务升级:新增男性声音和扩展语言支持  全面拥抱大模型浪潮,ISC 2025打造全球首场AI数字安全峰会  AYANEO AIR 1S 掌机 7 月 9 日发布:R7 7840U + OLED 屏  江永:精准施训提升通信无人机应急救援能力  即将到来:AI婚纱设计软件实际测试,人工智能即将开创婚纱设计新纪元  AI大模型火了!科技巨头纷纷加入,多地政策加码加速落地  破解零碳产业园建设规范和成果评价难题  GPT-4使用混合大模型?研究证明MoE+指令调优确实让大模型性能超群  阿里云全面支持Llama2训练部署,助力企业快速构建自有大型模型  "探索Meta发布的Quest MR/VR视频录制与拍摄指南"  马斯克称未来机器人数量将多于人类,特斯拉愿共享自动驾驶技术  阿里云连续两年进入Gartner云AI开发者“挑战者象限”  第 66 届格莱美奖规定,AI 作品将无法获得评奖资格  世界水下机器人大赛:9国青年携手逐梦深蓝  亲身体验鸿蒙4:AI大模型带来的便利,告别单纯的旁观者状态  人工智能“Aria”现身 Opera浏览器100版本更新:新功能“标签岛”  昇腾AI大模型训推一体化解决方案将在WAIC发布  Yann LeCun团队新研究成果:对自监督学习逆向工程,原来聚类是这样实现的  “一般智力”与工艺学批判是认识AI的重要入口 | 社会科学报  自动驾驶汽车避障、路径规划和控制技术详解  研究表明 GPT-4 模型具备自我纠错能力,有望推动 AI 代码进一步商业化  OpenAI夺冠:人工智能为云计算带来新变革  OpenAI大神Karpathy最新分享:为什么OpenAI内部对AI Agents最感兴趣  陈丹琦ACL学术报告来了!详解大模型「*」数据库7大方向3大挑战,3小时干货满满  Bing 聊天机器人现支持在桌面端用语音提问  ChatGPT只讲这25个笑话!实验上千次有90%重复,网友:幽默是人类最后的尊严  世界人工智能大会机器人同台炫技!梳理A股相关业务营收占比超50%的个股名单  马斯克WAIC2025演讲全文:AI将对人类文明产生深远影响  笔神作文声讨学而思AI大模型 称用“爬虫”技术盗取数据  GPT-4 模型架构泄露:包含 1.8 万亿参数、采用混合专家模型  智能客服进入AI 2.0时代 容联云发布语言大模型“赤兔”  AI立法迫在眉睫,如何看对行业影响?  国内通用人形机器人将发布、产业加速突破  随时随地,追踪每个像素,连遮挡都不怕的「追踪一切」视频算法来了  RoboNeo什么时候上线  英伟达首席执行官黄仁勋:生成式 AI 时代「人类」会是新的编程语言  大语言模型的视觉天赋:GPT也能通过上下文学习解决视觉任务  大疆 Air 3 无人机售价和实物照片曝光  XREAL Beam 投屏盒子正式发布:支持“可悬停 AR 空间屏”  企业软件行业更将被AI全面重构!Moka李国兴:未来优秀组织和个人将一定是善于使用AI生产力的  朝鲜出现国产大型察打一体无人机,实力世界第二,太意外了  马斯克预测:特斯拉全自动驾驶将在今年实现 对AI深度变化感到担忧  将上下文长度扩展到256k,无限上下文版本的LongLLaMA来了?  微软为 AI 初学者推出免费网课:为期 12 周,共 24 节课  卫星通信牵引物联网竞争升维,模组厂商如何决胜百亿市场?  人工智能领域,突破难题:国产大模型“无源之水”问题得到解决。  赋能金融新生态,多家银行创新应用成果亮相世界人工智能大会  昇腾AI & 讯飞星火:深度联手,共话国产大模型“大未来”  京东 AI 大模型官宣 7 月 13 日发布,还有重磅合作 

400 128 6709
E-mail

contact@tlftec.cn

扫一扫,添加微信

©  云南淘乐房科技有限公司 版权所有  滇ICP备2025071560号  

云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司