DuerOS中的代理机制

青旅半醒 2022-10-05 04:55 316阅读 0赞

代理，在架构设计中是一种常见的机制，在DuerOS 开发平台（DuerOS Bot Platform，DBP）中的设计同样如此。在《[当你问代理机制的时候？指的是Agent,Proxy,Broker还是Delegate呢？][Agent_Proxy_Broker_Delegate]》谈到了4种代理机制，在DBP中使用的是哪些代理机制呢？

## Bot Delegate ##

> Delegate 是委托性或者指派性代理，一般地，管理进程指派给代理方，并在代理方执行管理操作，而不涉及管理方。Delegate 不具备自主移动的能力，需要借助外力，通过指派协议从一个地址空间移动到另一个地址空间。只要需要Delegate 执行任务，它就一直处于执行状态。

在DBP 中，开发者用到的哪个功能使用了Delegate 代理机制呢？

意图测试

开发者在DBP 开发技能的时候，在创建意图之后，可以测试该意图能否被DuerOS争取召回。

![f1e0cd7a04840de65def979569d8d87a.png][]

具体在在DBP的控制台“意图”页面，可以输入query，就可以看到DuerOS 召回的意图结果。这个功能就是通过DBP 的bot delegate 实现的。

在《[一个Bot的自白][Bot]》中我们了解到， DuerOS 通过bot 协议与技能进行通信，而在开发者配置意图的时候可能还没有创建物理bot，那么难道DuerOS用了什么特殊的技巧来召回开发者测试的意图么？实际上，DuerOS 为了保证架构的一致性，仍然采用了bot 协议，只不过通信的对象是Bot Delegate，由 Bot Delegate 代理了开发者的测试请求，扮成了一个bot 的模样与DuerOS进行通信，然后将DuerOS 的召回结果返回给了开发者。

另外，在DuerOS目前的6个对话指令中，Dialog.Delegate指令也采用了委托式代理，将对话指派给DuerOS完成，DuerOS的询问和确认槽位的话术使用的是开发者在技能开放平台默认配置的话术。例如，在查询个人所得税场景中，因为需要填写多个槽位，开发者可以在技能开放平台配置默认的填槽话术，并将整个会话过程代理给DuerOS。DuerOS会自动询问和确认必要的槽位或意图。会话中，每一轮与用户的交互结果都会返回给技能，技能可以根据自身资源决定下一轮是否继续代理过程。

## Bot Proxy ##

> Proxy是一种透传性代理，是为了能有效地访问远程服务或其他代理。这里的“远程”并非一定是地域上的远近, 而是涉及网络拓扑或计算复杂度上的成本。

DuerOS 系统自身有很多的bot，例如闹钟，天气预报，音乐，音视频播放等等，还支持了成千上万第三方bot，即合作伙伴开发的技能服务。为了从架构层面缩小故障域以及安全隔离，Bot Proxy 承担起了 DuerOS 与 第三方Bot 之间的代理职责。

也就是说，用户的请求到达DuerOS系统，DuerOS 系统完成自然语言理解及相关处理后，将请求以结构化数据的形式通过Bot Proxy 发送给开发者的bot。开发者的Bot响应这些请求，也是通过Bot Proxy 返回给DuerOS，并最终返回给终端用户的。

那么，Bot Proxy 如何知道将哪些请求发送给哪些bot呢？开发者在部署技能服务的时候，需要明确物理bot 的主机地址：

![fbc779897274bb90348e34ae15f450f5.png][]

在技能通过审核之后，开发者申请上线，Bot的服务部署地址以及相关属性会注册到 Bot Proxy。当DuerOS 发送用户用户请求的时候，会智能地给出Bot ID，Bot Proxy 根据Bot ID 映射到对应的服务地址，进而建立连接，透传请求。同理， 当技能下线的时候， Bot Proxy 会从bot的注册表中摘除对于的Bot id 及相关属性。

另外，技能服务的健康检查也是通过Bot Proxy 完成的。根据一个周期性的策略，Bot Proxy 会从DuerOS 系统的多个机房，通过 http 的 head 方法，完成对开发者技能服务的探活。很多开发者在提交技能上线，会遇到一个错误提示“请检查部署地址是否支持https 和head 请求”，处于安全性考虑，支持https是很容易理解的，而对head 请求的要求就是处于对Bot Proxy 进行健康检查的需要。

## Bot Broker ##

> Broker 是一种中介性代理。在网络与分布计算中, 两个层次上的对等实体, 若不便彼此直接交往, 则可通过Broker实现通信。这些可以有各种各样的定义和实现, 也表现在不同的层次上。简单一点， Broker提供了分布式服务和资源的透明访问，屏蔽了异构组件之间的差异。

“来而不往非礼也”，如果开发者的技能需要直接访问DuerOS怎么办呢？

先看看有哪些典型的应用场景：

*  请求用户地理位置权限 
 *  请求用户打印机设备服务权限 
 *  请求用户百度账号信息权限 
 *  定时提醒服务

例如，当开发者的技能服务需要获取用户的相关信息的时候，在交互中用户完成授权后，bot会主动发送请求到DuerOS请求相应的用户信息。

那么，这时候Bot 是直接与DuerOS 通信么？当然不是。

出于安全性的考量，DuerOS 引入了Bot Broker。Bot Broker 与Bot 之间进行安全通信，采用了PKI的安全机制， 这就是开发者在开发相关特性是在DBP 的控制台设置鉴权加密的原因。

![41e432b806dd5b6012b83e434e143bcf.png][]

关于与Bot Broker 安全通信的相关内容，可以参考《[放心用吧！浅谈DuerOS的安全性][DuerOS]》。

另一个典型的应用场景是推送服务。DBP开放平台向开发者开放了技能内推送机制，技能内推送意味着开发者能够在用户的会话周期内，调用推送接口向设备端推送相关内容或协议。目前DBP平台提供了两大类的推送，分别为文本和BOT协议。文本又分为纯文本，使用该类型将在设备端底部展示一个通知，同时内容为文本内容；另一种是TTS，设备端将用语音播报相关的TTS；BOT协议提供了更丰富的设备端内容展示的情景。当然， 推送服务也是由DuerOS Broker 来承载的。

## Bot Agent ##

> Agent是分布智能的基础单元。它具有一定程度的独立行为能力与智能,同时又遵从分布系统中某种统一的标准。在分布式环境中，Agent 可以和客户端不在一台主机上。

不论是bot broker 和 bot proxy，还是 bot delegate，都是DBP 平台中的一个子系统。那么， 在DBP 平台中有bot Agent 么？答案是 有的。

在《[DuerOS的零编程技能实现][DuerOS 1]》中谈了小技能，就是通过Bot Agent机制实现的。小技能是DuerOS 平台自动为用户生成的技能，在限定交互场景之后，开发者只需提供内容，即可在小度系列的智能语音设备上播放这些内容。目前小技能功能包括话术类、音频类，图片类和视频类的小技能，播放方式约定为顺序播放，随机播放和播放一个之后关闭。DBP中的小技能bot agent面对的是用户需求固定的资源，并且用户与技能的交互形式相对固定，如仅需要“再来一个”、“跳过”、“下一个”、“上一个”等切换资源内容的话术，bot agent通过类似工厂模式那样更加开发者的输入动态生成bot并关联这些小技能。类似的应用场景很多，如讲个故事，播放音乐，播放视频等。

当然，DuerOS 内部还有很多模块涉及到了代理机制，由于不是开发者直接可见的，就不一一介绍了。

## DuerOS 的近期彩蛋 ##

“懂畅有快”一直是DuerOS 追求的目标，就在上个月，DuerOS 可以更“懂”用户的说话了。DuerOS的开发者们可以在DBP 平台在意图配置页面 勾选“深度模型”，就可以得到更好的用户体验了， 欢迎咱们可爱的开发者们使用，感谢大家为DuerOS用户带来的便捷与快乐！

![7c144b055c1e013bac6bb0f2514d13ab.png][]

【关联阅读】

*  [谢谢...，DuerOS开放平台2020][..._DuerOS_2020]
 *  [AI 语音交互开放平台的构建与演进][AI]
 *  [智能语音应用开发之DPL2.0高级特性][DPL2.0]
 *  [生动化你的表达——DuerOS中SSML应用][DuerOS_SSML]
 *  [从 ][DPL2.0][JavaScript Bot SDK 看DuerOS的技能开发][JavaScript Bot_SDK _DuerOS]
 *  [在校大学生能成为DuerOS 的独立开发者吗？][DuerOS 2]
 *  [面向接口/协议？看DuerOS的技能开发][DuerOS 3]
 *  [揭秘“语音交互”背后的AI硬核黑科技！][AI 1]
 *  [百度AI开发者大会之DuerOS 回顾][AI_DuerOS]
 *  [声如其闻，DuerOS中的声音播放][DuerOS 4]
 *  [从JavaSDK看DuerOS技能开发][JavaSDK_DuerOS]
 *  [放心用吧！谈DuerOS的安全性][DuerOS]
 *  [《智能语音时代》的读书笔记][Link 1]
 *  [调试DuerOS智能语音技能][DuerOS 5]
 *  [DuerOS零编程技能实现][DuerOS 1]
 *  [智能音箱场景下性能优化][Link 2]
 *  [语音交互设计的一点认知][Link 3]
 *  [感知人工智能操作系统][Link 4]
 *  [多模态交互之DPL 2.0][DPL 2.0]
 *  [企业赋能 AI服务生活][AI 2]
 *  [感知自然语言理解][Link 5]
 *  [再看语音交互设计][Link 6]
 *  [聊聊“全双工”][Link 7]
 *  [聊聊“异步”][Link 8]

[Agent_Proxy_Broker_Delegate]: http://mp.weixin.qq.com/s?__biz=MzAwOTcyNzA0OQ%3D%3D&chksm=80d32684b7a4af927bff87df7f6616fe41755e165ac96b210abddb928d9c4b10b4df7507e159&idx=1&mid=2658974626&scene=21&sn=3aa8dca0fb345853d5f4a0a2f5d2289b#wechat_redirect
[f1e0cd7a04840de65def979569d8d87a.png]: /images/20221005/7d9d4d4f01ae40cd8c99cace154a097d.png
[Bot]: http://mp.weixin.qq.com/s?__biz=MzAwOTcyNzA0OQ%3D%3D&chksm=80d35e02b7a4d714c9137738f3d4979580014f1f527c0ff5a345c584512f0e362a8452ea8aeb&idx=1&mid=2658976548&scene=21&sn=4778bbb3f71bcb86e4144787036f982d#wechat_redirect
[fbc779897274bb90348e34ae15f450f5.png]: /images/20221005/a1a87adce9c547d48b184a3ef0a6031c.png
[41e432b806dd5b6012b83e434e143bcf.png]: /images/20221005/adc3e3976ea44442b4dfcee297920e73.png
[DuerOS]: http://mp.weixin.qq.com/s?__biz=MzAwOTcyNzA0OQ%3D%3D&chksm=80d32728b7a4ae3ed2e8e57d42851d219f688bd6cd56565980be255fa8efca04a546e3b8fc79&idx=1&mid=2658974222&scene=21&sn=379b49c8ea3b2f5d9e2d5be24833d142#wechat_redirect
[DuerOS 1]: http://mp.weixin.qq.com/s?__biz=MzAwOTcyNzA0OQ%3D%3D&chksm=80d321e5b7a4a8f3d126ae6ad33dba2fbb91aa9561a3ce3ff44ac866304209b83d584f945f2f&idx=1&mid=2658974915&scene=21&sn=d492f3d8a9f98f70e89c36dd0e5f2980#wechat_redirect
[7c144b055c1e013bac6bb0f2514d13ab.png]: /images/20221005/b886ff235c434cb5b7b9ed8fa7d34215.png
[..._DuerOS_2020]: http://mp.weixin.qq.com/s?__biz=MzAwOTcyNzA0OQ%3D%3D&chksm=80d35f10b7a4d6064f1f466738e022d2596c2a36c53a427f183b5c5e79fdf4fb55237958d55b&idx=1&mid=2658976310&scene=21&sn=faf1f8499b9b96e339ef40cb58676343#wechat_redirect
[AI]: http://mp.weixin.qq.com/s?__biz=MzAwOTcyNzA0OQ%3D%3D&chksm=80d35f28b7a4d63ee4453178e0820139f5a96df7110b21bb28d8fd35521d68e2510fa4076cd1&idx=1&mid=2658976270&scene=21&sn=9428898959142e4448bf63fdc211f66c#wechat_redirect
[DPL2.0]: http://mp.weixin.qq.com/s?__biz=MzAwOTcyNzA0OQ%3D%3D&chksm=80d35c96b7a4d58034e7d0b2f265aee1d43d0c1d09a70e3ba2684bfff7c4fce5ec9d8e2ac55c&idx=1&mid=2658976176&scene=21&sn=c3c2c424a8a41ffc7a46522d31a98c2c#wechat_redirect
[DuerOS_SSML]: http://mp.weixin.qq.com/s?__biz=MzAwOTcyNzA0OQ%3D%3D&chksm=80d32498b7a4ad8ebc70431f608cedf6780c32062f964bfa8199b8bbf3521408c9efd544cc1e&idx=1&mid=2658974142&scene=21&sn=90ea9fb52aaef9f02ba55694c4927067#wechat_redirect
[JavaScript Bot_SDK _DuerOS]: http://mp.weixin.qq.com/s?__biz=MzAwOTcyNzA0OQ%3D%3D&chksm=80d32495b7a4ad834d9a8dddbd862be9e3fdcf18c4104f9777a19589897f409bee5dfe257d0c&idx=1&mid=2658974131&scene=21&sn=a7cc2626ac951cb0b5ebceee79113d4d#wechat_redirect
[DuerOS 2]: http://mp.weixin.qq.com/s?__biz=MzAwOTcyNzA0OQ%3D%3D&chksm=80d324f1b7a4ade796e13d5173aa3cee1e0ac546e8c91cf798312fecfa2ddf9f27792396290f&idx=1&mid=2658974167&scene=21&sn=63058adbf35c8b09d6974f5e7d6324d1#wechat_redirect
[DuerOS 3]: http://mp.weixin.qq.com/s?__biz=MzAwOTcyNzA0OQ%3D%3D&chksm=80d32449b7a4ad5f43da9ce81a684d01795c2a8e40d27807dc036f661a9d7dadd2432e2cffd5&idx=1&mid=2658974063&scene=21&sn=8d15d4d764f6237a359556e6714e7943#wechat_redirect
[AI 1]: http://mp.weixin.qq.com/s?__biz=MzAwOTcyNzA0OQ%3D%3D&chksm=80d321eeb7a4a8f83872e04e04bdc256eee1f67ceebf40a9d3e69f6eaad73a1c53401af2a642&idx=1&mid=2658974920&scene=21&sn=c2925d482a650a68c933066863777f04#wechat_redirect
[AI_DuerOS]: http://mp.weixin.qq.com/s?__biz=MzAwOTcyNzA0OQ%3D%3D&chksm=80d326b5b7a4afa31cd2c32ad9a7155e439bc8a28bb3ca11d9acc5e45c3e5ce254040b367051&idx=1&mid=2658974611&scene=21&sn=73bf961ce56c6144fa58c62de78e49ec#wechat_redirect
[DuerOS 4]: http://mp.weixin.qq.com/s?__biz=MzAwOTcyNzA0OQ%3D%3D&chksm=80d35df2b7a4d4e4248bf13d04826720b490e01fc960ec3b29a86c29a829213cb4bad3184883&idx=1&mid=2658975956&scene=21&sn=6ae2a39e1b0a88e8268510f4ec3ce175#wechat_redirect
[JavaSDK_DuerOS]: http://mp.weixin.qq.com/s?__biz=MzAwOTcyNzA0OQ%3D%3D&chksm=80d324aab7a4adbc33676269f5d63ce03a9ca633bb99c3d6a055e28c435fde993c9cd66cda0f&idx=1&mid=2658974092&scene=21&sn=729894c83d899dda2659c57c1a34e4ea#wechat_redirect
[Link 1]: http://mp.weixin.qq.com/s?__biz=MzAwOTcyNzA0OQ%3D%3D&chksm=80d32681b7a4af974bbf7332408fb2ea02a40eb4ff7fcd702f8a9894ccd4f60e369e82d6a4d8&idx=1&mid=2658974631&scene=21&sn=e792e50a68e2610e5e69775326e9eaf0#wechat_redirect
[DuerOS 5]: http://mp.weixin.qq.com/s?__biz=MzAwOTcyNzA0OQ%3D%3D&chksm=80d32035b7a4a923be6ea38733c8571e9c5ed6174f2fdd33721274c888788eadbe9fc94bc5e1&idx=1&mid=2658974995&scene=21&sn=02d7d87042c769b4d53f9f978a3c6d46#wechat_redirect
[Link 2]: http://mp.weixin.qq.com/s?__biz=MzAwOTcyNzA0OQ%3D%3D&chksm=80d32727b7a4ae31c1f71edd00fb5d8db83ab8194c5cf34b5b25ce16d20202e149003e0a4f12&idx=1&mid=2658974209&scene=21&sn=b1c59331b5923154324c81253099eaa9#wechat_redirect
[Link 3]: http://mp.weixin.qq.com/s?__biz=MzAwOTcyNzA0OQ%3D%3D&chksm=80d325edb7a4acfbfeb9c7cd732a40b70b98f9a9da67be2f6a41e315d0988d68bdcf9a2352f2&idx=1&mid=2658973899&scene=21&sn=c74a61bd9dc6cc87bdec53c41f9d50d9#wechat_redirect
[Link 4]: http://mp.weixin.qq.com/s?__biz=MzAwOTcyNzA0OQ%3D%3D&chksm=80d32472b7a4ad649ca242ff41116d46c95e9a49545d4dbc68470680f9e5684781ecda260ea9&idx=1&mid=2658974036&scene=21&sn=95c6ecf9a6462f06f2ce9dcba453e64b#wechat_redirect
[DPL 2.0]: http://mp.weixin.qq.com/s?__biz=MzAwOTcyNzA0OQ%3D%3D&chksm=80d322c9b7a4abdf954d4d5c74c659942562d1e4707ef0f8b16de37394fa435597eaa8f5398b&idx=1&mid=2658975727&scene=21&sn=77f94ca2015383887fee09c2fcdd213f#wechat_redirect
[AI 2]: http://mp.weixin.qq.com/s?__biz=MzAwOTcyNzA0OQ%3D%3D&chksm=80d3278bb7a4ae9db60feb0eefc92b4298ea4be96dc2d00821c6c3bbf7d6a7889bfc662200c8&idx=1&mid=2658974381&scene=21&sn=33d1abd40a83d5afca056952f0654cb6#wechat_redirect
[Link 5]: http://mp.weixin.qq.com/s?__biz=MzAwOTcyNzA0OQ%3D%3D&chksm=80d32446b7a4ad502d94271f67c96c55371db52df85963367c0b65ec5dbfa77477ff56f30b81&idx=1&mid=2658974048&scene=21&sn=8890276ba789c43d295333f4d926f282#wechat_redirect
[Link 6]: http://mp.weixin.qq.com/s?__biz=MzAwOTcyNzA0OQ%3D%3D&chksm=80d3214bb7a4a85df0bb05c3f45f535e05f51b73a7790aebba81b4ff8c0436a5edccca4b7785&idx=1&mid=2658974829&scene=21&sn=09fe6696ddbee9e199de1e1fd5c1cebd#wechat_redirect
[Link 7]: http://mp.weixin.qq.com/s?__biz=MzAwOTcyNzA0OQ%3D%3D&chksm=80d3228eb7a4ab98b94ffb8d16bd9b62f30e98beeda0c59ed4437e13f0d1405650cc237f80ae&idx=1&mid=2658975656&scene=21&sn=ad997f9a72265ca9319d8d4d7fb4fded#wechat_redirect
[Link 8]: http://mp.weixin.qq.com/s?__biz=MzAwOTcyNzA0OQ%3D%3D&chksm=80d35d4cb7a4d45a84099ee985cdb22b9391865c44c0915965f4450cd3bb778a66923746a559&idx=1&mid=2658975850&scene=21&sn=bc93cad8bd543760255a0c554ea810d7#wechat_redirect