73
AI资讯

Dapr 的微服务运行时现在支持 AI 代理


早在 2019 年,微软就开源了 Dapr,这是一种新的运行时,可让基于分布式微服务的应用程序的构建变得更加容易。当时,还没有人谈论 AI 代理,但事实证明,Dapr 从一开始就内置了一些支持 AI 代理的基本构建块。这是因为 Dapr 的核心功能之一是虚拟参与者的概念,它可以独立于系统中的所有其他参与者接收和处理消息。


今天,Dapr 团队推出了 Dapr Agents,旨在通过为开发人员提供大量构建模块来帮助他们构建 AI 代理。


Dapr 联合创始人兼维护者 Yaron Schneider 解释道:“代理是 Dapr 的一个非常好的用例。从技术角度来看,你可以使用 Actor 作为一种非常轻量级的方式来运行这些代理,并且能够真正在有状态的情况下大规模运行它们,同时节省资源。这一切都很棒,但是,你仍然需要编写大量业务逻辑。状态性和它的编排只是其中一部分。许多人可能会选择工作流引擎或 Actor 框架,但他们仍然需要做大量工作才能在另一端实际编写代理逻辑。目前有很多代理框架,但它们的编排和状态性水平不如 Dapr。”



Dapr Agents 源自Floki,这是一个流行的开源项目,它扩展了 Dapr 以适应此 AI 代理用例。在与包括微软 AI 研究员 Roberto Rodriguez 在内的项目维护者交谈后,两个团队决定将该项目纳入 Dapr 旗下,以确保新代理框架的连续性。


Dapr 联合创始人兼维护者 Mark Fussell 表示:“在很多方面,我们将代理系统及其相关术语视为‘分布式系统’的另一个术语。[…] 现在,你可以称它们为代理,而不是微服务,主要是因为你可以在它们之间放置大型语言模型。”


该团队认为,要有效地协调这些代理,确实需要一个编排引擎和状态性——这正是 Dapr 所提供的。部分原因是 Dapr 的参与者旨在非常高效,能够在消息传入时在几毫秒内启动(并在工作完成后关闭,同时保留其状态)。


目前,Dapr Agents 可以立即与大多数流行的模型提供商进行通信。其中包括 AWS Bedrock、OpenAI、Anthropic、Mistral 和 Hugging Face。对本地 LLM 的支持将很快到来。


除了与这些模型交互之外,由于 Dapr Agents 扩展了现有的 Dapr 框架,开发人员还可以定义代理可用于完成给定任务的工具列表。


目前,Dapr Agents 支持 Python,.NET 支持即将推出。Java、JavaScript 和 Go 也将很快推出。

79198
文章来源于网络,如有侵权请联系本站删除
二手好课
更多>>
年卡|有意转让
素描漫画
¥1500
次卡|北京【转让中关村柒音音乐课程】
音乐课
¥2000
年卡|南京韵琴邦成人钢琴零基础课程转售
钢琴课
¥2200
次卡|深圳海橙星琴行钢琴课程转让
钢琴课
¥2400
次卡|北京转让青桔音乐的课程!
钢琴课
¥2700
次卡|哈尔滨雅马哈钢琴课程
钢琴课
¥2700
次卡|贵阳雅马哈成人一对流行钢琴课
钢琴课
¥3000
次卡|上海7折出钢琴私教一对一课程
钢琴课
¥3400
年卡|常州音乐课程—吉他、钢琴、架子鼓、小提琴
音乐课
¥3500
年卡|深圳童话音乐课程转让
钢琴课
¥3900