17611538698
webmaster@21cto.com

Docker 推出 GenAI 技术堆栈 与 AI 助手

人工智能 0 1129 2023-10-20 12:17:47


近日,Docker 首席技术官在 DockerCon 上宣布推出两种新的人工智能解决方案。

其中一个是帮助开发人员开始创建自己的 AI 应用程序的生成式 AI 堆栈,另一个是旨在帮助开发人员部署和优化 Docker 本身的 Docker AI。

这是第一个针对已经存在的应用产品提供的AI产品,该产品本身经常用于构建流行的人工智能工具,例如Hugging Face和 Replicate。

Docker 首席执行官Scott Johnston表示,许多人将接口作为Docker 容器公开给他们的社区,并要求他们的社区将模型作为Docker 容器镜像提交到他们的服务。

“容器镜像就是所谓的不可变,这意味着它们是可被复制的。当你进行建模、科学研究和科学分析时,无论同事是谁,无论情况如何,你会希望能够重现结果。因此,容器镜像不可变这一事实,确定对此有所帮助。”

他说,Docker 多年来一直与这些上游社区合作,为AI/ML活动与应用程序提供可信的镜像。

“随着人们对这一类别兴趣的增加,过去几年我们看到下载量猛增。我们看到社区下载这些内容,进行自我的调整,然后将它们再次打包为 Docker 容器,并通过 Hub 相互共享。”

这里的 Hub 是 Docker 的Docker 镜像的公共注册服务,目前有超过 500 张人工智能图像通过 Hub 共享。

对社区问题的回答


Docker 社区的开发者询问人们如何开始使用 AI/ML 技术。
Johnston 针对此问题做了以下回答:

“我们从开发者社区听到很多这样的问题,我该如何开始?我可以使用什么技术?这些使用安全吗?

在 DockerCon 周三的主题演讲中,Docker 通过宣布推出GenAI Stack来回答了这个问题。GenAI Stack (通用人工智能技术堆栈)结合了 Docker 以及合作伙伴Neo4jLangChainLlama的技术和工具。它是一个预先配置好的解决方案。Llama 提供大型语言模型,Neo4j 提供矢量和图形数据库,以及 LangChain 提供的人工智能框架。

我们定义了一个 GenAI 堆栈,用于解决生成式 AI 中最常见的用例,将这些技术打包为 Docker 容器,然后将 Docker Compose 放在其中。人们不必再去寻找比特或字节,他们也不必费力将其拼凑在一起,也不必再去费心配置它。它准备的刚刚好,可以立即出发。”

他接着补充说,开发者可以在五分钟内开始工作,查看他们工作的效果,并从那里进行持续迭代。

一个可以成长的产品


周三推出的第二个产品是 Docker AI。这是一个旨在协助使用 Docker 的生成式机器人,它接受了 Docker 的 Compose 文件以及来自 Docker 产品和工具的错误库的训练,但不涉及客户数据。


Copilot和类似的代码完成 AI 可以处理应用程序的 10% 或 15%,但应用程序通常还利用数据库、Web 服务器、前端和基础映像。


他说,剩下的比例是 Docker 发挥的作用,通过提供容器映像和Docker Compose 文件来围绕源代码定义应用程序部分,也就是说 Docker AI 通过解决最后 85-90% 的问题来补充代码完成的人工智能。

“Docker 已经提供容器镜像、Docker 文件和 Compose 文件来围绕源代码定义应用程序的其余部分。这为我们提供了一个绝佳的机会,用人工智能来补充副驾驶和开发人员,解决我们正在讨论的 85% 的问题。”

他补充说,人工智能旨在集成到开发人员工作流程中,帮助人们解决可能导致他们无法正常工作的问题或错误,并且它与Visual Studio CodeJetBrain的Web开发环境集成。

“你可以把它想象成什么呢?它不是人类的替代品,而是人类的机甲套装。我们希望让它们保持流动状态,让它们不断地迭代、构建和发展,而不让它们跳到某个可能不可靠的第三方。”

当前,开发者可以通过Docker 早期访问计划来使用这个 AI 助手。

评论