LangFlow UI:简化大型语言模型应用开发

随着大型语言模型(LLMs)的不断发展,开发者们正致力于利用这些模型创造新的产品解决方案。几乎每天都有新的大型语言模型或现有模型的新版本问世。跟上这些新版本或新模型的步伐可能是个问题,因为需要阅读每个大型语言模型的文档。LangChain,一个围绕各种不同的LLMs构建的库,使得这一过程变得更加简单。此外,基于LangChain的UI——LangFlow,被引入以直接工作和创建应用程序,使得事情变得更加美好。

学习目标

理解LangFlow UI,安装并使用LangFlow,学习LangFlow的内部工作原理,使用LangFlow创建应用程序,分享通过LangFlow制作的应用程序。

目录

  • 引言
  • 什么是LangFlow以及为什么需要LangFlow?
  • 开始使用LangFlow
  • 理解LangFlow UI
  • 使用LangFlow构建简单的聊天应用
  • 结论
  • 常见问题解答

什么是LangFlow以及为什么需要LangFlow?

LangFlow是一个基于Python包LangChain设计的图形用户界面,使用react-flow构建。LangChain是一个Python包,用于创建与大型语言模型一起工作的应用程序。它包括不同的组件,如代理、LLMs、链、内存和提示。开发者将这些模块链式连接起来创建应用程序。LangChain包含了几乎所有流行的大型语言模型的包装器。现在,要使用LangChain,必须编写代码来创建应用程序。编写代码有时可能耗时且容易出错。

这就是LangFlow发挥作用的地方。它是一个基于LangChain的图形用户界面。它包含了LangChain中的所有组件。LangFlow提供了拖放功能,可以将组件拖放到屏幕上并开始构建基于大型语言模型的应用程序。它甚至包含了丰富的示例供大家开始使用。在本文中,将深入了解这个UI,看看如何使用它构建应用程序。

开始使用LangFlow

现在,已经了解了LangFlow是什么以及它如何适应,让深入研究它以更好地理解其功能。LangFlow UI适用于JavaScript和Python。可以选择其中一个开始使用。对于Python版本,需要在系统中安装Python和LangChain库。

如果想要使用LangFlow,需要以下包:

pip install langchain pip install langflow

以上将安装Langflow包和LangChain包。现在要启动UI,使用以下命令:

python -m langflow

(或)

langflow

现在LangFlowUI正在运行。它在本地主机上的端口号7860上运行。这样就可以安装并开始使用LangFlow。

LangFlow的制造商,即LogSpace AI,已直接在HuggingFace网站上部署了LangFlow。可以点击访问HuggingFace网站或搜索Google。它看起来像下面这样,然后点击“新建项目”。

当点击“创建新项目”时,LangFlow UI将出现。

在这里,白色空间是通过拖放组件来创建应用程序的地方。组件位于左侧(代理、链、加载器等)。所以当点击组件时,会呈现不同类型的组件,将从中选择一个并将其拖到白色空间。在白色空间中,将组合不同的组件以构成整个应用程序。

理解LangFlow UI

在本节中,将简要了解LangFlow的UI,它包含的元素以及UI的工作原理,以更好地理解如何快速使用LangFlow构建大型语言应用程序。

在上面的图片中,看到了LangFlow UI的右上角部分。图标的含义可以理解。第二个图标代表导出选项。因此,当通过LangFlow构建应用程序并现在想要将其下载到本地计算机时,可以通过将应用程序配置转换为JSON文件来实现。点击导出选项将允许下载包含应用程序信息的JSON文件。现在如果朋友想要构建相同的应用程序,他只需点击第一个选项,即导入,然后将JSON文件传递给它。

第三个选项将应用程序转换为Python代码,然后可以直接在本地系统中使用它,而不是每次想要使用该应用程序时都去LangFlow网站。

LangChain为许多大型语言模型提供了包装器。每个大型语言模型都有自己的API来工作。所以当尝试在LangFlow中使用LLM时,它为提供了添加API密钥的选项,如上所示。除此之外,甚至还有选择想要工作的大语言模型类型的选项。

使用LangFlow构建简单的聊天应用

在本节中,将创建一个简单的聊天机器人应用程序,使用LangFlow UI。这个应用程序涉及使用OpenAI大型语言模型,因此需要一个Open API密钥才能使用这个应用程序。将创建的应用程序将有三个元素:大型语言模型、提示模板和连接它们的LLM链。让首先将LangChain的OpenAI包装器拖放到UI的虚线部分。

OpenAI大型语言模型包装器可以在LangFlow的LLM部分找到。可以将其拖到白色部分。在这里,现在选择想要工作的模型类型。现在,将其设置为Davinci模式。温度,即模型应该有多有创意,设置为0.7,最大令牌数设置为256。在“Open API密钥”字段中,需要提供Open API密钥,下面的字段可以留空。

从图片中,可以看到已经将提示模板拖到了白色部分。在这里,正在开发的应用程序是一个简单的机器人,以有趣的方式回复,所以需要相应地编写提示模板。

提示模板:

是一个AI机器人,以有趣的方式回应人类给出的每个查询。

人类:{查询}

AI:

现在来到最后一个元素,即链元素。LLM链是将OpenAI大型语言模型和提示模板连接在一起的元素。可以看到LLM链可以在UI左侧的链部分找到。最后,是时候将所有东西连接在一起了。

如上图所示,将提示模板连接到LLMChain的提示,并连接OpenAI端到LLMChain的LLM端。

现在是测试应用程序的时候了。要运行应用程序,点击UI右下角的闪电图标。如果OpenAI密钥有效,那么在每个元素的顶部,靠近元素名称的地方,将显示一个绿点(最初是黄色),然后将看到一个蓝色的聊天图标在闪电图标下方。点击蓝色聊天图标。

点击后,将为打开一个聊天窗口。现在可以与在UI中给出的大型语言模型聊天。让尝试问机器人“好吗?”,对于这个问题,机器人需要以有趣的方式给出回应。

可以看到,机器人确实以有趣的方式回应了提示模板。通过将其导出为JSON,可以与任何人分享。这只是可以使用LangFlow和LangChain实现的一个示例用例。

使用Langchain为PDF构建ChatGPT

LangFlow UI建立在Python的LangChain框架之上,这是一个广泛使用的包,用于创建与大型语言模型一起工作的应用程序。已经看到了UI中的组件,并看到了如何使用UI构建模型,并通过将其导出为JSON文件与他人分享。有了这个UI,创建高端应用程序的可能性是无限的。

  • LangFlow提供了一个简单的拖放功能,用于构建LLMs的应用程序
  • LangFlow UI在Python和JavaScript中都可用
  • 此UI允许用户将应用程序转换为JSON文件,使其易于共享
  • LangFlow甚至附带了一个Python包,用户可以通过提供JSON文件的路径,在LangFlow中安装并运行构建的应用程序
  • LangFlow使得非开发者更容易使用大型语言模型构建应用程序

Q1. 什么是LangChain

A.LangChain是一个Python包,用于构建与大型语言模型一起工作的应用程序。它包含一组链式连接的组件,用于创建这些应用程序。

沪ICP备2024098111号-1
上海秋旦网络科技中心:上海市奉贤区金大公路8218号1幢 联系电话:17898875485