3.2、聊天流程级别
假设您已经构建了一个聊天流程,并且只希望特定的人能够访问和交互。您可以通过为该特定聊天流程分配API密钥来实现。
3.3、API密钥
在仪表板中,导航到API密钥部分,您应该能够看到创建了一个DefaultKey。您也可以添加或删除任何密钥。
3.4、聊天流程
导航至 Chatflow,现在您可以选择要使用的 API 密钥来保护 Chatflow。
分配 API 密钥后,在进行 HTTP 调用时,只有提供了正确的 API 密钥所指定的 Authorization 头部,才可以访问 Chatflow API。
"Authorization": "Bearer <your-api-key>"
以下是使用 POSTMAN 调用 API 的示例:
3.5、设置用户名和密码
3.5.1、NPM
1、安装Flowise
npm install -g flowise
2、用用户名和密码启动Flowise
npx flowise start --FLOWISE_USERNAME=user --FLOWISE_PASSWORD=1234
3、打开http://localhost:3000
3.5.2、Docker
1、进入docker文件夹
cd docker
2、创建.env文件并指定端口,FLOWISEUSERNAME和FLOWISEPASSWORD
PORT=3000
FLOWISE_USERNAME=user
FLOWISE_PASSWORD=1234
3、将FLOWISEUSERNAME和FLOWISEPASSWORD传递给docker-compose.yml文件:
environment:
- PORT=${PORT}
- FLOWISE_USERNAME=${FLOWISE_USERNAME}
- FLOWISE_PASSWORD=${FLOWISE_PASSWORD}
4、docker-compose up -d
5、打开 http://localhost:3000
6、您可以通过docker-compose stop将容器关闭
3.5.3、Git克隆(本地)
要启用应用程序级身份验证,请将FLOWISEUSERNAME和FLOWISEPASSWORD添加到packages / server中的.env文件中:
FLOWISE_USERNAME=user
FLOWISE_PASSWORD=1234
四、应用集成
现在你已经在Flowise的聊天界面上测试了你的聊天流程,你想要“导出”它以便在其他应用程序中使用。Flowise提供了两种方法来实现这一点:
- API
- Embed
4.1、API
你可以将聊天流程作为API使用,并连接到前端应用程序。
4.2、Embed
您也可以在您的网站上嵌入一个聊天小工具。
只需将所提供的嵌入代码复制粘贴到您html文件的标签的任何地方。
五、向量数据库
5.1、Pinecone
5.1.1、先决条件
1、注册一个帐户
2、单击“创建第一个索引”
3、输入必填字段
索引名称,要创建的索引的名称。 (例如:elon-musk)
维度,要插入索引中的向量的大小。 (例如:1536)
4、单击“创建索引”
5.1.2、设置
1、获取/创建您的API密钥
2、将每个详细信息(API密钥、环境、索引名称)复制并粘贴到Pinecone Upsert Document节点或Pinecone Load Existing Index节点中
3、文档可以与类别下的任何节点连接 嵌入可以与类别下的任何节点连接
4、嵌入可以与类别下的任何节点连接
5.2、Supabase
5.2.1、先决条件
1、为Supabase注册一个帐户
2、点击“新建项目”
3、输入必填字段
名称,要创建的项目名称(例如Flowise)。
数据库密码,用于您的postgres数据库的密码。(例如,单击“生成密码”)
4、点击“创建新项目”,等待项目完成设置
5、单击SQL编辑器
6、单击“新查询”
7、复制并粘贴查询,通过Ctrl + Enter运行它或单击RUN
表名:documents
查询名称:match_documents
-- Enable the pgvector extension to work with embedding vectors
create extension vector;
-- Create a table to store your documents
create table documents (
id bigserial primary key,
content text, -- corresponds to Document.pageContent
metadata jsonb, -- corresponds to Document.metadata
embedding vector(1536) -- 1536 works for OpenAI embeddings, change if needed
);
-- Create a function to search for documents
create function match_documents (
query_embedding vector(1536),
match_count int DEFAULT null,
filter jsonb DEFAULT '{}'
) returns table (
id bigint,
content text,
metadata jsonb,
similarity float
)
language plpgsql
as $$
#variable_conflict use_column
begin
return query
select
id,
content,
metadata,
1 - (documents.embedding <=> query_embedding) as similarity
from documents
where metadata @> filter
order by documents.embedding <=> query_embedding
limit match_count;
end;
$$;sql
5.2.2、设置
1、点击项目设置
2、获取您的项目网址和API密钥
3、将每个细节(API密钥、网址、表名、查询名称)复制并粘贴到Supabase Upsert文档节点或Supabase加载现有节点中
4、文档可以连接到文档加载器类别下的任何节点
5、嵌入可以连接到嵌入类别下的任何节点
5.3、Chroma
5.3.1、先决条件
1、下载并安装Docker和Git
2、使用终端克隆Chroma的存储库
git clone https://github.com/chroma-core/chroma.git
3、更改目录路径到您克隆的Chroma
cd chroma
4、运行docker compose来构建Chroma镜像和容器
docker-compose up -d --build
5.3.2、设置
1、将收集名称输入到Chroma Upsert Document节点或Chroma Load Existing Index节点中(例如elon-musk)。
2、文档可以与“文档加载器”类别下的任何节点连接。
3、嵌入可以与“嵌入”类别下的任何节点连接。
六、构建LLM Apps
LLM应用程序构建生态系统中出现了许多构建块,包括提示工程、代理、链式、语义搜索、聊天模型、向量存储和各种可以分配给代理以执行操作的工具。
这些新方法使得构建灵活的对话界面变得更加容易。使用基于LLM的聊天流,对话设计和构建过程不再需要过度细致,不必处理太多的例外情况、闲聊(小聊天)或修复路径等细节问题,因为这些问题可以转移到LLM的弹性上。
需要注意的是,尽管Flowise免费使用,但也需要考虑托管成本和所有第三方API调用所产生成本。这些成本可能会随着用户数量增加而迅速上升,并且取决于这些系统被利用的程度。
另一个需要考虑的因素是延迟,以及需要访问地理上分散的系统等等。
Flowise确实是一个非常直观的LLM应用程序开发框架。尽管我在使用Flowise进行原型制作的早期阶段,但我确实感受到Flowise比LangFlow更加全面完整的开发UI。
6.1、聊天面板
下面您可以看到仪表板,其中包括API密钥、市场和聊天流程。请注意,列出了构成聊天流程的开发组件。
6.2、应用市场
Flowise还提供了一个应用市场,其中包含相当数量的预配置应用程序,可以帮助用户快速构建可工作的原型。这些预配置应用程序可以缩短开发时间,使用户能够更快地获得所需的结果。
6.3、天气机器人
下面的应用程序是一个基本的天气机器人,可能是可以编写的最简单的LLM链,只有三个组件:OpenAI连接器、提示模板和将两者连接起来的LLM链。
6.4、翻译机器人
下面的应用程序展示了一个基本的翻译机器人,它还说明了提示词如何被格式化。
6.5、综合机器人
下面是一个综合知识对话机器人,它利用了OpenAI、Serp API和具有对话记忆功能。
七、ChatPDF APP
我们前面有介绍过很多种实现文档聊天的方案,比如Quivr结合Supabase、PrivateGPT、ChatGLM 6B等多种不同的解决方案,基本上都涉及到不同程度的应用开发,今天我们来使用Flowise无代码快速构建一个PDF文档聊天机器人。不写一句代码,直接拖拉拽的方式即可实现类似的效果。
根据上述文档问答的流程架构图,我们在Flowise中将上述流程配置出来,如下图所示:
只需要配置好OpenAI key、设置Chunk Size、Chunk Overlap即可进行使用。
八、总结
Flowise和LangChain是两个基于LLM(大型语言模型)的应用构建工具。本文主要介绍了如何利用Flowise和LangChain快速构建LLM应用。
通过结合Flowise和LangChain,开发者可以快速构建基于LLM的自然语言处理应用,实现文本分析、问答、文本生成等功能。Flowise提供了易用的界面和丰富的API接口,帮助开发者快速将自然语言处理任务集成到应用中。LangChain提供了多语言支持和统一的平台,帮助开发者在多个语言和领域中实现自然语言处理应用。结合Flowise和LangChain,开发者可以更加高效地构建基于LLM的自然语言处理应用,为用户提供更加智能和便捷的服务。