Flutter Web 实现ChatGPT对话与Function Call

MannaYang / 134 / 2023-09-25 11:29:18

ChatGPT 可用网址,仅供交流学习使用,如对您有所帮助,请收藏并推荐给需要的朋友。
https://ckai.xyz

Flutter-ChatGPT

基于Flutter Web实现ChatGPT多轮聊天、翻译、Prompt文本生成、企业知识库、本地文档问答、functions\_call等功能,页面流式输出采用StreamBuilder Widget实现,各业务模块Repository均提供直连OpenAI接口与python后端API接口流式输出功能实例

Github仓库地址

backend

采用FastApi实现后端LangChain调用OpenAI接口

backend-data
backend-service
  • function_call.py
    提供openai function call相关实例功能
  • model_query.py
    提供python方法调用参数封装模型,涉及文档问答与多轮对话
  • vector_index.py
    提供本地知识库/上传文档向量化相关实例功能
backend-env

提供设置OpenAI参数设置[OPENAI\_API\_KEY]

# openai
openai.log = "debug"
openai.api_key = os.environ["OPENAI_API_KEY"]
backend-main.py

提供FastApi接口功能实例,包括response stream流处理

backend-requirments.txt

依赖组件配置,可通过terminal执行

pip install -r requirments.txt

frontend

采用Flutter实现Web-UI(Material3)功能,具体功能可查看screenshot,已增加页面字符国际化配置

frontend-db

web浏览器IndexedDB数据库操作与模型实例

frontend-pages

业务功能模块,包含以下内容:

  1. 智能对话
  2. 智能翻译
  3. 智能写作
  4. 智能文档
  5. 智能任务
  • 各模块遵循repository-model-provider-view分包方式
  • 各view模块按功能复杂度拆分widgets与states
    具体拆分粒度按实际业务要求处理,尽可能执行局部刷新
  • 通过[go\_router][StatefulShellBranch]实现各页面路由状态管理
  • 通过Riverpod管理Widget UI-States(https://riverpod.dev/)
  • 页面逐字打印采用SteamBuild Widget实现,具体代码如下message\_bot.dart
    ///
    /// 流式请求[request task stream message]
    ///
    Stream<String>? stream(WidgetRef ref, bool mounted) {
      return
          //ref.read(taskStateProvider.notifier).sendMessageStream('', '', () {
          ref.read(taskStateProvider.notifier).sendMessageStreamApi('', '', () {
        if (!mounted) return;
        ref.read(allowInputTaskProvider.notifier).update((state) => false);
      }, () {
        if (!mounted) return;
        ref.read(allowInputTaskProvider.notifier).update((state) => true);
      });
    }

    ///
    /// StreamBuilder
    ///
    class MessageBotStream extends ConsumerWidget {
      const MessageBotStream(this.stream, this.controller, {super.key});

      final Stream<String>? stream;

      //滚动控制
      final ScrollController controller;

      @override
      Widget build(BuildContext context, WidgetRef ref) {
        return StreamBuilder(
          stream: stream,
          key: Key('${Random().nextDouble()}'),
          builder: (BuildContext context, AsyncSnapshot<String> snapshot) {
            if (snapshot.hasError) {
              return Text("${t.app.error}: ${snapshot.error}");
            }
            if (snapshot.hasData) {
              String content = snapshot.data ?? "";
              scrollEnd(controller, 200);
              if (content.isNotEmpty) return Text(content);
            }
            return const MessageLoading();
          },
        );
      }
    }
frontend-assets

提供业务模块使用图标与i18n国际化语言配置,slang国际化内容生成gen

演示效果截图

具体前往查看screenshot,或者本地运行前后端项目(需自行提供OpenAI Key)

AI-Chat-01.png

AI-Translate-01.png

AI-Write-01.png

AI-Document-01.png

AI-Task-01.png

Drawer-Menu-01.png

引用pub flutter库(https://pub.dev/)

Flutter SDK version: 3.13.2 (stable)

Dart SDK version: 3.1.0 (stable)

animated_text_kit: ^4.2.2

flutter_spinkit: ^5.2.0

go_router: ^10.1.2

hooks_riverpod: ^2.3.10

logger: ^2.0.1

shared_preferences: ^2.2.1

sembast_web: ^2.1.3

http: ^1.1.0

file_picker: ^5.5.0

slang: ^3.23.0

slang_flutter: ^3.23.0


Flutter Web 实现ChatGPT对话与Function Call
作者
MannaYang
许可协议
CC BY 4.0
发布于
2023-09-25
修改于
2024-05-28
Bonnie image
尚未登录