一个Llama 2的WebUI，类似于Stable Diffusion的webui，设计简陋，但功能还可以，不仅有聊天，还有虚拟角色的功能，并且可以运行在Google Colabs上。
一个gradio web UI，用于运行大型语言模型，如LLaMA，llama.cpp，GPT-J，Pythia，OPT和GALACTICA。
特征
- 3 种界面模式：默认、笔记本和聊天
- 多模型后端：tranformers，llama.cpp，AutoGPTQ，GPTQ-for-LLaMa，ExLlama，RWKV，FlexGen
- 下拉菜单可在不同型号之间快速切换
- LoRA： 即时加载和卸载 LoRA， 同时加载多个 LoRA， 训练新的 LoRA
- 聊天模式的精确说明模板，包括羊驼，骆马，开放助手，多莉，考拉，ChatGLM，MOSS，RWKV-Raven，Galactica，StableLM，WizardLM，Baize，Ziya，Chinese-Vicuna，MPT，INCITE，Wizard Mega，KoAlpaca，Vigogne，Bactrian，h2o和OpenBuddy
- 多式联运管道，包括LLaVA和MiniGPT-4
- 通过比特沙字节进行 8 位和 4 位推理
- 变压器型号的 CPU 模式
- 深速ZeRO-3推理
- 扩展
- 自定义聊天字符
- 非常高效的文本流
- 带有LaTeX渲染的降价输出，例如与GALACTICA一起使用
- GPT-4chan 的漂亮 HTML 输出
- API，包括用于 websocket 流式处理的端点
数据统计
数据评估
关于Text generation web UI特别声明
本站TKTOC运营导航提供的Text generation web UI都来源于网络，不保证外部链接的准确性和完整性，同时，对于该外部链接的指向，不由TKTOC运营导航实际控制，在2023年7月29日 上午10:35收录时，该网页上的内容，都属于合规合法，后期网页的内容如出现违规，可以直接联系网站管理员进行删除，TKTOC运营导航不承担任何责任。
相关导航
TikTok运营导航是TKTOC为跨境卖家提供的专业TikTok一站式的运营必备工具箱，面向TikTok运营者以及跨境出海卖家，提供TikTok运营、学习教程、工具、直播、变现、数据分析、广告投放、社媒营销等一站式的TikTok运营必备工具，让跨境出海更简单、更便捷！
