2024年9月份新推出Emoji角色聊天以后,一直在做一些改进,例如:解析Markdown、流式输出、公开聊天设置、绘图、推荐问题、语音输入等,这些都是借鉴ChatGPT或者其它AI Chatbot的功能,让我们内部技术同事来开发的,下面是同事的年终总结中的内容截图:
这些功能在各种Chatbot中都很常见,但我们自己开发起来还是很费力的,一些细节都要调试很久,后面几个月一直在开发和完善。由此我想到再要做其它AI应用的话,最好能找到更简单的开发平台,低代码或者无代码更好。
我们使用过的一些AI应用平台有:
- OpenAI Plugins、GPTs
- 百度文心一言百宝箱、灵境矩阵、智能体
- Coze商店……等
而我们的AI开发需求:
- 独立于模型厂商的智能体平台
- 可以自由选择LLM API
- 可以放置到网站
- 接入微信等平台
根据这些条件在网上搜索、比较了一阵子,基本确定Dify平台可以满足以上需求,适合做4种AI应用:
- 聊天助手
- 文本生成
- Agent
- 工作流
它的一些简介:
- 定位:开源的大语言模型(LLM) 应用开发平台
- 关键技术栈:对数百个模型的支持、直观的 Prompt 编排界面、高质量的 RAG 引擎、稳健的 Agent 框架、灵活的流程编排,并同时提供了一套易用的界面和 API
- 团队:中国班底全职15人,开源贡献者数百人
- 开始时间:2023年3月
- 部署方式:云服务或本地部署
几种部署和版本:
- 云服务(快速上手)
- 免费版:试用
- 专业版:年付4200元/年
- 团队版:年付11200元/年
- 企业版:深度定制
- 自托管(灵活但有技术难度)
- 社区版:开源免费
- 商业版:商业授权
我们同事在阿里云ECS上搭建了社区版,我怕升级什么的麻烦,为了保持稳定就花钱购买了team版本,让同事们都用起来。后来发现Dify官方的服务器也不太稳定,就在公司内网的PC上也部署了社区版、互联网上的ECS上也搭建了社区版,算是各种版本都用上了。
上一篇博客文章《尝试为我的博客创建一个聊天机器人》中,我就是用Dify搭建的Chatbot,然后还做了几十个应用(后面再介绍)。我们同事看到阿里云平台中的AI客服机器人介绍10分钟就可以搭建,实际试了一下,第一次需要几十分钟,后面熟悉了可以更快,而再用Dify发现所用时间与阿里云平台中搭建AI客服机器人所用的时间也差不多。
我自己感觉选择这个Dify平台来做AI应用开发有点像我很多年前选择MediaWiki或者Drupal来做Web网站、避免需要程序员来跟着开发,这也是一个重要的选择,会跟着Dify使用很多年。而这个Dify目前还是0.几的版本,目前几乎每周都有新版本发布,未来很多年还会不断更新。
评论