我們2024年9月份新推出Emoji角色聊天以後，一直在做一些改進，例如：解析Markdown、流式輸出、公開聊天設置、繪圖、推薦問題、語音輸入等，這些都是借鑒ChatGPT或者其它AI Chatbot的功能，讓我們内部技術同事來開發的，下面是同事的年終總結中的内容截圖：
這些功能在各種Chatbot中都很常見，但我們自己開發起來還是很費力的，一些細節都要調試很久，後面幾個月一直在開發和完善。
自己編寫程序調用LLM API來進行開發會存在的問題：
- 開發周期長，需要按月來計算
- 重複造輪子，看上去一個簡單工作還是要花很長時間來實現
- 模型調優麻煩，調整參數、流程、測試都手段原始
- 技術新、鍊路長、挑戰大
由此我想到再要做其它AI應用的話，最好能找到更簡單的開發平台，低代碼或者無代碼更好。
我們使用過的一些AI應用平台有：
- OpenAI的Plugins、GPTs
- 百度的文心一言百寶箱、靈境矩陣、智能體
- 字節跳動的Coze商店……等
他們各自有些特定，但對于我們總覺得有些限制，我們的AI開發需求：
- 獨立于模型廠商的智能體平台
- 可以自由選擇LLM API
- 集成好向量數據庫等常用部件
- 應用可以放置到網站
- 可以接入微信等平台
根據這些條件在網上搜索、比較了一陣子，基本确定Dify平台可以滿足以上需求，它适合做4種AI應用：
- 聊天助手
- 文本生成
- Agent
- 工作流
Dify的一些簡介：
- 定位：開源的大語言模型(LLM) 應用開發平台
- 關鍵技術棧：對數百個模型的支持、直觀的 Prompt 編排界面、高質量的 RAG 引擎、穩健的 Agent 框架、靈活的流程編排，并同時提供了一套易用的界面和 API
- 團隊：中國班底全職15人，開源貢獻者數百人
- 開始時間：2023年3月
- 部署方式：雲服務或本地部署
Dify的幾種部署和版本：
- 雲服務（快速上手）
- 免費版：試用
- 專業版：年付4200元/年
- 團隊版：年付11200元/年
- 企業版：深度定制
- 自托管（靈活但有技術難度）
- 社區版：開源免費
- 商業版：商業授權
我們同事在阿裡雲ECS上搭建了社區版，我怕升級什麼的麻煩，為了保持穩定就花錢購買了Team版本，讓同事們都用起來。後來發現Dify官方的服務器也不太穩定，就在公司内網的PC上也部署了社區版、互聯網上的ECS上也搭建了社區版，算是各種版本都用上了。
上一篇博客文章《嘗試為我的博客創建一個聊天機器人》中，我就是用Dify搭建的Chatbot，然後還做了幾十個應用（後面再介紹）。我們同事看到阿裡雲平台中的AI客服機器人介紹10分鐘就可以搭建，實際試了一下，第一次需要幾十分鐘，後面熟悉了可以更快，而再用Dify發現所用時間與阿裡雲平台中搭建AI客服機器人所用的時間也差不多。
我自己感覺選擇這個Dify平台來做AI應用開發有點像我很多年前選擇MediaWiki或者Drupal來做Web網站、避免需要程序員來跟着開發，這也是一個重要的選擇，會跟着Dify使用很多年。而這個Dify目前還是0.15的版本，目前幾乎每周都有新版本發布，未來很多年還會不斷更新。
评论