工具概覽
In-House LLM Data Analytics Assistant 是一個本地的、注重隱私的 LLM 分析原型，可把自然語言的業務問題轉化為確定性的資料分析、檢索增強生成（RAG）、語義類別發現、視覺化以及有證據依據的解釋。它使用 Llama 3.1、Ollama、Python、Pandas、ChromaDB、Sentence Transformers、Altair 和 Streamlit 構建。系統把 Llama 3.1 用作自然語言智慧層，同時把權威的分析計算保留在確定性工具中。請求會被路由到對話、分析、語義檢索和類別發現等工作流。對於語義類問題，ChromaDB 檢索相關記錄，並作為受控上下文提供給 Llama 以進行有依據的生成。其核心工程原則是：讓 LLM 負責語言理解、意圖解讀、語義推理和解釋，而由確定性的分析工具執行權威計算。該原型基於一個包含 30,000 條客戶記錄的合成結構化資料集開發和測試，因此無需暴露機密或生產資料即可演示這一概念。架構有意把資料層、確定性計算層和 LLM 智慧層分開。完整的結構化資料集儲存在 Pandas DataFrame 中用於確定性分析，而記錄級內容的另一份向量化表示存放在 ChromaDB 中用於語義檢索。完整的源資料集不會直接傳給 Llama 3.1；模型接收的是與所選工作流相適應的受控上下文。
定價
價格與限制可能變動，請以官網為準，並確認幣別、付款週期、最低席位數和用量上限。
應用場景
- 團隊用該助手提出自然語言分析問題，並獲得確定性的結果，例如客戶總數和唯一客戶數。
- 團隊用該助手執行分組聚合，例如統計每個專案的唯一客戶數。
- 團隊用該助手對實體排名，例如顯示唯一客戶數最多的前 5 個專案。
- 團隊用該助手計算平均值，例如按專案統計客戶的平均年齡。
- 團隊用該助手計算更高層的業務指標，例如完成率。
- 團隊用該助手通過 RAG 按語義檢索記錄，例如查詢與住房穩定相關的客戶記錄。
- 團隊用該助手發現語義相關的類別，例如與尋找就業相關的目標。
- 團隊用該助手查詢與某個概念（例如就業）相關的專案。
功能特色
使用本地大模型輔助資料分析
提供確定性資料分析
支援語義搜尋
發現數據中的類別
自動生成資料視覺化
用自然語言解釋分析結果
使用者評論
還沒有評論，來分享你的使用體驗吧