local-ai-research-assistant

LocalAI Research Assistant 是一個本地優先的 AI 研究平臺，可抓取網頁、使用 Ollama 模型執行有依據的研究任務、比較模型效能，並通過 CLI、FastAPI 和 Gradio 介面提供系統。它被描述為一個 AI 工程作品集專案，圍繞實用的本地模型工作流構建：來源攝取、結構化提示、Pydantic 校驗、模型比較、可觀測性，以及基於瀏覽器的演示介面。系統通過相容 OpenAI 的客戶端整合本地 Ollama，並用供應商抽象層實現與模型無關的研究邏輯，支援 llama3.2 和 gemma3。網頁攝取結合了 BeautifulSoup 靜態抓取與針對 JavaScript 渲染頁面的 Playwright 備用方案，生成規範化的 WebDocument 來源模型。研究任務包括結構化摘要、主題、關鍵事實、有依據的問答和研究報告，模型輸出以 JSON 優先並由 Pydantic 校驗，來源依據提示詞則要求模型不得編造事實。平臺還提供對同一份已攝取文件的多模型比較，針對解析、依據性、完整性和延遲的確定性評估檢查，以及通過請求 ID、結構化日誌、本地指標和基準測試執行器實現的本地可觀測性。介面包括 CLI、FastAPI 和 Gradio，配有健康/就緒端點，並有 pytest 和 Ruff 覆蓋常規本地/CI 工作流。