local-ai-research-assistant

LocalAI Research Assistant 是一个本地优先的 AI 研究平台，可抓取网页、使用 Ollama 模型执行有依据的研究任务、比较模型性能，并通过 CLI、FastAPI 和 Gradio 界面提供系统。它被描述为一个 AI 工程作品集项目，围绕实用的本地模型工作流构建：来源摄取、结构化提示、Pydantic 校验、模型比较、可观测性，以及基于浏览器的演示界面。系统通过兼容 OpenAI 的客户端集成本地 Ollama，并用供应商抽象层实现与模型无关的研究逻辑，支持 llama3.2 和 gemma3。网页摄取结合了 BeautifulSoup 静态抓取与针对 JavaScript 渲染页面的 Playwright 备用方案，生成规范化的 WebDocument 来源模型。研究任务包括结构化摘要、主题、关键事实、有依据的问答和研究报告，模型输出以 JSON 优先并由 Pydantic 校验，来源依据提示词则要求模型不得编造事实。平台还提供对同一份已摄取文档的多模型比较，针对解析、依据性、完整性和延迟的确定性评估检查，以及通过请求 ID、结构化日志、本地指标和基准测试运行器实现的本地可观测性。界面包括 CLI、FastAPI 和 Gradio，配有健康/就绪端点，并有 pytest 和 Ruff 覆盖常规本地/CI 工作流。