Anvit 是一款 Android 应用,让用户使用完全在设备上运行的 AI 模型与 PDF 和 Word 文档对话。据官网介绍,它“阅读、推理并回答关于你文件的问题,而不会向云端发送哪怕一个字节”。模型下载一次之后,无需网络连接,应用在飞行模式下也能工作。 回答通过一条被描述为“规划 → 分解 → 搜索 → 过滤 → 回答”的智能体式检索流水线生成。官网称,复杂问题会被拆分为子查询,经多轮检索并加以完善后再显示最终答案,使用稠密语义搜索加 BM25 关键词搜索的混合方式,并在检索质量较低时进行纠正性重新查询。每个回答都会引用其依据的文档和段落,并且 Think Mode 会显示模型的思维链。 文档被组织为具名的集合,并在本地建立索引。添加文档时,Anvit 会解析其标题、章节、表格和列表,然后“将其拆分为每块最多 8,000 个 token 的、感知章节的分块”。语言模型是 Google 的 Gemma 4,提供 E2B(1.3 GB)和 E4B(2.5 GB)两种变体,通过 LiteRT-LM 在 CPU 或 GPU 上于设备端运行,嵌入由 EmbeddingGemma(300M)或 Gecko(110M)提供。该应用使用 Kotlin、Jetpack Compose 和 Material 3 构建,官网称没有账号、分析或遥测。

用户在将文件保留在自己设备上的同时,针对 PDF 和 Word 文档提问。
研究人员把文档分组到 Research、Work 或 Study 等具名资料库中,并将每次聊天限定在某个资料库或全部资料库内。
用户可在飞行模式下继续工作,因为模型下载后不需要网络连接。
用户让较长的摄取和推理任务在后台运行,同时切换应用或锁屏。
用户通过打开任何回答背后的来源段落来验证某个论断。
用户通过切换 Think Mode 来跟踪模型逐步的推理过程。