最近两天在 RAG + LLM 场景下，同基准测试了多个开源大模型，包括：

• llama3.1
• llama2-chinese
• qwen2:7b
• qwen2:32b
• codegeex4:9b
• glm4:9b

发现和 OpenAI GPT 3.5 Turbo 相比完全败北。对于 Markdown 而言区别不大，但对于 Excel 和 Word 类带有表格的文档结果反馈来看相差甚远。更不要说 PDF、JPG等图文结合的资料了。不知道是不是姿势不对，有经验的朋友可以分享一下。

问题点：

• 回答结果过于发散，比如：会自己添加一些知识库本身没有的回答。OpenAI GPT 3.5 Turbo 并不会这样。
• 很多时候无法输出正确的应答结果，你说找不到答案，但它又会附上对应知识库文档链接，说明还是有找到一些信息的。
• 对于正确答案中带有的图片信息，无法在聊天框正常输出。

目前测试的结果是这样，更多细节问题需要进一步验证。

最近，由于公司业务需要，木子正在研究 RAG（Retrieval-Augmented Generation）相关的AI和大模型。这是一个全新的领域，涉及多个复杂问题，包括但不限于以下几点：

1. 如何处理原始数据？
   • 涉及数据来源、数据格式、数据类型，以及内容类型混合（例如，一个PDF文件可能包含文本、表格和图片）。
2. 如何合理地切分（chunk）数据块？
   • 不同大小的数据块会影响检索结果的质量。
3. 如何解决数据陈旧问题，并支持数据的实时更新能力？
4. 如何选择合适的 Embedding 模型？
5. 大语言模型的本地部署及维护。
6. 向量数据检索和召回的设计。

如果你是一个运维工程师，建议不要介入太深，因为其中任何一小块，都是一个复杂的学科，将成功劝退你 @-@。

《Rocky Linux 9 从入门到精通007 — DNS管理（CoreDNS 基础篇）》这篇文章其实已经写了很久，但由于工作繁忙，一直未能抽出时间校正内容和修正可能存在的错误，今天终于完成了发布。对于 CoreDNS 的基础使用来说，文章内容应该已经覆盖得较为全面，但对于 host forward zone 等配置，可能需要在进阶篇中进一步探讨。目前进阶篇已经完成，正在校对中。敬请期待！！！

大家有什么意见或建议，请在下方留言交流。