木子已经使用 RouterOS 多年。然而，RouterOS 的 WinBox 一直没有 macOS 版本，木子只能通过 WebUI 或者 winbox-mac 来管理设备。但由于 winbox-mac 是基于 Wine 实现的，经常出现内存溢出的情况，这给木子带来了极大的困扰。今天，木子突然发现 MikroTik 官网发布了 WinBox 4.0-beta3 for macOS。于是立马下载并测试，结果非常满意，运行流畅。木子再也不用依赖 WebUI 和 winbox-mac，多年的困扰终于得到了解决。

下载链接： MikroTik Routers and Wireless – Software

分享两张图：

自 2023 年 OpenAI 推出以来，人工智能领域迎来了爆发性增长。经过一年多的周期性优化和完善，大模型及其相关产品已经日趋成熟。木子认为现在是时候撰写一些关于大模型应用的文章了。在接下来的系列文章中，我们将基于 Rocky Linux 9 进行部署。文章内容包括：

系统配置

• Rocky Linux 物理服务器上的 NVIDIA 显卡驱动安装与配置
• CUDA Toolkit 的安装与配置
• cuDNN 的安装与配置
• NVIDIA Container Toolkit 的安装与配置
• Docker GPU 调度配置

生产力工具

• Ollama
• ComfyUI
• Open-WebUI
• LiteLLM
• RAGFlow
• STT

本地大模型构建

• llama 3.1
• llama2-chinese
• qwen2:7b
• qwen2:32b
• codegeex4:9b
• glm4:9b

公有云大模型应用

• Azure OpenAI
• Claude
• IBM Watsonx

我们热烈欢迎对人工智能和大模型感兴趣的朋友加入我们的撰写团队，共同探讨和分享创新应用。

最近两天在 RAG + LLM 场景下，同基准测试了多个开源大模型，包括：

• llama3.1
• llama2-chinese
• qwen2:7b
• qwen2:32b
• codegeex4:9b
• glm4:9b

发现和 OpenAI GPT 3.5 Turbo 相比完全败北。对于 Markdown 而言区别不大，但对于 Excel 和 Word 类带有表格的文档结果反馈来看相差甚远。更不要说 PDF、JPG等图文结合的资料了。不知道是不是姿势不对，有经验的朋友可以分享一下。

问题点：

• 回答结果过于发散，比如：会自己添加一些知识库本身没有的回答。OpenAI GPT 3.5 Turbo 并不会这样。
• 很多时候无法输出正确的应答结果，你说找不到答案，但它又会附上对应知识库文档链接，说明还是有找到一些信息的。
• 对于正确答案中带有的图片信息，无法在聊天框正常输出。

目前测试的结果是这样，更多细节问题需要进一步验证。

最近，由于公司业务需要，木子正在研究 RAG（Retrieval-Augmented Generation）相关的AI和大模型。这是一个全新的领域，涉及多个复杂问题，包括但不限于以下几点：

1. 如何处理原始数据？
   • 涉及数据来源、数据格式、数据类型，以及内容类型混合（例如，一个PDF文件可能包含文本、表格和图片）。
2. 如何合理地切分（chunk）数据块？
   • 不同大小的数据块会影响检索结果的质量。
3. 如何解决数据陈旧问题，并支持数据的实时更新能力？
4. 如何选择合适的 Embedding 模型？
5. 大语言模型的本地部署及维护。
6. 向量数据检索和召回的设计。

如果你是一个运维工程师，建议不要介入太深，因为其中任何一小块，都是一个复杂的学科，将成功劝退你 @-@。

《Rocky Linux 9 从入门到精通007 — DNS管理（CoreDNS 基础篇）》这篇文章其实已经写了很久，但由于工作繁忙，一直未能抽出时间校正内容和修正可能存在的错误，今天终于完成了发布。对于 CoreDNS 的基础使用来说，文章内容应该已经覆盖得较为全面，但对于 host forward zone 等配置，可能需要在进阶篇中进一步探讨。目前进阶篇已经完成，正在校对中。敬请期待！！！

大家有什么意见或建议，请在下方留言交流。