本文介绍了Open-WebUI，它最初是为Ollama设计的WebUI工具，现已扩展为一个独立项目，支持多种LLM（大语言模型）运行器。Open-WebUI功能丰富，用户友好，旨在完全离线运行，使用户可以通过浏览器方便地与本地大模型进行交互。文章详细描述了部署Open-WebUI的步骤，包括基于Docker的配置、启动以及针对模型下载所需的代理设置。同时，还介绍了如何将Ollama和Open-WebUI结合，并在其上进行模型设置、管理和默认模型配置。文章还涵盖了如何设置用户注册选项以及启用网络搜索功能。

前述 自从 OpenAI 于 2022 年 11 月 30 日发布 ChatGPT 以来，经过 2023 年的不断发展，大语言模型的概念已经深入人心。基于大语言模型的各种周边产品和集成工具层出不穷，呈现出百花齐放的局面。在这一过程中，许多本地化的模型应用方案也应运而生。对于一些企业知识库问答的场景，模型本地化成为首要考虑的问题。因此，如何本地化调教...

在迁移 Windows Active Directory FSMO（Flexible Single Master Operation）五大角色时，通常有两种情况：一种是域控制器正常迁移并下线（transfer），另一种是强制夺取这些角色（seize）。接下来，木子将基于 PowerShell 和 CMD 两种命令行方式详细说明如何进行迁移。 ...

回顾 在前面的文章《Redis基础篇11 — 使用命令（三）对 value 的操作命令》中我们介绍了 hash 数据类型的使用，本篇文章将带您了解 hash 数据类型的底层。 我们说 string 数据类型时，其结构为： key <---> value 而针对 hash 数据类型，它的结构为： key <---> value...

如果想在容器中可以调用 NVIDIA GPU，还需要在宿主机需要安装 NVIDIA Container Toolkit，以便容器能够访问和使用 GPU。 # 配置仓库信息 [root@gpu-server-001 ~]# wget -O /etc/yum.repos.d/nvidia-container-to...

与安装 NVIDIA 显卡驱动相比，卸载驱动相对简单。然而，卸载驱动的方式会因安装方法的不同而有所变化。对于通过离线方式安装的 NVIDIA 显卡驱动，可以直接使用 /usr/bin/nvidia-uninstall 命令进行卸载。对于通过在线方式安装的 NVIDIA 显卡驱动，如果安装的是 nvidia-driver:560，可以采用与离线...

本文详细介绍了在 Rocky Linux 9 上在线安装 NVIDIA 闭源驱动的步骤和注意事项。相比于离线安装，在线安装较为复杂，需要了解不同类型驱动的差异和选择适合的选项。安装步骤包括启用 EPEL 源、配置 BIOS 安全引导和禁用开源驱动等。文章还详细说明了如何获取显卡信息、安装依赖包和驱动模块的具体操作。驱动模块分为标准版、DKMS 版和开源版，三者适用于不同的使用场景。标准版适合需要高性能和稳定性的用户，DKMS 版适合经常更新内核的用户，而开源版则适合倾向于开源软件的用户。文章通过实际操作步骤展示如何启用和安装合适的驱动模块，同时提供了验证驱动是否正确安装的方法。若使用场景仅限于普通图形处理，本文所述步骤已经足够。如果涉及高级需求如科学计算或 CUDA 应用，可以参考文末提供的相关文献。

回顾 前面提到——「Redis 当中的字符串和 MySQL 当中的字符（char、varchar）以及 JAVA 当中的字符串（string）还不太一样，这涉及到一个东西——简单动态字符串（SDS，simple dynamic string）」 前面还提到： string 数据类型中，key 和 value 都是 string 类型 hash 数...

cuDNN 简介 cuDNN（CUDA Deep Neural Network library）是由 NVIDIA 提供的一个 GPU 加速库，专门用于深度学习中的神经网络操作。cuDNN 提供了高度优化的实现，支持卷积、池化、归一化、激活函数以及 RNN（循环神经网络）等常见的神经网络操作。 cuDNN 的作用 加速深度学习：cuDNN...