drholy ревизий этого фрагмента 3 hours ago. К ревизии
1 file changed, 53 insertions
NVIDIA_DEBIAN.md(файл создан)
| @@ -0,0 +1,53 @@ | |||
| 1 | + | # Драйвер NVIDIA + CUDA на Debian 13 (из официального репозитория NVIDIA) | |
| 2 | + | ||
| 3 | + | Для Debian 12 замените в URL `debian13` на `debian12`. | |
| 4 | + | ||
| 5 | + | ```bash | |
| 6 | + | sudo -i | |
| 7 | + | apt update | |
| 8 | + | apt -y install linux-headers-$(uname -r) build-essential dkms wget ca-certificates | |
| 9 | + | ||
| 10 | + | # отключить nouveau и усыпление карты | |
| 11 | + | cat >/etc/modprobe.d/blacklist-nouveau.conf <<'X' | |
| 12 | + | blacklist nouveau | |
| 13 | + | options nouveau modeset=0 | |
| 14 | + | X | |
| 15 | + | echo 'options nvidia NVreg_DynamicPowerManagement=0x00' >/etc/modprobe.d/nvidia-pm.conf | |
| 16 | + | ||
| 17 | + | # репозиторий NVIDIA | |
| 18 | + | wget -O /tmp/cuda-keyring.deb https://developer.download.nvidia.com/compute/cuda/repos/debian13/x86_64/cuda-keyring_1.1-1_all.deb | |
| 19 | + | dpkg -i /tmp/cuda-keyring.deb | |
| 20 | + | apt update | |
| 21 | + | ||
| 22 | + | # закрепить ветку 595 (production), чтобы apt сам не прыгнул на 610/620 | |
| 23 | + | apt -y install nvidia-driver-pinning-595 | |
| 24 | + | ||
| 25 | + | # драйвер с open-модулями (DKMS) + CUDA | |
| 26 | + | apt -y install nvidia-open | |
| 27 | + | apt -y install cuda-toolkit | |
| 28 | + | echo 'export PATH=/usr/local/cuda/bin:$PATH' >/etc/profile.d/cuda.sh | |
| 29 | + | ||
| 30 | + | update-initramfs -u | |
| 31 | + | reboot | |
| 32 | + | ``` | |
| 33 | + | ||
| 34 | + | Проверка: | |
| 35 | + | ||
| 36 | + | ```bash | |
| 37 | + | nvidia-smi # RTX 4070 Laptop GPU, Driver 595.x | |
| 38 | + | lsmod | grep nouveau # пусто | |
| 39 | + | modinfo -F license nvidia # Dual MIT/GPL = open-модули | |
| 40 | + | /usr/local/cuda/bin/nvcc --version | |
| 41 | + | ``` | |
| 42 | + | ||
| 43 | + | ## Запасной вариант: .run-установщик с сайта | |
| 44 | + | ||
| 45 | + | ```bash | |
| 46 | + | apt -y install linux-headers-$(uname -r) build-essential dkms pkg-config libglvnd-dev | |
| 47 | + | wget https://us.download.nvidia.com/XFree86/Linux-x86_64/595.104.02/NVIDIA-Linux-x86_64-595.104.02.run | |
| 48 | + | sh NVIDIA-Linux-x86_64-595.104.02.run -m=kernel-open --dkms --silent | |
| 49 | + | reboot | |
| 50 | + | ``` | |
| 51 | + | После .run CUDA ставить так: `apt install cuda-toolkit` из того же репозитория (без пакета `nvidia-open`, чтобы не было двух драйверов). Репозиторий и .run не смешивать. | |
| 52 | + | ||
| 53 | + | Container Toolkit и Docker — как в MANUAL_INSTALL.md (для Docker в строке репозитория `ubuntu` заменить на `debian`). | |
drholy ревизий этого фрагмента 3 hours ago. К ревизии
1 file changed, 111 insertions
proxy-system-apt.md(файл создан)
| @@ -0,0 +1,111 @@ | |||
| 1 | + | # Настройка прокси для системы и apt (proxy.home:4067) | |
| 2 | + | ||
| 3 | + | Предполагается HTTP-прокси по адресу `http://proxy.home:4067`. Проверьте, что имя резолвится: | |
| 4 | + | ||
| 5 | + | ```bash | |
| 6 | + | getent hosts proxy.home | |
| 7 | + | curl -x http://proxy.home:4067 -I https://deb.debian.org | |
| 8 | + | ``` | |
| 9 | + | ||
| 10 | + | ## 1. apt | |
| 11 | + | ||
| 12 | + | Создайте файл `/etc/apt/apt.conf.d/95proxy`: | |
| 13 | + | ||
| 14 | + | ```bash | |
| 15 | + | sudo tee /etc/apt/apt.conf.d/95proxy >/dev/null <<'CONF' | |
| 16 | + | Acquire::http::Proxy "http://proxy.home:4067/"; | |
| 17 | + | Acquire::https::Proxy "http://proxy.home:4067/"; | |
| 18 | + | CONF | |
| 19 | + | ``` | |
| 20 | + | ||
| 21 | + | Проверка: | |
| 22 | + | ||
| 23 | + | ```bash | |
| 24 | + | apt-config dump | grep -i proxy | |
| 25 | + | sudo apt update | |
| 26 | + | ``` | |
| 27 | + | ||
| 28 | + | Исключить отдельный репозиторий (например, локальное зеркало) из прокси: | |
| 29 | + | ||
| 30 | + | ``` | |
| 31 | + | Acquire::http::Proxy::mirror.home "DIRECT"; | |
| 32 | + | ``` | |
| 33 | + | ||
| 34 | + | Сам apt берёт настройки только из `apt.conf`. Переменные окружения при `sudo` по умолчанию сбрасываются, поэтому настройка через файл надёжнее. | |
| 35 | + | ||
| 36 | + | ## 2. Системные переменные (для всех пользователей) | |
| 37 | + | ||
| 38 | + | Добавьте в `/etc/environment`. Там допустимы только строки вида `КЛЮЧ=значение`, без `export`: | |
| 39 | + | ||
| 40 | + | ``` | |
| 41 | + | http_proxy="http://proxy.home:4067/" | |
| 42 | + | https_proxy="http://proxy.home:4067/" | |
| 43 | + | ftp_proxy="http://proxy.home:4067/" | |
| 44 | + | no_proxy="localhost,127.0.0.1,::1,.home,192.168.0.0/16,10.0.0.0/8" | |
| 45 | + | HTTP_PROXY="http://proxy.home:4067/" | |
| 46 | + | HTTPS_PROXY="http://proxy.home:4067/" | |
| 47 | + | FTP_PROXY="http://proxy.home:4067/" | |
| 48 | + | NO_PROXY="localhost,127.0.0.1,::1,.home,192.168.0.0/16,10.0.0.0/8" | |
| 49 | + | ``` | |
| 50 | + | ||
| 51 | + | Изменения применятся после повторного входа в систему. Для текущей сессии: | |
| 52 | + | ||
| 53 | + | ```bash | |
| 54 | + | set -a; . /etc/environment; set +a | |
| 55 | + | env | grep -i proxy | |
| 56 | + | ``` | |
| 57 | + | ||
| 58 | + | Обратите внимание: формат CIDR (`192.168.0.0/16`) в `no_proxy` понимают не все программы. curl и Python его поддерживают, wget нет. При необходимости перечислите нужные хосты явно. | |
| 59 | + | ||
| 60 | + | ## 3. sudo | |
| 61 | + | ||
| 62 | + | Чтобы программы, запущенные через `sudo`, видели прокси, выполните `sudo visudo -f /etc/sudoers.d/proxy` и добавьте строку: | |
| 63 | + | ||
| 64 | + | ``` | |
| 65 | + | Defaults env_keep += "http_proxy https_proxy ftp_proxy no_proxy HTTP_PROXY HTTPS_PROXY FTP_PROXY NO_PROXY" | |
| 66 | + | ``` | |
| 67 | + | ||
| 68 | + | ## 4. systemd-службы (опционально) | |
| 69 | + | ||
| 70 | + | Службы не читают `/etc/environment` и профили оболочки. | |
| 71 | + | ||
| 72 | + | Для всех служб создайте `/etc/systemd/system.conf.d/proxy.conf`: | |
| 73 | + | ||
| 74 | + | ``` | |
| 75 | + | [Manager] | |
| 76 | + | DefaultEnvironment="http_proxy=http://proxy.home:4067/" "https_proxy=http://proxy.home:4067/" "no_proxy=localhost,127.0.0.1,.home" | |
| 77 | + | ``` | |
| 78 | + | ||
| 79 | + | Для одной службы, например Docker: | |
| 80 | + | ||
| 81 | + | ```bash | |
| 82 | + | sudo systemctl edit docker | |
| 83 | + | ``` | |
| 84 | + | ||
| 85 | + | ``` | |
| 86 | + | [Service] | |
| 87 | + | Environment="HTTP_PROXY=http://proxy.home:4067/" | |
| 88 | + | Environment="HTTPS_PROXY=http://proxy.home:4067/" | |
| 89 | + | Environment="NO_PROXY=localhost,127.0.0.1,.home" | |
| 90 | + | ``` | |
| 91 | + | ||
| 92 | + | Затем примените изменения: | |
| 93 | + | ||
| 94 | + | ```bash | |
| 95 | + | sudo systemctl daemon-reexec # после изменения system.conf.d | |
| 96 | + | sudo systemctl daemon-reload && sudo systemctl restart docker | |
| 97 | + | ``` | |
| 98 | + | ||
| 99 | + | ## 5. Откат | |
| 100 | + | ||
| 101 | + | ```bash | |
| 102 | + | sudo rm /etc/apt/apt.conf.d/95proxy /etc/sudoers.d/proxy | |
| 103 | + | # удалить строки *_proxy из /etc/environment и перелогиниться | |
| 104 | + | ``` | |
| 105 | + | ||
| 106 | + | ## Источники | |
| 107 | + | ||
| 108 | + | - `man apt.conf` (раздел Acquire::http::Proxy) | |
| 109 | + | - `man pam_env.conf`, `man 5 environment` | |
| 110 | + | - `man systemd-system.conf` (DefaultEnvironment), `man systemd.exec` (Environment) | |
| 111 | + | - Docker: https://docs.docker.com/engine/daemon/proxy/ | |
drholy ревизий этого фрагмента 3 hours ago. К ревизии
1 file changed, 146 insertions
MANUAL_INSTALL.md(файл создан)
| @@ -0,0 +1,146 @@ | |||
| 1 | + | # Ручная установка ВМ с RTX 4070 Mobile (Proxmox → Ubuntu 24.04) | |
| 2 | + | ||
| 3 | + | Цель: после этих шагов я подключаюсь к ВМ через Portainer и сам ставлю Strata и копирую модель с server1. | |
| 4 | + | Все команды выполняются на ВМ от root (`sudo -i`). | |
| 5 | + | ||
| 6 | + | --- | |
| 7 | + | ||
| 8 | + | ## 0. Proxmox (на хосте, коротко) | |
| 9 | + | ||
| 10 | + | - В ВМ: **Machine `q35`**, **BIOS `OVMF (UEFI)`**, CPU `host`, RAM 60 ГБ, **Ballooning выключен** (с пробросом GPU память должна быть закреплена), диск ≥ 150 ГБ. | |
| 11 | + | - PCI-устройство: `0000:01:00.0` (10de:2860), галочки **All Functions**, **PCI-Express**. Primary GPU — **не** ставить (карта под вычисления, консоль остаётся на виртуальном дисплее). | |
| 12 | + | - Мобильные GPU часто требуют VBIOS: если в ВМ `nvidia-smi` видит карту, но драйвер падает с `RmInitAdapter failed` — дампните VBIOS на хосте и укажите `romfile=` в `hostpci0`. | |
| 13 | + | ||
| 14 | + | --- | |
| 15 | + | ||
| 16 | + | ## 1. Базовая система | |
| 17 | + | ||
| 18 | + | ```bash | |
| 19 | + | apt update && apt -y full-upgrade | |
| 20 | + | apt -y install build-essential dkms linux-headers-$(uname -r) git curl wget ca-certificates gnupg pciutils | |
| 21 | + | lspci -nn | grep -i nvidia # должна быть строка 10de:2860 | |
| 22 | + | ``` | |
| 23 | + | ||
| 24 | + | ## 2. Драйвер NVIDIA (open, ≥ 580) + CUDA | |
| 25 | + | ||
| 26 | + | ```bash | |
| 27 | + | # 2.1 отключить nouveau | |
| 28 | + | cat >/etc/modprobe.d/blacklist-nouveau.conf <<'X' | |
| 29 | + | blacklist nouveau | |
| 30 | + | options nouveau modeset=0 | |
| 31 | + | X | |
| 32 | + | ||
| 33 | + | # 2.2 не давать драйверу усыплять карту (иначе gpu-unlock слетает, как на ноутбуке) | |
| 34 | + | echo 'options nvidia NVreg_DynamicPowerManagement=0x00' >/etc/modprobe.d/nvidia-pm.conf | |
| 35 | + | update-initramfs -u | |
| 36 | + | ||
| 37 | + | # 2.3 драйвер из репозитория Ubuntu | |
| 38 | + | apt update | |
| 39 | + | apt -y install nvidia-driver-590-open || apt -y install nvidia-driver-580-open | |
| 40 | + | ||
| 41 | + | # 2.4 CUDA toolkit из репозитория NVIDIA (без метапакета "cuda", чтобы не тянуть второй драйвер) | |
| 42 | + | wget -O /tmp/cuda-keyring.deb https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2404/x86_64/cuda-keyring_1.1-1_all.deb | |
| 43 | + | dpkg -i /tmp/cuda-keyring.deb && apt update | |
| 44 | + | apt -y install cuda-toolkit | |
| 45 | + | echo 'export PATH=/usr/local/cuda/bin:$PATH' >/etc/profile.d/cuda.sh | |
| 46 | + | ||
| 47 | + | reboot | |
| 48 | + | ``` | |
| 49 | + | ||
| 50 | + | Проверка после перезагрузки: | |
| 51 | + | ||
| 52 | + | ```bash | |
| 53 | + | nvidia-smi # GeForce RTX 4070 Laptop GPU, 8 ГБ, Driver ≥ 580 | |
| 54 | + | lsmod | grep nouveau # пусто | |
| 55 | + | /usr/local/cuda/bin/nvcc --version | |
| 56 | + | ``` | |
| 57 | + | ||
| 58 | + | ## 3. gpu-unlock (Zagitta/gpu-unlock) | |
| 59 | + | ||
| 60 | + | Важно: в официальном списке (`kernel/gpu_unlock/recipes.c`) **нет** 4070 Mobile `0x2860` — ни в `main`, ни в `ada-beta`. Возьмите тот же форк/патч, что стоит у вас на ноутбуке. Если его нет под рукой — добавьте ID вручную (экспериментально, на свой риск): | |
| 61 | + | ||
| 62 | + | ```bash | |
| 63 | + | cd /opt && git clone https://github.com/Zagitta/gpu-unlock && cd gpu-unlock | |
| 64 | + | # добавить AD106(0x2860) в строку с AD106: | |
| 65 | + | sed -i 's/AD106(0x2803), AD106(0x2805),/AD106(0x2803), AD106(0x2805), AD106(0x2860),/' kernel/gpu_unlock/recipes.c | |
| 66 | + | grep -n 'AD106(' kernel/gpu_unlock/recipes.c | |
| 67 | + | make install # на Ubuntu соберёт и поставит .deb, пересоберёт initramfs (нужен интернет) | |
| 68 | + | ``` | |
| 69 | + | ||
| 70 | + | Включить через параметр ядра (адрес — как в ВМ показывает `lspci -D | grep -i nvidia`, обычно не 01:00.0): | |
| 71 | + | ||
| 72 | + | ```bash | |
| 73 | + | lspci -D | grep -i nvidia # например 0000:01:00.0 или 0000:06:10.0 | |
| 74 | + | nano /etc/default/grub | |
| 75 | + | # GRUB_CMDLINE_LINUX_DEFAULT="... gpu_unlock.targets=<адрес_из_lspci>" | |
| 76 | + | update-grub && reboot | |
| 77 | + | ``` | |
| 78 | + | ||
| 79 | + | Проверка: | |
| 80 | + | ||
| 81 | + | ```bash | |
| 82 | + | dmesg | grep -i gpu_unlock # должно быть сообщение об успешной разблокировке карты | |
| 83 | + | nvidia-smi # драйвер по-прежнему видит карту | |
| 84 | + | ``` | |
| 85 | + | ||
| 86 | + | Если в dmesg «unsupported» или карта пропала — уберите параметр из GRUB, `update-grub`, перезагрузка. Внутри ВМ модуль ещё не проверялся (на ноутбуке он работал на голом железе). | |
| 87 | + | ||
| 88 | + | ## 4. Docker | |
| 89 | + | ||
| 90 | + | ```bash | |
| 91 | + | install -m 0755 -d /etc/apt/keyrings | |
| 92 | + | curl -fsSL https://download.docker.com/linux/ubuntu/gpg -o /etc/apt/keyrings/docker.asc | |
| 93 | + | echo "deb [arch=amd64 signed-by=/etc/apt/keyrings/docker.asc] https://download.docker.com/linux/ubuntu $(. /etc/os-release; echo $VERSION_CODENAME) stable" >/etc/apt/sources.list.d/docker.list | |
| 94 | + | apt update | |
| 95 | + | apt -y install docker-ce docker-ce-cli containerd.io docker-buildx-plugin docker-compose-plugin | |
| 96 | + | systemctl enable --now docker | |
| 97 | + | ``` | |
| 98 | + | ||
| 99 | + | ## 5. NVIDIA Container Toolkit | |
| 100 | + | ||
| 101 | + | ```bash | |
| 102 | + | curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg | |
| 103 | + | curl -s -L https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list \ | |
| 104 | + | | sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g' \ | |
| 105 | + | >/etc/apt/sources.list.d/nvidia-container-toolkit.list | |
| 106 | + | apt update && apt -y install nvidia-container-toolkit | |
| 107 | + | nvidia-ctk runtime configure --runtime=docker | |
| 108 | + | systemctl restart docker | |
| 109 | + | ||
| 110 | + | docker run --rm --gpus all nvidia/cuda:13.0.1-base-ubuntu24.04 nvidia-smi # должна показаться карта | |
| 111 | + | ``` | |
| 112 | + | ||
| 113 | + | ## 6. Доступ для Portainer | |
| 114 | + | ||
| 115 | + | **Вариант A (рекомендую): Portainer Agent** — не открывает голый Docker API: | |
| 116 | + | ||
| 117 | + | ```bash | |
| 118 | + | docker run -d -p 9001:9001 --name portainer_agent --restart=always \ | |
| 119 | + | -v /var/run/docker.sock:/var/run/docker.sock \ | |
| 120 | + | -v /var/lib/docker/volumes:/var/lib/docker/volumes \ | |
| 121 | + | -v /:/host portainer/agent:lts | |
| 122 | + | ``` | |
| 123 | + | В Portainer: Environments → Add → Docker Standalone → Agent → `IP-ВМ:9001`. | |
| 124 | + | ||
| 125 | + | **Вариант B: TCP-сокет Docker 2375** (как вы планировали). Без TLS это полный root-доступ к ВМ для любого, кто достучится до порта, поэтому ограничьте firewall'ом адресом сервера Portainer (server1, 192.168.31.240): | |
| 126 | + | ||
| 127 | + | ```bash | |
| 128 | + | mkdir -p /etc/systemd/system/docker.service.d | |
| 129 | + | cat >/etc/systemd/system/docker.service.d/tcp.conf <<'X' | |
| 130 | + | [Service] | |
| 131 | + | ExecStart= | |
| 132 | + | ExecStart=/usr/bin/dockerd -H fd:// -H tcp://0.0.0.0:2375 --containerd=/run/containerd/containerd.sock | |
| 133 | + | X | |
| 134 | + | systemctl daemon-reload && systemctl restart docker | |
| 135 | + | ufw allow from 192.168.31.240 to any port 2375 proto tcp | |
| 136 | + | ufw allow OpenSSH && ufw enable | |
| 137 | + | ``` | |
| 138 | + | В Portainer: Environments → Add → Docker Standalone → API → `tcp://IP-ВМ:2375`. | |
| 139 | + | ||
| 140 | + | ## 7. Что прислать мне | |
| 141 | + | ||
| 142 | + | - IP ВМ и имя окружения в Portainer; | |
| 143 | + | - вывод `nvidia-smi`, `dmesg | grep -i gpu_unlock`, `free -h`, `df -h /srv`; | |
| 144 | + | - пользователь SSH на server1 для копирования модели и ваше «да» на чтение модели с server1. | |
| 145 | + | ||
| 146 | + | Дальше я: создаю стек Strata (`ghcr.io/niko1221/strata:0.2.13-cuda13`, IQ2_XS, порт 8081, том `/srv/strata-data`), копирую модель с server1 и запускаю. Копирование модели с ВМ — по SSH (rsync), для этого понадобится доступ к shell ВМ (или я подготовлю для этого одноразовый контейнер через Portainer). | |