Последняя активность 3 hours ago

drholy ревизий этого фрагмента 3 hours ago. К ревизии

1 file changed, 53 insertions

NVIDIA_DEBIAN.md(файл создан)

@@ -0,0 +1,53 @@
1 + # Драйвер NVIDIA + CUDA на Debian 13 (из официального репозитория NVIDIA)
2 +
3 + Для Debian 12 замените в URL `debian13` на `debian12`.
4 +
5 + ```bash
6 + sudo -i
7 + apt update
8 + apt -y install linux-headers-$(uname -r) build-essential dkms wget ca-certificates
9 +
10 + # отключить nouveau и усыпление карты
11 + cat >/etc/modprobe.d/blacklist-nouveau.conf <<'X'
12 + blacklist nouveau
13 + options nouveau modeset=0
14 + X
15 + echo 'options nvidia NVreg_DynamicPowerManagement=0x00' >/etc/modprobe.d/nvidia-pm.conf
16 +
17 + # репозиторий NVIDIA
18 + wget -O /tmp/cuda-keyring.deb https://developer.download.nvidia.com/compute/cuda/repos/debian13/x86_64/cuda-keyring_1.1-1_all.deb
19 + dpkg -i /tmp/cuda-keyring.deb
20 + apt update
21 +
22 + # закрепить ветку 595 (production), чтобы apt сам не прыгнул на 610/620
23 + apt -y install nvidia-driver-pinning-595
24 +
25 + # драйвер с open-модулями (DKMS) + CUDA
26 + apt -y install nvidia-open
27 + apt -y install cuda-toolkit
28 + echo 'export PATH=/usr/local/cuda/bin:$PATH' >/etc/profile.d/cuda.sh
29 +
30 + update-initramfs -u
31 + reboot
32 + ```
33 +
34 + Проверка:
35 +
36 + ```bash
37 + nvidia-smi # RTX 4070 Laptop GPU, Driver 595.x
38 + lsmod | grep nouveau # пусто
39 + modinfo -F license nvidia # Dual MIT/GPL = open-модули
40 + /usr/local/cuda/bin/nvcc --version
41 + ```
42 +
43 + ## Запасной вариант: .run-установщик с сайта
44 +
45 + ```bash
46 + apt -y install linux-headers-$(uname -r) build-essential dkms pkg-config libglvnd-dev
47 + wget https://us.download.nvidia.com/XFree86/Linux-x86_64/595.104.02/NVIDIA-Linux-x86_64-595.104.02.run
48 + sh NVIDIA-Linux-x86_64-595.104.02.run -m=kernel-open --dkms --silent
49 + reboot
50 + ```
51 + После .run CUDA ставить так: `apt install cuda-toolkit` из того же репозитория (без пакета `nvidia-open`, чтобы не было двух драйверов). Репозиторий и .run не смешивать.
52 +
53 + Container Toolkit и Docker — как в MANUAL_INSTALL.md (для Docker в строке репозитория `ubuntu` заменить на `debian`).

drholy ревизий этого фрагмента 3 hours ago. К ревизии

1 file changed, 111 insertions

proxy-system-apt.md(файл создан)

@@ -0,0 +1,111 @@
1 + # Настройка прокси для системы и apt (proxy.home:4067)
2 +
3 + Предполагается HTTP-прокси по адресу `http://proxy.home:4067`. Проверьте, что имя резолвится:
4 +
5 + ```bash
6 + getent hosts proxy.home
7 + curl -x http://proxy.home:4067 -I https://deb.debian.org
8 + ```
9 +
10 + ## 1. apt
11 +
12 + Создайте файл `/etc/apt/apt.conf.d/95proxy`:
13 +
14 + ```bash
15 + sudo tee /etc/apt/apt.conf.d/95proxy >/dev/null <<'CONF'
16 + Acquire::http::Proxy "http://proxy.home:4067/";
17 + Acquire::https::Proxy "http://proxy.home:4067/";
18 + CONF
19 + ```
20 +
21 + Проверка:
22 +
23 + ```bash
24 + apt-config dump | grep -i proxy
25 + sudo apt update
26 + ```
27 +
28 + Исключить отдельный репозиторий (например, локальное зеркало) из прокси:
29 +
30 + ```
31 + Acquire::http::Proxy::mirror.home "DIRECT";
32 + ```
33 +
34 + Сам apt берёт настройки только из `apt.conf`. Переменные окружения при `sudo` по умолчанию сбрасываются, поэтому настройка через файл надёжнее.
35 +
36 + ## 2. Системные переменные (для всех пользователей)
37 +
38 + Добавьте в `/etc/environment`. Там допустимы только строки вида `КЛЮЧ=значение`, без `export`:
39 +
40 + ```
41 + http_proxy="http://proxy.home:4067/"
42 + https_proxy="http://proxy.home:4067/"
43 + ftp_proxy="http://proxy.home:4067/"
44 + no_proxy="localhost,127.0.0.1,::1,.home,192.168.0.0/16,10.0.0.0/8"
45 + HTTP_PROXY="http://proxy.home:4067/"
46 + HTTPS_PROXY="http://proxy.home:4067/"
47 + FTP_PROXY="http://proxy.home:4067/"
48 + NO_PROXY="localhost,127.0.0.1,::1,.home,192.168.0.0/16,10.0.0.0/8"
49 + ```
50 +
51 + Изменения применятся после повторного входа в систему. Для текущей сессии:
52 +
53 + ```bash
54 + set -a; . /etc/environment; set +a
55 + env | grep -i proxy
56 + ```
57 +
58 + Обратите внимание: формат CIDR (`192.168.0.0/16`) в `no_proxy` понимают не все программы. curl и Python его поддерживают, wget нет. При необходимости перечислите нужные хосты явно.
59 +
60 + ## 3. sudo
61 +
62 + Чтобы программы, запущенные через `sudo`, видели прокси, выполните `sudo visudo -f /etc/sudoers.d/proxy` и добавьте строку:
63 +
64 + ```
65 + Defaults env_keep += "http_proxy https_proxy ftp_proxy no_proxy HTTP_PROXY HTTPS_PROXY FTP_PROXY NO_PROXY"
66 + ```
67 +
68 + ## 4. systemd-службы (опционально)
69 +
70 + Службы не читают `/etc/environment` и профили оболочки.
71 +
72 + Для всех служб создайте `/etc/systemd/system.conf.d/proxy.conf`:
73 +
74 + ```
75 + [Manager]
76 + DefaultEnvironment="http_proxy=http://proxy.home:4067/" "https_proxy=http://proxy.home:4067/" "no_proxy=localhost,127.0.0.1,.home"
77 + ```
78 +
79 + Для одной службы, например Docker:
80 +
81 + ```bash
82 + sudo systemctl edit docker
83 + ```
84 +
85 + ```
86 + [Service]
87 + Environment="HTTP_PROXY=http://proxy.home:4067/"
88 + Environment="HTTPS_PROXY=http://proxy.home:4067/"
89 + Environment="NO_PROXY=localhost,127.0.0.1,.home"
90 + ```
91 +
92 + Затем примените изменения:
93 +
94 + ```bash
95 + sudo systemctl daemon-reexec # после изменения system.conf.d
96 + sudo systemctl daemon-reload && sudo systemctl restart docker
97 + ```
98 +
99 + ## 5. Откат
100 +
101 + ```bash
102 + sudo rm /etc/apt/apt.conf.d/95proxy /etc/sudoers.d/proxy
103 + # удалить строки *_proxy из /etc/environment и перелогиниться
104 + ```
105 +
106 + ## Источники
107 +
108 + - `man apt.conf` (раздел Acquire::http::Proxy)
109 + - `man pam_env.conf`, `man 5 environment`
110 + - `man systemd-system.conf` (DefaultEnvironment), `man systemd.exec` (Environment)
111 + - Docker: https://docs.docker.com/engine/daemon/proxy/

drholy ревизий этого фрагмента 3 hours ago. К ревизии

1 file changed, 146 insertions

MANUAL_INSTALL.md(файл создан)

@@ -0,0 +1,146 @@
1 + # Ручная установка ВМ с RTX 4070 Mobile (Proxmox → Ubuntu 24.04)
2 +
3 + Цель: после этих шагов я подключаюсь к ВМ через Portainer и сам ставлю Strata и копирую модель с server1.
4 + Все команды выполняются на ВМ от root (`sudo -i`).
5 +
6 + ---
7 +
8 + ## 0. Proxmox (на хосте, коротко)
9 +
10 + - В ВМ: **Machine `q35`**, **BIOS `OVMF (UEFI)`**, CPU `host`, RAM 60 ГБ, **Ballooning выключен** (с пробросом GPU память должна быть закреплена), диск ≥ 150 ГБ.
11 + - PCI-устройство: `0000:01:00.0` (10de:2860), галочки **All Functions**, **PCI-Express**. Primary GPU — **не** ставить (карта под вычисления, консоль остаётся на виртуальном дисплее).
12 + - Мобильные GPU часто требуют VBIOS: если в ВМ `nvidia-smi` видит карту, но драйвер падает с `RmInitAdapter failed` — дампните VBIOS на хосте и укажите `romfile=` в `hostpci0`.
13 +
14 + ---
15 +
16 + ## 1. Базовая система
17 +
18 + ```bash
19 + apt update && apt -y full-upgrade
20 + apt -y install build-essential dkms linux-headers-$(uname -r) git curl wget ca-certificates gnupg pciutils
21 + lspci -nn | grep -i nvidia # должна быть строка 10de:2860
22 + ```
23 +
24 + ## 2. Драйвер NVIDIA (open, ≥ 580) + CUDA
25 +
26 + ```bash
27 + # 2.1 отключить nouveau
28 + cat >/etc/modprobe.d/blacklist-nouveau.conf <<'X'
29 + blacklist nouveau
30 + options nouveau modeset=0
31 + X
32 +
33 + # 2.2 не давать драйверу усыплять карту (иначе gpu-unlock слетает, как на ноутбуке)
34 + echo 'options nvidia NVreg_DynamicPowerManagement=0x00' >/etc/modprobe.d/nvidia-pm.conf
35 + update-initramfs -u
36 +
37 + # 2.3 драйвер из репозитория Ubuntu
38 + apt update
39 + apt -y install nvidia-driver-590-open || apt -y install nvidia-driver-580-open
40 +
41 + # 2.4 CUDA toolkit из репозитория NVIDIA (без метапакета "cuda", чтобы не тянуть второй драйвер)
42 + wget -O /tmp/cuda-keyring.deb https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2404/x86_64/cuda-keyring_1.1-1_all.deb
43 + dpkg -i /tmp/cuda-keyring.deb && apt update
44 + apt -y install cuda-toolkit
45 + echo 'export PATH=/usr/local/cuda/bin:$PATH' >/etc/profile.d/cuda.sh
46 +
47 + reboot
48 + ```
49 +
50 + Проверка после перезагрузки:
51 +
52 + ```bash
53 + nvidia-smi # GeForce RTX 4070 Laptop GPU, 8 ГБ, Driver ≥ 580
54 + lsmod | grep nouveau # пусто
55 + /usr/local/cuda/bin/nvcc --version
56 + ```
57 +
58 + ## 3. gpu-unlock (Zagitta/gpu-unlock)
59 +
60 + Важно: в официальном списке (`kernel/gpu_unlock/recipes.c`) **нет** 4070 Mobile `0x2860` — ни в `main`, ни в `ada-beta`. Возьмите тот же форк/патч, что стоит у вас на ноутбуке. Если его нет под рукой — добавьте ID вручную (экспериментально, на свой риск):
61 +
62 + ```bash
63 + cd /opt && git clone https://github.com/Zagitta/gpu-unlock && cd gpu-unlock
64 + # добавить AD106(0x2860) в строку с AD106:
65 + sed -i 's/AD106(0x2803), AD106(0x2805),/AD106(0x2803), AD106(0x2805), AD106(0x2860),/' kernel/gpu_unlock/recipes.c
66 + grep -n 'AD106(' kernel/gpu_unlock/recipes.c
67 + make install # на Ubuntu соберёт и поставит .deb, пересоберёт initramfs (нужен интернет)
68 + ```
69 +
70 + Включить через параметр ядра (адрес — как в ВМ показывает `lspci -D | grep -i nvidia`, обычно не 01:00.0):
71 +
72 + ```bash
73 + lspci -D | grep -i nvidia # например 0000:01:00.0 или 0000:06:10.0
74 + nano /etc/default/grub
75 + # GRUB_CMDLINE_LINUX_DEFAULT="... gpu_unlock.targets=<адрес_из_lspci>"
76 + update-grub && reboot
77 + ```
78 +
79 + Проверка:
80 +
81 + ```bash
82 + dmesg | grep -i gpu_unlock # должно быть сообщение об успешной разблокировке карты
83 + nvidia-smi # драйвер по-прежнему видит карту
84 + ```
85 +
86 + Если в dmesg «unsupported» или карта пропала — уберите параметр из GRUB, `update-grub`, перезагрузка. Внутри ВМ модуль ещё не проверялся (на ноутбуке он работал на голом железе).
87 +
88 + ## 4. Docker
89 +
90 + ```bash
91 + install -m 0755 -d /etc/apt/keyrings
92 + curl -fsSL https://download.docker.com/linux/ubuntu/gpg -o /etc/apt/keyrings/docker.asc
93 + echo "deb [arch=amd64 signed-by=/etc/apt/keyrings/docker.asc] https://download.docker.com/linux/ubuntu $(. /etc/os-release; echo $VERSION_CODENAME) stable" >/etc/apt/sources.list.d/docker.list
94 + apt update
95 + apt -y install docker-ce docker-ce-cli containerd.io docker-buildx-plugin docker-compose-plugin
96 + systemctl enable --now docker
97 + ```
98 +
99 + ## 5. NVIDIA Container Toolkit
100 +
101 + ```bash
102 + curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg
103 + curl -s -L https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list \
104 + | sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g' \
105 + >/etc/apt/sources.list.d/nvidia-container-toolkit.list
106 + apt update && apt -y install nvidia-container-toolkit
107 + nvidia-ctk runtime configure --runtime=docker
108 + systemctl restart docker
109 +
110 + docker run --rm --gpus all nvidia/cuda:13.0.1-base-ubuntu24.04 nvidia-smi # должна показаться карта
111 + ```
112 +
113 + ## 6. Доступ для Portainer
114 +
115 + **Вариант A (рекомендую): Portainer Agent** — не открывает голый Docker API:
116 +
117 + ```bash
118 + docker run -d -p 9001:9001 --name portainer_agent --restart=always \
119 + -v /var/run/docker.sock:/var/run/docker.sock \
120 + -v /var/lib/docker/volumes:/var/lib/docker/volumes \
121 + -v /:/host portainer/agent:lts
122 + ```
123 + В Portainer: Environments → Add → Docker Standalone → Agent → `IP-ВМ:9001`.
124 +
125 + **Вариант B: TCP-сокет Docker 2375** (как вы планировали). Без TLS это полный root-доступ к ВМ для любого, кто достучится до порта, поэтому ограничьте firewall'ом адресом сервера Portainer (server1, 192.168.31.240):
126 +
127 + ```bash
128 + mkdir -p /etc/systemd/system/docker.service.d
129 + cat >/etc/systemd/system/docker.service.d/tcp.conf <<'X'
130 + [Service]
131 + ExecStart=
132 + ExecStart=/usr/bin/dockerd -H fd:// -H tcp://0.0.0.0:2375 --containerd=/run/containerd/containerd.sock
133 + X
134 + systemctl daemon-reload && systemctl restart docker
135 + ufw allow from 192.168.31.240 to any port 2375 proto tcp
136 + ufw allow OpenSSH && ufw enable
137 + ```
138 + В Portainer: Environments → Add → Docker Standalone → API → `tcp://IP-ВМ:2375`.
139 +
140 + ## 7. Что прислать мне
141 +
142 + - IP ВМ и имя окружения в Portainer;
143 + - вывод `nvidia-smi`, `dmesg | grep -i gpu_unlock`, `free -h`, `df -h /srv`;
144 + - пользователь SSH на server1 для копирования модели и ваше «да» на чтение модели с server1.
145 +
146 + Дальше я: создаю стек Strata (`ghcr.io/niko1221/strata:0.2.13-cuda13`, IQ2_XS, порт 8081, том `/srv/strata-data`), копирую модель с server1 и запускаю. Копирование модели с ВМ — по SSH (rsync), для этого понадобится доступ к shell ВМ (или я подготовлю для этого одноразовый контейнер через Portainer).
Новее Позже