Сбросить Rustdesk Host-Self Server

Да.

Очистка директории «/var/lib/rustdesk-server» приводит к созданию новых файлов, но старые ключи продолжают работать.

Разрешаю.

Очистка директории

Сервис же тушишь до очистки?

Да

systemctl stop rustdesk-hbbr.service rustdesk-hbbs.service

ls -l
итого 2624
drwxr-xr-x 2 root root    4096 янв 22 12:11 1
-rw-r--r-- 1 root root   53248 янв 22 12:11 db_v2.sqlite3
-rw-r--r-- 1 root root   32768 янв 22 12:11 db_v2.sqlite3-shm
-rw-r--r-- 1 root root 2583272 янв 22 12:11 db_v2.sqlite3-wal
-rw-r--r-- 1 root root      88 янв 22 12:11 id_ed25519
-rw-r--r-- 1 root root      44 янв 22 12:11 id_ed25519.pu

А rustdesk-hbbs на этом же хосте установлен? Если его тоже стопорнуть, почистить бд/ключи и все заново запустить?

На том же. Перед очисткой выполнется:

systemctl stop rustdesk-hbbr.service rustdesk-hbbs.service

Оказалось клиенту достаточно «Сервер ID» для соединения. При пустом значении Key соединение успешно.

Сбросить Rustdesk Host-Self Server

Разбежавшись сбросить со скалы.... Почти (c) КиШ

Да, это странно, но по большому счёту, на мой взгляд, не так страшно. Безопасность здесь обеспечивается паролем пользователя. А свой ретранслятор дополнительно ограничивает от перебора и даёт независимость от недоступности стороннего. Дополнительный ключ конечно хорошо, но в общем случае избыточно. Разве что если известно что условный бывший сотрудник станет ломать.

так надо ж запретить неавторизованные подключения

В том же sctgdesk (форк rustdesk-server с веб-интерфейсом) это делается заданием переменной окружения KEY (если запускать через docker)

Сам факт наличия ключевых файлов еще ни о чём не говорит

ЕМНИП в opensource-ной версии rustdesk паролей у пользователей как раз нет и вся безопасность обеспечивается как раз одним ключом. В Pro-версии (и в sctgdesk) можно заводить учетки.

ЕМНИП в opensource-ной версии rustdesk паролей у пользователей как раз нет

На стороне клиента можно завести постоянный пароль.

sctgdesk

Смотрю, спасибо за наводку :)

При подключении требуется либо пароль либо явное разрешение принимающей стороны, что, насколько я понимаю, соответствует всем такого рода системам. То есть сам факт отдельного ретранслятора как минимум уменьшит число посторонних попыток, а в остальном всё так же?

Пароль от принимающей стороны не гарантирует невозможность использования твоего сервера всякими мошенниками, разводящими старушек на их гробовые просьбой удаленного управления. На офсайте rustdesk даже баннер повесили на этот счет.

Воспользоваться сервером, который требует наличие определенного ключа без этого ключа естественно не получится.

ЯННП. Через мой сервер кто подключится к кому? И что помешает, при невозможности использовать мой, подключаться неизвестно кому к неизвестно кому, если речь про это, через сервер по умолчанию, предоставленный разработчиками?

Помешает - ничего. К кому придут товарищи в погонах в процессе расследования - вопрос дискуссионный.