Исправление KOTOXJle6, (текущая версия) :
Да, спасибо. Вчера долго ковырял, забыл отписаться.
Проблема обнаружилась через lsof. Вот что делал:
Проверяем через lsof что может занимать место на выделенном разделе
lsof /GlFS/
COMMAND PID USER FD TYPE DEVICE SIZE/OFF NODE NAME
glusterfs 1925 root 5w REG 253,1 1065591650 1441817 /GlFS/dv0/squid/logs/access.log
glusterfs 1925 root 13r DIR 253,1 4096 1441793 /GlFS/dv0
glusterfs 1925 root 34w REG 253,1 58068706468 1442408 /GlFS/dv0/.glusterfs/07/57/07579874-7bf2-4749-a195-797a07d027a5 (deleted)
Выполним
ls -l /proc/1925/fd
Получаем список файлов
lr-x------ 1 root root 64 дек 5 07:12 13 -> /GlFS/dv0
lrwx------ 1 root root 64 дек 5 07:12 14 -> 'socket:[731058]'
lrwx------ 1 root root 64 дек 5 07:12 15 -> 'socket:[732701]'
l-wx------ 1 root root 64 дек 5 07:12 16 -> /var/log/glusterfs/bricks/GlFS-dv0.log
lrwx------ 1 root root 64 дек 5 07:12 17 -> 'socket:[53896]'
l-wx------ 1 root root 64 дек 5 07:12 2 -> /dev/null
lrwx------ 1 root root 64 дек 5 07:12 3 -> 'anon_inode:[eventpoll]'
l-wx------ 1 root root 64 дек 5 07:12 34 -> '/GlFS/dv0/.glusterfs/07/57/07579874-7bf2-4749-a195-797a07d027a5 (deleted)'
lrwx------ 1 root root 64 дек 5 07:12 4 -> 'socket:[24968]'
l-wx------ 1 root root 64 дек 5 07:12 5 -> /GlFS/dv0/squid/logs/access.log
lrwx------ 1 root root 64 дек 5 07:12 6 -> /run/gluster/vols/SquidFS/SQUID-01-GlFS-dv0.pid
Обнулим файл
> /proc/1925/fd/34
Проверяем место
df -h
Filesystem Size Used Avail Use% Mounted on
/dev/sda2 976M 279M 631M 31% /boot
/dev/mapper/vg01-lv01 89G 8,3G 76G 10% /GlFS
SQUID-02:/SquidFS 89G 64G 22G 75% /ClFS
Проверяем сверим данные lsof на двух нодах
1:
root@squid-01:/home/stb# lsof /ClFS/
COMMAND PID USER FD TYPE DEVICE SIZE/OFF NODE NAME
log_file_ 21690 proxy 3w REG 0,49 96881918 13262758998096368239 /ClFS/squid/logs/access.log
root@squid-01:/home/stb# lsof /GlFS/
COMMAND PID USER FD TYPE DEVICE SIZE/OFF NODE NAME
glusterfs 1925 root 5w REG 253,1 96933149 1442410 /GlFS/dv0/squid/logs/access.log
glusterfs 1925 root 13r DIR 253,1 4096 1441793 /GlFS/dv0
glusterfs 1925 root 34w REG 253,1 1395774816 1442408 /GlFS/dv0/.glusterfs/07/57/07579874-7bf2-4749-a195-797a07d027a5 (deleted)
root@squid-02:/home/stb# lsof /GlFS/
COMMAND PID USER FD TYPE DEVICE SIZE/OFF NODE NAME
glusterfs 1981 root 5w REG 253,1 141661081 4719207 /GlFS/dv0/squid/logs/access.log
glusterfs 1981 root 13r DIR 253,1 4096 4718593 /GlFS/dv0
glusterfs 1981 root 34w REG 253,1 59723521895 4719209 /GlFS/dv0/.glusterfs/07/57/07579874-7bf2-4749-a195-797a07d027a5 (deleted)
root@squid-02:/home/stb# lsof /ClFS/
COMMAND PID USER FD TYPE DEVICE SIZE/OFF NODE NAME
log_file_ 25720 proxy 3w REG 0,49 59723735877 11643345976660338597 /ClFS/squid/logs/access.log (deleted)
Исходная версия KOTOXJle6, :
Да, спасибо. Вчера долго ковырял, забыл отписаться.
Проблема обнаружилась через lsof. Вот что делал:
Проверяем через lsof что может занимать место на выделенном разделе
lsof /GlFS/
COMMAND PID USER FD TYPE DEVICE SIZE/OFF NODE NAME
glusterfs 1925 root 5w REG 253,1 1065591650 1441817 /GlFS/dv0/squid/logs/access.log
glusterfs 1925 root 13r DIR 253,1 4096 1441793 /GlFS/dv0
glusterfs 1925 root 34w REG 253,1 58068706468 1442408 /GlFS/dv0/.glusterfs/07/57/07579874-7bf2-4749-a195-797a07d027a5 (deleted)
Выполним
ls -l /proc/1925/fd
lr-x------ 1 root root 64 дек 5 07:12 13 -> /GlFS/dv0
lrwx------ 1 root root 64 дек 5 07:12 14 -> 'socket:[731058]'
lrwx------ 1 root root 64 дек 5 07:12 15 -> 'socket:[732701]'
l-wx------ 1 root root 64 дек 5 07:12 16 -> /var/log/glusterfs/bricks/GlFS-dv0.log
lrwx------ 1 root root 64 дек 5 07:12 17 -> 'socket:[53896]'
l-wx------ 1 root root 64 дек 5 07:12 2 -> /dev/null
lrwx------ 1 root root 64 дек 5 07:12 3 -> 'anon_inode:[eventpoll]'
l-wx------ 1 root root 64 дек 5 07:12 34 -> '/GlFS/dv0/.glusterfs/07/57/07579874-7bf2-4749-a195-797a07d027a5 (deleted)'
lrwx------ 1 root root 64 дек 5 07:12 4 -> 'socket:[24968]'
l-wx------ 1 root root 64 дек 5 07:12 5 -> /GlFS/dv0/squid/logs/access.log
lrwx------ 1 root root 64 дек 5 07:12 6 -> /run/gluster/vols/SquidFS/SQUID-01-GlFS-dv0.pid
> /proc/1925/fd/34
df -h
Filesystem Size Used Avail Use% Mounted on
/dev/sda2 976M 279M 631M 31% /boot
/dev/mapper/vg01-lv01 89G 8,3G 76G 10% /GlFS
SQUID-02:/SquidFS 89G 64G 22G 75% /ClFS
Проверяем сверим данные lsof на двух нодах
1:
root@squid-01:/home/stb# lsof /ClFS/
COMMAND PID USER FD TYPE DEVICE SIZE/OFF NODE NAME
log_file_ 21690 proxy 3w REG 0,49 96881918 13262758998096368239 /ClFS/squid/logs/access.log
root@squid-01:/home/stb# lsof /GlFS/
COMMAND PID USER FD TYPE DEVICE SIZE/OFF NODE NAME
glusterfs 1925 root 5w REG 253,1 96933149 1442410 /GlFS/dv0/squid/logs/access.log
glusterfs 1925 root 13r DIR 253,1 4096 1441793 /GlFS/dv0
glusterfs 1925 root 34w REG 253,1 1395774816 1442408 /GlFS/dv0/.glusterfs/07/57/07579874-7bf2-4749-a195-797a07d027a5 (deleted)
2:
root@squid-02:/home/stb# lsof /GlFS/
COMMAND PID USER FD TYPE DEVICE SIZE/OFF NODE NAME
glusterfs 1981 root 5w REG 253,1 141661081 4719207 /GlFS/dv0/squid/logs/access.log
glusterfs 1981 root 13r DIR 253,1 4096 4718593 /GlFS/dv0
glusterfs 1981 root 34w REG 253,1 59723521895 4719209 /GlFS/dv0/.glusterfs/07/57/07579874-7bf2-4749-a195-797a07d027a5 (deleted)
root@squid-02:/home/stb# lsof /ClFS/
COMMAND PID USER FD TYPE DEVICE SIZE/OFF NODE NAME
log_file_ 25720 proxy 3w REG 0,49 59723735877 11643345976660338597 /ClFS/squid/logs/access.log (deleted)
Похоже сейчас проблема в удаленном файле access.log на второй ноде.
Но я не знаю что делать дальше? Попробовать так же обнулить файл? Или можно что-то сделать удаление?