LINUX.ORG.RU

Сообщения PunkoIvan

 

Mysqld жрет swap при свободной RAM

Форум — Admin

Привет, камрады.

Имеется проблема: subj

Что заметили - проблема проявляется при использовании использовании binlog.

При этом несколько серваков попадает под раздачу, с разной топологией:

 M -- M -- S

 M -- S
 |
 |
 S

и так далее. Это всегда slave. Были мысли, что в один момент Mysqld не хватает памяти и идет в своп, но нет - метрики говорят, что использование памяти всегда постоянно (выхлоп ниже).

Рестарт mysqld помогает ненадолго и снова имеем такую же картину.

База работает на одно приложение, размер базы маленький - 30 Гб. LA околонулевые, iostat предоставлен ниже

[me ~]$ cat /etc/redhat-release 
CentOS Linux release 7.6.1810 (Core) 

Версия мускуля:

5.7.25

Выхлоп free:

[me ~]$ free -h
              total        used        free      shared  buff/cache   available
Mem:            31G        6.8G        243M        1.5G         24G         22G
Swap:          8.0G        3.0G        5.0G

Выхлоп процессов потреблению свопа:

[me ~]$ for file in /proc/*/status ; do awk '/VmSwap|Name/{printf $2 " " $3}END{ print ""}' $file; done | sort -k 2 -n -r | head -5
mysqld 2976632 kB
tuned 10556 kB
polkitd 5100 kB
VGAuthService 1588 kB
NetworkManager 1384 kB
параметры ядра по памяти:
sudo sysctl -a | grep -i vm
vm.admin_reserve_kbytes = 8192
vm.block_dump = 0
vm.dirty_background_bytes = 0
vm.dirty_background_ratio = 10
vm.dirty_bytes = 0
vm.dirty_expire_centisecs = 3000
vm.dirty_ratio = 30
vm.dirty_writeback_centisecs = 500
vm.drop_caches = 0
vm.extfrag_threshold = 500
vm.hugepages_treat_as_movable = 0
vm.hugetlb_shm_group = 0
vm.laptop_mode = 0
vm.legacy_va_layout = 0
vm.lowmem_reserve_ratio = 256   256     32
vm.max_map_count = 65530
vm.memory_failure_early_kill = 0
vm.memory_failure_recovery = 1
vm.min_free_kbytes = 67584
vm.min_slab_ratio = 5
vm.min_unmapped_ratio = 1
vm.mmap_min_addr = 4096
vm.mmap_rnd_bits = 28
vm.mmap_rnd_compat_bits = 8
vm.nr_hugepages = 0
vm.nr_hugepages_mempolicy = 0
vm.nr_overcommit_hugepages = 0
vm.nr_pdflush_threads = 0
vm.numa_zonelist_order = default
vm.oom_dump_tasks = 1
vm.oom_kill_allocating_task = 0
vm.overcommit_kbytes = 0
vm.overcommit_memory = 0
vm.overcommit_ratio = 50
vm.page-cluster = 3
vm.panic_on_oom = 0
vm.percpu_pagelist_fraction = 0
vm.stat_interval = 1
vm.swappiness = 30
vm.user_reserve_kbytes = 131072
vm.vfs_cache_pressure = 100
vm.zone_reclaim_mode = 0
my.cnf
[me ~]$ grep -vE "^$|^#"  /data/mysql/my.cnf 
[mysqld]
server-id = 14116
log-bin = hostname-bin
log-error=/data/mysql/hostname
basedir=/usr
datadir = /data/mysql
tmpdir  = /data/mysql/tmp/
innodb_data_home_dir = /data/mysql/
socket = /data/mysql/mysql.sock
sql_mode=NO_ENGINE_SUBSTITUTION
explicit_defaults_for_timestamp = 1
query_cache_type = 0
thread_cache_size = 500
tmp_table_size = 5G
delayed_queue_size = 200
net_buffer_length = 32K
read_rnd_buffer_size = 64M
bulk_insert_buffer_size = 512M
join_buffer_size = 512M
read_buffer_size = 512M
sort_buffer_size = 512M
innodb_buffer_pool_size=25G
innodb_data_file_path = ibdata1:12M:autoextend
innodb_file_per_table = 1
innodb_log_files_in_group = 2
innodb_log_file_size = 4G
innodb_flush_log_at_trx_commit = 2
innodb_log_buffer_size = 512M
innodb_flush_method = O_DIRECT
innodb_thread_concurrency = 48
innodb_strict_mode=off
max_connections = 2400
expire_logs_days = 3
max_allowed_packet = 1024M
max_error_count = 64
max_heap_table_size = 1024M
open_files_limit = 4096
long_query_time = 30
wait_timeout = 1800
max-binlog-size = 1024M
range_optimizer_max_mem_size = 0
binlog-format = mixed
slave_parallel_workers=40
slave_parallel_type = LOGICAL_CLOCK
net_read_timeout=120
net_write_timeout=180
[me~]$ iostat 
Linux 3.10.0-957.el7.x86_64 (hostname)       01/13/2020      _x86_64_        (4 CPU)
avg-cpu:  %user   %nice %system %iowait  %steal   %idle
           0.96    0.05    0.32    0.18    0.00   98.49
Device:            tps    kB_read/s    kB_wrtn/s    kB_read    kB_wrtn
sda              10.23         1.07       474.06    9583704 4236848304
dm-0              0.10         0.01         0.39      73093    3495820
dm-1              0.13         0.08         0.43     751960    3840532
dm-2              0.04         0.54         0.02    4802280     200592
dm-3             22.66         0.38       469.33    3363537 4194622224
dm-4              0.96         0.06         3.88     562013   34689060

Подозреваю, что еще нужен выхлоп переменных рантайма, но там их очень уж дофига.

Если есть толковые DBA - помогите, пожалста, ничего в голову не приходит.

 , , , ,

PunkoIvan ()

Prometheus, Alert Manager в проде

Форум — Admin

Привет.

Подскажите за сабжевую свзяку, пожалуйста.

Интересует пару моментов основных:

1. Кластеризация Prometheus. Именно кластер из двух и более мастеров, котоорые могут работать независимо друг от друга. Не нашёл вменяемых данных про это. Есть федерализация - это хорошо и необходимо, но не то.

Алерт менеджер подерживает кластер отлично из коробки, как я понял.

Не хотелось бы городить костыли в виде DRBD, ручных фейловеров и прочей хрени.

2. Насколько удобно добавлять хосты в автоматическом режиме? Есть неплохая cli у алерт менеджера, как оно в работе?

Хостов примерно 4к, они периодически декомисаются и добавляются.

3. Готова ли эта связка для 4к+ хостов? Слышал очень разные мнения, хочу услышать на лоре теперь :)

 , , , ,

PunkoIvan ()

Мои пингвинчики

Галерея — Рабочие места

Итак, моё рабочее место.

Рабочий(казённый) Thinkpad L460 (Хорошая машинка, единственное, чего не хватает - разъёма под докстанцию. Ну и после моего личного Х200Т клавиатура немного неудобная).

Наушники Logiteck wireless, монитор Samsung.

Под столом рюкзак Tatonka, которой уже пора на заслуженный отдых(6 лет, кажется, начала разлазиться), но которой не могу найти замены.

Ну и куча пингвинов, да. На мониторе висит шапка-пингвин. Мозаику делал сам. Есть пингвины диснеевские, пингвины ручной работы, пингвины мультяшные и даже один ёжик (сделал ему торбочку, теперь точно, как в мультике). Пингвины со Штатов (чашка-пингвин) и с Германии (маленькие, на краю полочки).

Большинство пингвинов мне подарила моя любимая девушка ^__^

На втором этаже полочки собраны тематические новогодние пингвины.

Справа, на полочке, стоит большой пингвин, приблизительно 65 см.

Ещё фотки:

https://itmages.ru/image/view/6366314/ac070215

https://itmages.ru/image/view/6366318/a617514f

На ноутбуке наклейка и название заказчика (работаю в аутстаф конторе), поэтому замалевал.

Всех с Новым Годом, который наступит буквально через 2 дня!

>>> Просмотр (4608x2592, 2549 Kb)

 , ,

PunkoIvan ()

Хочу в Антарктиду, месяцев на 6.

Форум — Talks

Привет, ЛОР!

Собственно сабж - моя бредовая мечта.

Может кто знает, какие есть варианты? Понимаю, что линупс-одмин-девопс нафиг там не сдался.

25 лет, немного умею в паяльник, сварку, могу провести инженерные расчёты(сопроматы всякие), умею в чертежи, электроразводку и прочее на-все-руки-мастер.

Базовый опыт в обслуживании дизель-генераторов 15+ кВт (фильтры там поменять, например :) )

Есть у кого может какие-то варианты с организациями обществеными?

Денег особо не хочу - если будут кормить и будет жильё - достаточно.

 , ,

PunkoIvan ()

Python GUI: wx - qt5 - gtk ?

Форум — Development

Камрады, собрался я пилить свой велосипед, да еще и с гуёвиной.

Более-менее рабочий прототип есть, подскажите годную библиотеку для гуя?

Сначала я решил юзать wx, ибо не привязано к оболочке, но на сайте у них новость про Феникс.

За кутю и gtk ничего не знаю - что активнее разивается и поддерживается?

 , , ,

PunkoIvan ()

словил руткит или какую-то дрянь

Форум — Security

Случайно заметил исходящий трафик на максимальной скорости. Посмотрел через tcpdump - уходит всё в Китай. через iptables обрубил исходящий трафик на адрес, через секунду трафик пошёл на новый.

В htopпериодически появляются процессы под безобидными именами sleep, ls, etc которые грузят проц на 200% и устанавливают соединение на Через lsof выяснил, что запускает эту штуку бинарник в /usr/bin, и для каждого процесса бинарник новый.

В кроне чисто, как запускается - не знаю, ssh только по ключам, на не стандратном порту, в браузере носкрипт и блокираторы.

Собственно, важных данных на ноуте нет, пока слежу за развитием событий.

Вопроса два:

1)как можно узнать, какой демон создаёт новые бинарники?

2)Интересно кому бинарники посмотреть? Могу выложить.

_________ fedora 24 64bit

 , ,

PunkoIvan ()

Помогите завести GPS sierra mc8741

Форум — General

Всем доброго времени суток. Еще в рошлом году купил старенький 3же модуль с поддержкой gps. Тогда пробовал завести - не вышло. Находил тут пару тему, искал в гугле - не разобрался.

Как модем устройство работает отлично.

lsusb

Bus 002 Device 001: ID 1d6b:0002 Linux Foundation 
Bus 008 Device 001: ID 1d6b:0001 Linux Foundation 
Bus 007 Device 003: ID 1199:6856 Sierra Wireless, Inc. ATT "USB Connect 881"
Bus 007 Device 001: ID 1d6b:0001 Linux Foundation 
Bus 006 Device 001: ID 1d6b:0001 Linux Foundation 
Bus 001 Device 004: ID 17ef:480c Lenovo Integrated Webcam
Bus 001 Device 001: ID 1d6b:0002 Linux Foundation 
Bus 005 Device 001: ID 1d6b:0001 Linux Foundation 
Bus 004 Device 003: ID 0a5c:2145 Broadcom Corp. BCM2045B (BDC-2.1) [Bluetooth Controller]
Bus 004 Device 002: ID 08ff:2810 AuthenTec, Inc. AES2810
Bus 004 Device 001: ID 1d6b:0001 Linux Foundation 
Bus 003 Device 001: ID 1d6b:0001 Linux Foundation 


uname
Linux 4.6.3-300.fc24.x86_64 #1 SMP Fri Jun 24 20:52:41 UTC 2016 x86_64 x86_64 x86_64 GNU/Linux
ls /dev/ttyUSB*
/dev/ttyUSB0  /dev/ttyUSB1  /dev/ttyUSB2

одно из устройств для АТ команд, одно - модем и одно - приёмник, если я правильно понимаю.

Устанавливал gpsd, подключался он нормально, вроде как, но при этом поиск спутников не происходил.

Гуёвины, типа foxtrotgps (пробовал много) подключаются к gpsd, но результата нет.

Пробовал также при запущенном gpsd смотреть gpsmon - результата нет.

Спасибо!

 , , ,

PunkoIvan ()

Jenkins-cli и все-все-все

Форум — Admin

Доброй ночи ЛОР.

Подскажите способ создать первого админ юзера в дженке через командную строку.

И было бы неплохо узнать как-то токен, чтоб можно было запихнуть его в hook-файл SVN`a.

Или проще таки написать скрипт на питоне?

Спасибо

 ,

PunkoIvan ()

Есть у кого «трансформеры» с Wacom? Потестируйте скрипт поворота дисплея.

Форум — Desktop

Есть скрипт, который я повесил на кнопку, для поворота дисплея. Использую на Thinkpad. Интересно, будет ли работать на других девайсах с Wacom.

Если не сложно, проверьте.

https://yadi.sk/d/bXrb-MY-meeca

Спасибо!

 , ,

PunkoIvan ()

Thinkpad tablet клавиши.

Форум — Linux-hardware

Добрый день.онятная сисфигня Происходит непонятная фигня на Thinkpad x200t с клавишей поворота дисплея (которая под дисплеем) - её не видит xev, то есть при нажатии вообще ничего не происходит, другие клавиши в этом ряду значения возвращают нормально.

А вот evtest нажатия видит:

Event: time 1448614319.958431, type 4 (EV_MSC), code 4 (MSC_SCAN), value 6c

Хочу забиндить на кнопку скрипт поворота дисплея.

Ядро 4.2.0-18-generic, система - убунта 15.10 Спасибо заранее.

 ,

PunkoIvan ()

RSS подписка на новые темы