как узнать корневой каталог .git?

git rev-parse --show-superproject-working-tree

Но это наоборот работает только в сабмодулях.

Есть такой хук https://paste.debian.net/hidden/2c1aa6c4/ но он иногда не срабатывает, думал, что легче сделать что-то типа

cd base_dir
if flake8 |wc -l > 0
echo "please check pep8"

и потом вручную запускать flake8 в директории с проектом

Хуки запускаются из корня worktree, так что может и не надо ничего определять.

))