autodefrag: как это работает?

Из https://btrfs.wiki.kernel.org/index.php/Mount_options :

Will detect random writes into existing files and kick off background defragging.

Чуть больше подробностей можно найти в списке рассылки linux-btrfs, например тут:
https://mail-archive.com/linux-btrfs@vger.kernel.org/msg49424.html
https://mail-archive.com/linux-btrfs@vger.kernel.org/msg48804.html

По поводу нагрузки: насколько я помню в этом же листе рассылки часто упоминалось, что autodefrag в целом мало влияет на производительность на файлах до 1 гигабайта, после этого может наблюдаться деградация производительности на HDD: https://mail-archive.com/linux-btrfs@vger.kernel.org/msg46461.html

Возможно стоит задать вопрос в самом linux-btrfs.