А ты раньше собирал firefox на этом компе? Может забьёшь и бинарники поставишь? Могу ещё посоветовать иксы погасить перед сборкой, освободит пару сотен мегабайт, чтобы свопом активно не шуршал слишком активно, иногда помогает проскочить очень тяжёлые места.
Я бы добавил ещё столько же swap-файлом и посмотрел на результат. Шут его знает, что они там в 57 понакрутили, может требования к сборке повысились на порядок.
Что-то не вижу в твоем сообщении ошибки компиляции, написано же что 'compile' has already executed, skipping. Разве skipping не означает, что все скомпилилось. Дальше надо делать