Исправление w1nner, (текущая версия) :
Удалить вот так sudo apt-get purge kde-standard либо sudo apt-get purge kde-full
А вообще лучше ручками. Ищещь aptitude search kde и удаляешь кде-шные пакеты.
Исходная версия w1nner, :
Удалить вот так sudo apt-get purge kde-standard либо sudo apt-get purge kde-full