Никак, java не умеет работать с freetype, у нее свой способ сглаживания с преферансом и поэтессами. Как вариант можно попробовать выставить субпиксельное сглаживание и натянуть на приложение gtk шкуру:
При этом в том же Eclipse у меня совершенно нативное сглаживание со всеми патентованными алгоритмами. А вот в NetBeans/IDEA/etc - там да, сглаживание своё. Хоть и субпиксельное, но совершенно вырвиглазно-радужное...
Кроме Elcipse попадались и другие Java-приложения с совершенно нативным рендерингом. Но не часто.