Через about:config никак. Вот советуют:
Цитата:
Для тех, кому не нравится новое (без рамки) оформление кнопок на панели навигации — расширение Classic (Small) Toolbar Buttons.
http://forum.mozilla-russia.org/viewtopic.php?pid=573067#p573067
P.S. Стилем еще, наверно, можно.