настройка iptables (крупные статьи переехали на wikibooks)
настройка iptables (opennet)
Easy Firewall Generator for IPTables Online
l7-filter - дополнения для netfilter, позволяющее создавать правила основываясь на данных прикладного уровня.
ipset - модуль для ядра Linux к фаерволу netfilter для создания и управления наборами адресов, портов, связок ip+mac.
Так же может быть интересным
Перевод руководства по iproute2 и управлению трафиком в Linux (LARTC) -- внимательно читать оглавление - тема содержит уйму всего!!!
Введение в управление трафиком, дисциплины обработки очередей (теория) (opennet) - aka Повесть о Linux и управлении трафиком.
QoS в Linux - iproute2 и u32 селектор (хабр)
QoS в Linux - iproute2, издеваемся над трафиком (хабр)
русский MAN (opennet)
настройка ipfw (opennet)
настройка ipfw (lissyara)
Достаточно частый вопрос
Балансировка и резервирование канала (samag.ru)
начальная настройка pf (lissyara)
настройка pf как шлюза (lissyara)