Bonjour,
A part pour le filtrage des mails, il n'y a pas de besoins particuliers en logiciels pour ce que vous voulez faire;
le
routage de paquets (par une passerelle) nécessite principalement de la configuration réseau (et la présence d'interfaces réseaux). Le logiciel pour cela existe en standard sur tout système GNU/Linux qui est conçu dès le départ pour une bonne intégration réseau.
Le
filtrage de paquets (ce que vous nommez gestion de flux et firewall) est assuré par la partie du noyau nommée
Netfilter qui se configure par l'intermédiaire de la commande
iptables. Ici aussi, rien à ajouter, tout à configurer. Que du bonheur.
Donc pour le choix des logiciels pour une passerelle, aucune hésitation:
Moins il y en a, mieux c'est.
On installe un système de base, avec le moins de paquets possibles, pour limiter les failles exploitables. On configure correctement la partie réseau local et la connexion internet, et on écrit les règles de filtrage qui composent le parefeu. Pour ce dernier point, on peut utiliser des logiciels comme shorewall.
Ensuite on utilise, on surveille et on améliore.
J'espère être compréhensible.
Je rejoins Saintshakajin pour vous inciter à développer votre idée. C'est difficile de vous répondre plus précisément sans cela.