Le lieu de son implantation, au confluent des rivières de la Sensée et de l'Escaut, fut déterminé par le passage d'une voie romaine qui traversait la vallée. Des vestiges de cette voie romaine antique furent mis a jour au XVIIème siècle au Sud Est de la ville basse, près de la porte Roland (ou porte Chaussée). Contrôlant le cours de l'Escaut entre Cambrai et Valenciennes, Bouchain a rapidement joué un rôle dans la défense du Sud du Hainaut. C'est ce qui amena Charles Quint à en faire une place forte de première importance. La même raison poussa les français à conserver et renforcer les défenses de la ville (fin XVIIème - XIXème siècles).
Dès son origine, la ville fut bâtie et administrée comme une ville militaire partagée en deux parties, la ville haute installée sur le versant de la rive gauche de la Sensée et défendue par un château, la ville basse, située sur plusieurs iles dans le lit commun aux deux rivières et facile à protéger par inondation volontaire du marais environnant. C'est pourquoi la défense de la ville basse a été assurée jusqu'au XIXème siècle par un simple fossé dont le cours reliait la Sensée à l'Escaut.