En mars 1890 Joubert résolut d'aller fonder un nouvel établissement à environ 30 km au sud de Mpala sur une colline dominant le lac Tanganyka. C'était à 10 minutes du lac au fond d'une plaine accidentée et très fertile à cause des terres d'alluvions. Il donna le nom Saint Louis à son poste qui prit l’allure d’une ville fortifiée du Moyen Âge, avec ses portes, ses murs crénelés et ses flanquements en briques. Joubert traça les rues de sa petite ville, la grand'place où devait s'élever l'église et à côté l'emplacement de la maison pour sa famille et toutes les dépendances nécessaires à un chef de guerre.

Ce poste devait protéger le Marungu et tout autour les villages se multiplièrent habités par des gens venant chercher aide et protection. Le plateau voisin, à 200 m. au-dessus du lac, se nomme Kirungu. C'est là que "Baudouinville" fut construite en 1893.

A cette époque, devant les attaques massives des esclavagistes, Joubert est rejoint par des officiers belges dont le Capitaine Jacques qui deviendra plus tard le Général Baron Jacques de Dixmude.

Novembre 1891:
"J'ai donc vu le Capitaine et je lui ai donné l'accolade au nom de ses amis d'Europe. Cela a été un des meilleurs moments de mon existence et le Capitaine était heureux. Quel brave et saint homme. Il est vraiment bien digne de l'enthousiasme qu'il a soulevé chez nous. Il est d'une modestie rare avec cela. Jamais il ne parlait de lui et c'est très difficile de lui arracher quelques mots sur ses hauts faits d'armes. Au surplus il n'aime pas écrire, d'autant plus que sa vue devient faible...
Malgré un séjour prolongé sous les tropiques (onze ans alors) l'ancien zouave porte allégrement ses cinquante printemps. Ses durs labeurs l'ont un tantinet voûté et sa vue s'est un peu affaiblie...
J'ai été émerveillé et surpris de tout le travail que cet homme avait pu produire dans des conditions particulièrement défavorables où il s'est trouvé, continuellement inquiété par un ennemi toujours en éveil. Missionnaire en même temps que soldat, le Capitaine enseigne aux Noirs le catéchisme, leur apprend à travailler, les soigne quand ils sont malades ou éclopés. C'est une besogne dont on ne se fait pas d'idée et le brave homme la fait toute lui-même avec une patience et un dévouement vraiment angélique".