Voici deux textes, très significatifs, de M. Hervé
« Tant qu'il y aura des casernes pour l'édification et la moralisation des soldats de notre démocratie, pour déshonorer à leurs yeux le militarisme et les guerres de conquête, je voudrais qu'on rassemblât dans la principale cour du quartier toutes les ordures et tout le fumier de la caserne et que solennellement, en présence de toutes les troupes en tenue n" 1, au son de la musique militaire, le colonel, en grand plumet, vint y planter le drapeau du régiment. » Le Socialiste, 21 juillet 1901, reproduit dans la Revue de l'Enseignement primaire, 8 décembre 1903, p. 116, 118.
Plus tard, le 31 décembre 1907, en défendant les antimilitaristes, M. Hervé fait cette déclaration saisissante : « Comme vous autrefois, ces enfants vénéraient l'idée de patrie et saluaient bien bas le drapeau. Mais la laïque, peu à peu, a descendu de son piédestal la grande puissance d'autrefois, l'Église catholique. Alors, à la foi a succédé l'esprit critique, et ils ont vu bientôt que le patriotisme n'est qu'une sorte d'attrape-nigaud pour maintenir les privilèges des riches. »