Voici les titres de ses premières œuvres
— L'Héritière de Birague, histoire tirée des manuscrits de Dom Rago, ex-prieur des Bénédictins, mise au jour par ses deux neveux, M. A de Viellerglé, auteur des Deux Hector et de Charles Pointel, et Lord R'Hoone. Paris, Hubert, 1822, 4 vol. in-12. (Dom Rago est le pseudonyme d'Etienne Arago ; A. de
rent pas de succès. Après deux ans, on lui coupa les vivres et il dut rentrer sous le toit paternel1.
Le jeune homme se désespère. L'avenir est bien noir devant lui. Il voudrait être riche, il voudrait être célèbre, il voudrait être aimé5.
Viellerglé, celui de M. Le Poitevin Saint- Aime ; et Lord R'Hoone, l'anagramme d'Honoré [de Balzac].) — Jean-Louis ou la fille trouvée, par A. de Viellerglé et Lord R'Hoone, auteur de l'Héritière de Birague. Paris, Hubert, 1822, 4 vol. in-12.
— Clotilde de Lusignan, ou le Beau Juif ; manuscrit trouvé dans les archives de Provence et publié par Lord R'Hoone. Paris, Hubert, 1822, 4 vol. in-12. (Réimprimé en 1840, sous le titre de L'Israélite dans les Œuvres complètes d'Horace de Saint- Aubin, tomes XI et XII. Horace de Saint-Aubin est un pseudonyme de Balzac). — Le Centenaire, ou les deux Béringheld, publié par M. Horace de Saint-Aubin, auteur du Vicaire des Ardennes. Paris, Pollet, 1822, 4 vol. in-12. — Le Vicaire des Ardennes ; publié par M. Horace de Saint-Aubin, bachelier es lettres, auteur du Centenaire. Paris, Pollet, 1822, 4 vol. in-' 2.
— La Dernière fée, ou la nouvelle lampe merveilleuse, par M. Horace de Saint-Aubin. Paris. J. N. Barba; G. C. Hubert; B. Aiondor; A. Bobée, 1823, 2 vol. in-12. — Annette et le Criminel, ou suite du Vicaire des Ardennes. Paris, Emile Buissot, 1824, 4 vol. in-12. — Du Droit d'ainesse, par M. D***. Paris, Delongchamps; Dentu ; Petit, 1824, in-8. — Histoire impartiale des Jésuites. Paris, Delongchamps ; Maze, 1824, in-16. (Anonyme.)
— Wann-Chlore. Paris, Urbain Canel ; Delongchamps, 1825, 4 vol. in-12. (Anonyme. Réimprimé sous le titre de Jane la Pâle dans les Œuvres complètes d'Horace de Saint-Aubin, tomes IX et X).
— Code des gens honnêtes ou l'art de ne pas être dupe des fripons. Paris, J. N. Barba, 1825, in-18. (Anonyme. Réimprimé, en 1854, avec le nom de l'auteur.) — Petit Dictionnaire critique et anecdotique des enseignes de Paris par un batteur de pavé. Paris, chez les marchands de nouveautés, 1826, in-16. (Un batteur de pavé est le pseudonyme de Balzac.)