Родился в Санкт-Петербурге. Отец его служил в лейб-гвардии гренадерском полку. Поступил в московский университетский благородный пансион, но занятия его были прерваны нашествием французов. В 1814 году он перешел в частный пансион Терликова, а в 1816 г. -в школу для колонновожатых, откуда в следующем году выпущен офицером в свиту императора по квартирмейстерской части. В бытность колонновожатым Вельтман составил "Начальные основания арифметики" (1817). Во время турецкой кампании Вельтман находился при главной квартире старшим адьютантом генерального штаба, а в 1831 г. вышел подполковником в отставку. Плодом полученной им перед тем командировки в Бессарабию был труд "Начертание древней истории Бессарабии" (1828). С этого времени Вельтман целиком отдался литературе, а немного позже занялся усердно и историей. Первыми его произведениями были повести "Беглец" (1831), "Странник" (1831-32), "Муромские леса" (1831). Затем последовал целый ряд исторических и фантастических романов: "МММCDXLVIII год, рукописьМартына Задеки" (1833 г.), "Кощей бессмертный" (1833), "Святославич, вражий питомец" (1835), "Лунатик" (1836), "Ротмистр Чернокнижников или Москва в 1812 г" (1837) и, наконец, масса повестей в стихах и прозе. Кроме беллетристики, Вельтман оставил несколько исторических исследований. В 1842 г. он стал помощником директора московской Оружейной палаты, а в 1845 г. был назначен членом комитета для издания "Древностей Российского государства", которые выходили под его редакцией. В 1852 г. Вельтман был назначен директором Оружейной палаты и занимал эту должность до самой смерти.