L'archiduc Joseph est né au palais impérial de la Hofburg, où tous ses frères et sœurs sont nés. L'archiduc est un enfant vif et l'un des préférés de ses parents. Sa mère, Marie-Thérèse, meurt en avril 1807 après avoir donné naissance à une fille, Amélie, elle-même décédée quelques jours plus-tard.
Le 30 juin 1807, un mois seulement après le décès de sa mère, l'archiduc, âgé de 8 ans, meurt au palais de la Hofburg de la fièvre jaune. Il est enterré à l'Église des Capucins à Vienne.
Les générations sont numérotées dans l'ordre de la descendance masculine depuis les premiers archiducs. Au sein de chaque génération, l'ordre suit celui de l'aînesse.