Fils du chancelier Michel Le Tellier, associé à son père dès 1662 au secrétariat d'État à la Guerre, il fut, avec lui, le réorganisateur de l'armée française. Il améliora le recrutement, régularisa l'avancement, dota l'infanterie de la baïonnette, organisa un corps d'ingénieurs et des écoles de cadets. Il créa par ailleurs l'hôtel des Invalides. Véritable ministre des Affaires étrangères de 1672 à 1689, il dirigea une diplomatie brutale qui conduisit à l'attaque des Provinces-Unies (1672), à la politique des « réunions » à partir de 1679 et à la dévastation du Palatinat (1689). Il fut aussi l'instigateur des dragonnades, menées à l'encontre des protestants. Surintendant des bâtiments, arts et manufactures (1683), il se montra mécène fastueux.