Unter Präsident Ford war Rumsfeld von 1975 bis 1977 der jüngste Verteidigungsminister der US-Geschichte - im Kabinett Bush seinerzeit der älteste.

In Rumsfelds Amtszeit fällt auch die US-Invasion in Afghanistan als Reaktion auf die Anschläge vom 11. September 2001 in den USA. Wie später im Irak-Krieg entsandte Rumsfeld eine relativ kleine Truppe nach Afghanistan. Die herrschenden Taliban wurden - zumindest vorübergehend - von der Macht vertrieben. Es gelang Rumsfeld aber weder in Afghanistan noch im Irak, dauerhaft für Recht und Ordnung zu sorgen. Auch den Drahtzieher der Anschläge vom 11. September, Osama bin Laden, konnten die US-Streitkräfte nicht in Rumsfelds Amstzeit dingfest machen. Dieser wurde erst 2011, unter Präsident Barack Obama, in einer Geheimdienstaktion getötet.

Rumsfeld hatte viele Kritiker. Der US-Senator John McCain sagte 2007 über seinen Parteikollegen, dieser werde "als einer der schlechtesten Verteidigungsminister überhaupt in die Geschichte eingehen". In Verbindung mit dem Krieg trat Rumsfeld nach einer schweren Schlappe der Republikaner bei Kongresswahlen zurück.

Der US-Senat warf Rumsfeld 2008 eine Mitverantwortung für Menschenrechtsverletzungen in US-Haftlagern vor. Insbesondere der Skandal um das Gefängnis in Abu Ghraib bei Baghdad brachte Rumsfeld in Bedrängnis. Rumsfeld haftete zudem der Vorwurf an, 2002 mit der Genehmigung "aggressiver Verhörtechniken" bei mutmaßlichen Terroristen im US-Gefangenenlager Guantánamo auf Kuba zu späteren Misshandlungen beigetragen zu haben. Nach seiner politischen Karriere wechselte Rumsfeld in die Privatwirtschaft.