Am 28. Oktober 2009 wurde Guttenberg zum Bundesverteidigungsminister ernannt. Er war der jüngste Verteidigungsminister in der Geschichte der Bundesrepublik Deutschland und setzte sich für den verstärkten Kampfeinsatz der Bundeswehr im Süden Afghanistans ein.
Mit dem Amt übernahm er auch die Aufgabe, die Vorgänge um den Luftangriff bei Kunduz vom 3. und 4. September 2009 aufzuklären, der zur Amtszeit seines Vorgängers Franz Josef Jung erfolgt war.
Guttenberg nahm die Bundeswehr zunächst wie Jung in Schutz gegen Vorwürfe, das Bombardement sei nicht zu rechtfertigen, bestritt dagegen aber nicht mehr wie Jung, dass Zivilisten getötet wurden. Gleichwohl bezeichnete er die Aktion am 6. November 2009 als „militärisch angemessen“.
Am 3. Dezember 2009 revidierte er diese Aussage.
Aufgrund von Vorwürfen der Oppositionsparteien über den bisherigen Informationsfluss zum Vorfall bei Kunduz wurde ein Untersuchungsausschuss gebildet. Guttenberg sagte, dass er sich vor seiner ersten Stellungnahme zum Luftschlag bei Kundus telefonisch mit Wolfgang Schneiderhan auf einen konkreten Wortlaut verständigt habe.
In dieser Erklärung hatte Guttenberg das Bombardement nicht nur als militärisch angemessen, sondern als unvermeidlich bezeichnet. Schneiderhan dagegen sagte aus, er habe Guttenberg keineswegs empfohlen, den Luftschlag als unvermeidlich darzustellen.
Widersprüchlich waren auch Darstellungen eines Gesprächs, das zur Entlassung Peter Wicherts und Schneiderhans geführt hatte.
Im April 2010 brach Guttenberg ein Tabu beim Thema Afghanistaneinsatz: Er räumte ein, man könne „umgangssprachlich von Krieg“ in Afghanistan reden.
Er löste damit eine Diskussion aus. Im Rahmen der Berliner Sicherheitskonferenz im November 2010 forderte Guttenberg, ähnlich wie der damalige Bundespräsident Horst Köhler zuvor, wirtschaftliche Interessen Deutschlands auch militärisch abzusichern.
Demnach müsse der „Zusammenhang von regionaler Sicherheit und deutschen Wirtschaftsinteressen offen und ohne Verklemmung angesprochen werden“. SPD und Grüne reagierten mit scharfer Kritik: „Das Grundgesetz erlaubt keine Wirtschaftskriege.“Guttenberg bekräftigte seine Aussage bei einer Gastrede auf dem CDU-Parteitag am 15. November 2010.
Anfang 2010 gab Guttenberg eine Defizitanalyse zur Erkennung von Stärken und Schwächen der aktuellen Bundeswehrsituation in Auftrag. Am 12. April setzte er die Bundeswehr-Strukturkommission ein, deren Vorsitz durch den Chef der Bundesagentur für Arbeit, Frank-Jürgen Weise, übernommen wurde.
Deren Empfehlungen sollen eine umfassende Umstrukturierung der Bundeswehr vorbereiten, mit dem Ziel, die Verteidigungsressourcen Deutschlands den aktuellen und künftigen sicherheitspolitischen Herausforderungen anzupassen.
Am 23. August 2010 stellte Guttenberg der Regierungskoalition fünf verschiedene Modelle zur künftigen Struktur der Streitkräfte vor. In allen Modellen wurde von 150.000 bis 180.000 Zeit- und Berufssoldaten ausgegangen.
In einigen Modellen wurde die Aussetzung der Wehrpflicht geplant, während andere von 25.000 Grundwehrdienstleistenden und 25.000 freiwilligen zusätzlichen Wehrdienstleistenden ausgingen. Auch Varianten mit 30.000 Grundwehrdienstleistenden oder generell freiwillig Wehrdienenden waren darunter.
Am 1. September 2010 unterrichtete Guttenberg die Verteidigungsausschüsse von Bundestag und Bundesrat über den aktuellen Sachstand der Ergebnisse der Strukturkommission.
Der Zwischenbericht des Generalinspekteurs ergab, dass die Bundeswehr kleiner werden soll. 163.500 Soldatinnen und Soldaten – 156.000 Berufs- und Zeitsoldaten plus mindestens 7.500 bis 23 Monate freiwillig Wehrdienende – wurde als „absoluter Mindestumfang“ bezeichnet. Weiterhin wurde die Aussetzung der Wehrpflicht empfohlen.
Im Grundgesetz soll die Wehrpflicht allerdings weiterhin bestehen bleiben.
Am 26. Oktober 2010 wurde der Abschlussbericht der Strukturkommission an Karl-Theodor zu Guttenberg übergeben. Die Ergebnisse sehen vor, dass Musterung und Einberufung zukünftig ausgesetzt werden, da die Verpflichtung zum Grundwehrdienst auf absehbare Zeit sicherheitspolitisch nicht mehr erforderlich ist. Die 7.000 Soldaten, die derzeit an aktiven Einsätzen teilnehmen, sollen auf 18.000 mehr als verdoppelt werden.
Die Bundeswehr soll auf rund 180.000 Soldaten und etwa 50.000 Dienstposten für zivile Beschäftigte reduziert werden. Außerdem wird empfohlen, das Verteidigungsministerium von Bonn komplett nach Berlin zu verlegen und die Anzahl der Dienstposten zu halbieren.
Ein auf Guttenbergs Initiative gestellter Antrag des CSU-Vorstandes, die Wehrpflicht auszusetzen, wurde auf dem CSU-Parteitag am 29. Oktober 2010 mehrheitlich angenommen. Auch der CDU-Parteitag stimmte dem am 15. November 2010 mehrheitlich zu, nachdem Guttenberg zuvor in einer Rede bei den Delegierten für seine Bundeswehrreform geworben hatte.
Die bisher ausgearbeiteten Maßnahmen der Bundeswehrreform wurden von verschiedenen Seiten als nicht gründlich genug vorbereitet und durchdacht kritisiert.
Nachdem bekannt wurde, dass Guttenberg einen Großteil seiner Dissertation nicht selbst geschrieben hatte, was er anfangs noch abstritt, reichte er am 1. März 2011 sein Entlassungsgesuch ein.
Diesem wurde am 3. März 2011 mit der Überreichung der Entlassungsurkunde durch den Bundespräsidenten entsprochen. Nachfolger wurde der bisherige Innenminister Thomas de Maizière.
