В 1944 году конгресс США выступил с инициативой о создании структуры, которая координировала бы действия военных. В 1945 году армией США, военно-морскими силами США и объединённым комитетом начальников штабов был разработан план создания такой структуры. 19 декабря 1945 года, президент США Гарри Труман направил послание в конгресс США с предложением рассмотреть возможность создания унифицированного министерства национальной безопасности, которое подчинялось бы министерству транспорта. Предложение начало рассматриваться конгрессом в апреле 1946 года, но в июле 1946 года, комитет ВМС выразил обеспокоенность из-за предложенного концентрирования командования всеми родами войск одним министерством. В феврале 1947 года, Гарри Труман отправил в конгресс новый законопроект, о создании министерства обороны, где он активно обсуждался и редактировался в течение нескольких месяцев и в конечном итоге был принят.

26 июля 1947 года Гарри Труман подписывает «Закон о национальной безопасности 1947», в котором предписывается национальному военному ведомству (англ. National Military Establishment) приступить к работе 18 сентября 1947 года, а днём позже Джеймс Форрестол назначается первым министром безопасности. Но из-за того, что ведомство имело крайне неприятную аббревиатуру (National Military Establishment — NME — схоже по произношению со словом «Enemy» — враг), его было решено переименовать. 10 августа 1949 года национальное военное ведомство было переименовано в министерство обороны, и министр дополнительно получал власть над военными ведомствами пехотных, военно-морских и авиационных войск.

Министерство обороны базируется в Пентагоне, в Арлингтоне, Виргиния по другую сторону реки Потомак от Вашингтона. Оно было создано в результате совмещения военного ведомства (основано в 1789), военно-морского ведомства (основано в 1798; ранее адмиралтейский совет, основанный в 1780) и министерства военно-воздушных сил. Министерство было создано для снижения конкуренции между различными военными ведомствами, которая образовалась после окончания второй мировой войны.

Оно включает в себя ведомства пехотных, ВМС, авиационных и десантных войск. А также в министерство входят несколько не военных агентств, таких как агентство национальной безопасности (англ. National Security Agency) и агентство военной разведки (англ. Defense Intelligence Agency).

В военное время, министерство обороны также имеет полномочия управлять береговой охраной; в мирное время этот орган управляется министерством внутренней безопасности (англ. Department of Homeland Security — DHS). До создания DHS, береговая охрана контролировалась министерством транспорта (англ. Department of Transportation). Береговая охрана со времён второй мировой войны, официально не является военной организацией, но она иногда принимает участие в военных акциях и представляет закон.

Бюджет министерства обороны составляет примерно 425 миллиардов долларов (примерно $1,600 на человека), это не включая дополнительных денег, выделяемых конгрессом из года в год.

Структура министерства обороны определена в законе Голдуотера-Никольса от 1986 года. В этом законе расписан порядок управления высших чинов армии США. Главным является президент США, затем следует министр обороны, затем региональные командиры (один или несколько) которые командуют войсками в вверенных им регионе. Председатель Объединённого комитета начальников штабов (англ. Joint Chiefs of Staff) и некоторые его члены отвечают за готовность армии США и служат президентскими военными советниками, но не подчиняются командному аппарату. Председателем комитета начальников штабов по закону может быть только офицер США в высоком звании.