У єврейській Біблії немає детального опису архітектури Храму, крім того, що це було шістдесят ліктів у ширину та висоту, і був побудований з каменю та бруса. У Другому Храмі Святая Святих (Кодеш Хакодашим) була відділена завісами, а не стіною, як у Першому Храмі.
Немає відомого детального плану Другого храму, який був побудований як скромна версія оригінальної будівлі. Його оточували два двори з палатами, воротами та площею. Він не включав ритуальні предмети Першого храму; Особливе значення мала втрата самого Ковчега.
На своїй висоті, Храм займав 450 акрів і мав висоту 100 ліктів (приблизно 45 метрів).. Римський історик Йосиф Флавій описав Другий храм як мав 10 входів; кілька дворів; ритуальні купання; місце для жертовних тварин і Святая Святих.
Храми зазвичай мають головну будівлю та більшу дільницю, яка може містити багато інших будівель, або може бути куполоподібною структурою, схожою на іглу. Це слово походить із Стародавнього Риму, де храм являв собою священну ділянку за визначенням священика або авгура.
Згідно з Вавилонським Талмудом (Йома 22b), у Другому Храмі не вистачало п’яти речей, які були в Храмі Соломона, а саме: Ковчег, священний вогонь, Шекіна, Святий Дух, Урім і Туммім.
У Другому Храмі не вистачало різних святинь, у тому числі Ковчега Заповіту з Кам’яними Скрижалями, перед яким розміщували горщик з манною та жезл Аарона, Урім і Туммім (об’єкти для ворожіння, що містяться в Гошен), святу олію та священний вогонь.