Гвоздев родился в 1897 году в Тульской губернии. В 1922 году он окончил Институт инженеров путей сообщения в Москве и сразу включился в работу строительных организаций Наркомата путей сообщения. Параллельно начал читать лекции в МИИТ, МВТУ и Военно-инженерной академии. Уже в 1927 году, выступая на Первой всесоюзной конференции по бетону и железобетону, Гвоздев предложил внедрять сборные конструкции – тогда это было новаторством. Его доводы были признаны настолько весомыми, что метод сборного строительства был закреплён в директивных документах партийной конференции.
Настоящий прорыв произошёл в 1934 году, когда Гвоздев опубликовал работы «О пересмотре расчёта железобетонных конструкций» и «К вопросу о расчёте изгибаемых моментов по стадии разрушения». Он отказался от традиционного расчёта по упругим напряжениям и предложил оценивать несущую способность конструкций по их предельному состоянию – то есть по фактическому разрушению. Это позволило более полно использовать ресурсы материала, снизить расход стали и бетона без потери надёжности.
В годы Великой Отечественной войны Алексей Гвоздев был призван в Красную армию. На фронте он занимался исследованием воздействия взрывной волны на железобетонные укрепления и внёс практический вклад в совершенствование фортификационных сооружений.
С 1942 года и на протяжении двадцати лет Гвоздев был профессором кафедры железобетонных конструкций Московского инженерно-строительного института. В этот период под его руководством разрабатывались основные нормативные документы, инструкции и учебники для вузов. Его теоретические и экспериментальные исследования оперативно внедрялись в строительную практику. Особое значение имели работы по армированию железобетона – они позволяли оптимизировать расположение стержней в теле конструкции.
Алексей Алексеевич непосредственно участвовал в проектировании и строительстве ключевых объектов страны: Московского метрополитена, высотных административных и жилых зданий, гидротехнических сооружений, Останкинской телебашни и др. Научное наследие Гвоздева насчитывает 170 трудов, многие из которых получили мировое признание. За свои достижения он удостоен званий Героя Социалистического Труда, лауреата Государственной премии СССР, заслуженного деятеля науки и техники РСФСР. Награждён орденами Ленина, Трудового Красного Знамени, Красной Звезды, медалью «За боевые заслуги».
Гвоздев был одним из основателей научной школы теории железобетона. Разработал методы расчёта железобетонных конструкций по предельным состояниям и теорию расчёта статически неопределимых конструкций методом предельного равновесия. В 2007 году его имя было присвоено Научно-исследовательскому институту бетона и железобетона, у истоков создания которого он стоял.
Алексей Алексеевич Гвоздев скончался в 1986 году в возрасте 89 лет и похоронен на Ваганьковском кладбище. Разработанные им принципы расчёта продолжают применяться в проектировании, а его работы остаются актуальными в инженерной практике по сей день.