Андрей Яковлевич Эшпай родился 15.05.1925 года в городе Козьмодемьянске, находившимся в Марийской автономной области (в настоящее время она носит название республики Марий Эл).

Мать Валентина Константиновна Эшпай работала учителем в школе. Отец Эшпая по национальности был марийцем, он был выдающимся марийским музыкантом, основоположником профессиональной марийской музыки. Отец не был единственным талантливым ребёнком в семье, он занимался творчеством в соавторстве со своим двоюродным братом Палантаем Эшпаем. Их двоих считают основателями музыкальной школы марийцев. В семье родителей Андрея было двое детей, брат Валентин пропал без вести в 1941 году на территории Ленинградской области. Наследственная склонность к музыке передалась также от матери, сестры известного чувашского музыканта и композитора Тогаева. 

Музыкальным образованием детей в семье занимались серьёзно. Семья жила в Москве с 1928 года. Андрей учился в школе имени Гнесиных, окончил семилетку и далее продолжил школьное образование в эвакуации в городе Мариинский Посад.

Ещё в школе Андрей попытался попасть добровольцем на фронт, но не был принят в армию по возрасту. Он поступил в пулемётное училище в городе Чкалове (ныне Оренбург). Окончив училище и получив также на курсах образование военного переводчика, Эшпай был направлен на Белорусский фронт. Отличившись на фронте, военный переводчик получил орден Красной звезды за участие в боях за Берлин. Ведя допросы пленных, он получал данные, которые способствовали успехам Островской стрелковой дивизии Третьей Ударной армии, а также лично участвовал в боях, закончив войну в Берлине.

Эшпай вернулся в Москву и продолжил музыкальное образование в музыкальном училище, учился в композиторском классе и в классе фортепиано. Московскую консерваторию Андрей окончил в 1953-м, он обучался там одновременно по двум классам: композиции и фортепиано, а затем учился в аспирантуре у А.Хачатуряна.

Музыкант Андрей Эшпай выступал как пианист со своими песнями, которые со временем стали известными и популярными. Эшпай был секретарём в Союзе композиторов РСФСР с 1960 года, затем был Первым секретарём (с 1973 по 1979 гг), после его избрали секретарём СК СССР (в 1968 году). Он также стал Президентом авторского сообщества РФ. Как преподаватель композиции в консерватории Эшпай трудился с 1965 по 1970 годы, получил профессорское звание.

В мирное время, в 1985 году, Андрей Эшпай получил орден Отечественной войны Первой степени.

Песня "Москвичи" была написана десять лет спустя после победы на слова Евгения Винокура, идея заказать музыку у Эшпая принадлежала Марку Бернесу. Композиция удалась на славу, так как стихи были очень душевными, они правдиво отображали все впечатления войны самого композитора, историю гибели его брата.

Сын Андрея Эшпая стал известным кинорежиссёром. Жена сына также прославилась как актриса, это известная Евгения Симонова. Внучка Андрея Эшпая – пианистка Мария Эшпай.

Андреем Яковлевичем написано очень много музыкальных произведений, среди них есть балеты, оперы и оперетты, произведения для солистов, для хора и оркестра, девять симфоний, увертюра к опере, симфонические танцы на темы народной музыки мари, симфонические поэмы, концерты для симфонических оркестров, концерты для народных инструментов, пьесы для струнных оркестров, сочинения камерно-инструментальной музыки.