В Армении прокуратура, как отдельное подразделение, впервые была организована после утверждения советского строя. По примеру Советской России на всей территории Армении утверждение единой законности и организация борьбы против преступности было поручено прокуратуре АССР, которая была создана 22 июля 1922г. Однако как отдельная структура она имела очень короткую жизнь. В декабре 1922г. с образованием Советского Союза среди других союзных государственных органов была основана также Прокуратура Верховного суда СССР и прокуратура АССР стала подчинятся подразделению этого органа в Советской Армении.

Принятая в 1937г. Конституция Советской Армении значительно повысила роль и значение прокурорского надзора, уточнило структуру прокуратуры как единую централизованную систему, которая действовала во главе Прокурора СССР. Конституция АССР определяло: высший надзор за правильным применением законов на территории АССР учреждениями подчиненными народным комиссариатам АССР, а также отдельных должностных лиц и граждан осуществляется как непосредственно со стороны Прокурора СССР так и со стороны прокурора АССР.

21 сентября 1991г. провозгласив независимость, Верховный Совет третьей Республики Армения объявил, что бывшие законодательные и другие акты будут действовать на территории страны в таких пределах, в каких не противоречат идеалам Декларации о независимости. К числу актов не противоречивших принципам был причислен также Закон СССР «О прокуратуре» и прокурорские органы независимой Республики Армения до принятия нового закона в своей деятельности руководствовались этим законом.

Одним из первых шагов на пути создания национального законодательства, регулирующего деятельность прокуратуры явилось то, что 5 октября 1995г. в структуре Прокуратуры Армении как отдельное подразделение была создана Военная прокуратура.

5 июля 1995г. была принята первая Конституция Республики Армения, ст.103 которой определяет функции и задачи прокуратуры. Национальный закон о прокуратуре был принят 1 июля 1998г., которая вступила в действие с 12 января 1999г. В начале 1999г. согласно Закону «О прокуратуре» были сформированы новые структурные подразделения Прокуратуры Армении: Генеральная прокуратура со своими управлениями и отделами, прокуратуры областей, города Еревана, общин города Еревана и военные прокуратуры гарнизонов.