Fue el centro de Cusco en sus orígenes, cuando la ciudad fue fundada por Manco Cápac. En ese entonces su nombre era Huacaypata (en quechua: quejido, lamento) y desde allí partían los caminos hacia las 4 regiones o suyos del Tahuantinsuyo. Alrededor de ella se construyeron los palacios reales de los reyes incas. Era el sitio elegido para celebrar el Inti Raymi en honor del dios Sol, que se celebraba en el año nuevo solar, el 24 de junio. También se celebraban allí las fiestas militares luego de los triunfos en batallas. En definitiva, fue el centro administrativo, religioso y cultural de la capital del imperio.

Después de la conquista fue ocupada por los españoles, quienes la rodearon de templos y mansiones construidas sobre los palacios incas de alrededor. La plaza, enmarcada en arcos monumentales, hace que la ciudad se asemeje a las ciudades de España del siglo XVII. Actualmente, la Plaza de Armas también es el núcleo del Cuzco moderno, y está rodeada por restaurantes, joyerías, agencias de viaje, museos y templos coloniales construidos a su alrededor, que se mantienen como tales o funcionan como museos.