La naissance de l’ají de gallina est attachée à la ville péruvienne de Lima (carrefour des influences espagnoles, africaines, chinoises, japonaises…), pendant la période coloniale (XVIᵉ–XVIIIᵉ siècles), donc après l’arrivée des Espagnols. Sa racine lointaine est souvent identifiée comme le menjar blanc (ou manjar blanco), un plat catalan médiéval (dès le XIVᵉ siècle) qui était à l’origine, une sorte de ragoût sucré à base de blanc de poule, d’amandes, de riz et de sucre, servi comme mets raffiné. Avec la conquête et la colonisation, ce plat est apporté au Pérou par les Espagnols, puis adapté aux ingrédients locaux : le sucre et les amandes sont peu à peu réduits ou supprimés mais on intègre le piment jaune péruvien (ají amarillo), la pomme de terre, et d’autres produits andins. Jusqu’au début du XIXᵉ siècle, l’ancêtre de l’ají de gallina restait donc un plat plutôt doux et légèrement sucré, et à partir de 1839, le plat évolue vers une version salée et épicée, plus proche de celle que l’on connaît aujourd’hui.

Le nom du plat signifie littéralement « piment de poule » car traditionnellement, on utilisait une poule plutôt qu’un poulet. En effet, la poule, plus âgée, a une chair plus ferme et plus goûteuse, idéale pour les longs mijotés, mais elle demande un temps de cuisson beaucoup plus long. Avec le temps, surtout à partir du XXᵉ siècle, le poulet (plus tendre et plus rapide à cuire) a largement remplacé la poule dans la version courante, même si le nom ají de gallina est resté.