Tras la conquista de la península por los árabes la ciudad de Jaén recobró su importancia, convirtiéndose en la capital de la taifa de Jaén. Se le concedió un walí (gobernador) y se levantaron mezquitas, fortificaciones y palacios. Durante los cinco siglos de dominio árabe Jaén fue considerada como una gran ciudad. En el siglo X, la ciudad fue conquistada por Abderramán III, convirtiéndose en la capital de la cora de Yayyan (era una de las divisiones territoriales en que estaba organizado el Califato de Córdoba). Los almorávides la incorporaron a su imperio en 1091 y los almohades la conquistaron en 1148. Durante la etapa musulmana, Jaén disponía de excelentes tierras regadas por abundantes aguas que fluían desde ríos y fuentes, lo que ayudó a que existieran bosques frondosos y gran cantidad de cultivos y cereal, así como una famosa industria de tapices y utensilios domésticos de madera que se exportaban por todo al-Ándalus y el Magreb (es la parte más occidental de los países árabes).
En 1225 la ciudad de Jaén fue sitiada por las tropas de Fernando III el Santo, dando comienzo a una feroz defensa de la ciudad por parte de los musulmanes. Más tarde la ciudad volvió a ser sitiada en 1230 y, finalmente, en 1246 la ciudad fue reconquistada por Fernando III el Santo, rey de castilla y León, a través de un pacto de vasallaje con el sultán nazarí de Arjona, Muhammad I Al-Ahmar.