La ville a été fondée sur une banque de la rivière Jawhar par Idris I en 789, fondateur de la dynastie Idrisid. Son fils, Idris II (808), a construit une colonie sur la rive opposée du fleuve. Ces colonies deviendraient bientôt deux sites fortifiés et largement autonomes, souvent en conflit les uns avec les autres: Madinat Fas et Al-Aliya.
En 808, Al-Aliya a remplacé Walili comme la capitale des Idrisides.
L’émigration arabe à Fès, incluant 800 familles andalouses d’origine berbère en 817-818 expulsées après une rébellion contre les Omeyyades de Córdoba, l’Andalousie, et 2000 familles arabes bannies de Kairouan (Tunisie moderne) après une autre rébellion en 824, a donné à la ville son arabe personnage. Les Andalous se sont installés dans ce qu’on appelle le «vieux» Fez, tandis que les Tunisiens ont trouvé leur maison dans le «nouveau» Fez, également appelé al-Aliya. Ces deux vagues d’immigrants donneraient par la suite leur nom aux sites Adwat Al-Andalus et Adwat al-Qarawiyyin. La majorité de la population était d’origine arabe, et la minorité était d’origine berbère nord-africaine, avec des Berbères ruraux de la campagne environnante qui s’y installèrent durant cette période, principalement à Madinat Fas (le quartier andalou) et plus tard à Fès Jdid.
À la mort d’Idris II en 828, le territoire de la dynastie a été divisé entre ses fils. L’aîné, Muhammad, a reçu Fès. Le pouvoir Idrisid nouvellement fragmenté ne serait plus jamais réunifié. Pendant le règne de Yahya ibn Muhammad à Fez, la mosquée Kairouyine, l’une des plus anciennes et des plus grandes d’Afrique, a été construite et son université associée, Al Quaraouiyine, a été fondée (859). On sait peu de choses sur Fès Idrisid , en raison de l’absence de récits historiques complets et que l’architecture et l’infrastructure du début de Fès (Al-Aliya) ont peu survécu. Les sources qui mentionnent Fès Idrisid, décrivent un plutôt rural, n’ayant pas la sophistication culturelle des villes importantes d’Al-Andalus et d’Ifriqiya.
Au Xe siècle, la ville a été contestée par le califat de Cordoue et le califat fatimide de Tunisie, qui a dirigé la ville à travers une foule de clients Zenata. Les Fatimides prirent la ville en 927 et expulsèrent les Idrissides, après quoi leurs Miknasa y furent installés. Les Miknasa ont été chassés de Fès en 980 par les Maghrawa, leurs compatriotes Zenata, alliés du califat de Cordoue. C’est à cette période que le grand souverain andalou Almanzor commanda au Maghrawa de reconstruire et de réaménager la mosquée Al-Kairouan, en lui donnant une grande partie de son aspect actuel. Selon le Rawd al-Qirtas et d’autres sources de l’époque mérinide, l’émir maghrébin Dunas Al-Maghrawi a comblé les espaces ouverts entre les deux médinas et les rives de la rivière, les divisant par de nouvelles constructions.
Ainsi, les deux villes se sont accrues l’une dans l’autre, n’étant séparées que par leurs murs et la rivière. Ses fils ont fortifié la ville dans une large mesure. Cela ne pouvait pas empêcher l’émir almoravide Ibn Tashfin de le conquérir en 1070, après plus d’une décennie de combats contre les guerriers Zenata dans la région et d’assiégeage constant de la ville.
