Tal y como es natural en una institución de este tipo, la historia del Archivo Universitario se desarrolla paralelamente a la de la propia Universidad de Granada, creada por Carlos V en 1532, según lo indicado por el papa Clemente VII en una Bula de 1531, que se conserva entre sus fondos, (junto a otros documentos fundacionales). No obstante, la enseñanza universitaria en esta ciudad tenía sus precedentes en el anterior periodo musulman, en el que Yusuf I fundó la Madraza. Con posterioridad, se produjeron importantes ampliaciones, posibilitadas por hechos como la donación de Juan Crespo Marmolejo en 1626 (considerada una segunda fundación por su importancia), o la incautación del patrimonio de los jesuitas en 1767.
Ya en sus primeras Constituciones (1542), se recogen en el apartado XLVI las funciones del Secretario General con respecto a la custodia de los documentos que eran generados por los órganos de gobierno de la Universidad. En el texto de los Estatutos actualmente en vigor, podemos encontrar en el art. 197.4: "El Archivo depende orgánicamente del Secretario General" .
El núcleo documental original se irá engrosando paulatinamente, según se produce el desarrollo de la institución universitaria. Aparece entonces la necesidad de confeccionar unos instrumentos que permitan la identificación y el control de dicha documentación, realizándose sucesivamente varios inventarios del Archivo Universitario, entre 1599 y 1778. Mediante el estudio de los mismos y la comparación con los fondos existentes actualmente, puede deducirse que se han producido numerosas pérdidas de documentación relevante. Ya en la segunda mitad del siglo XIX (1886), la situación empeora al producirse un incendio, motivado al parecer para ocultar un robo, que afectó gravemente a la estancia que alojaba al Archivo, situada de forma anexa a la Secretaría General de la Universidad, y que motivo la destrucción y el deterioro de una gran cantidad de documentación.
A finales del siglo XIX y principios del XX se producen numerosas ampliaciones de las instalaciones universitarias, aunque no se realiza ninguna intervención sobre el Archivo hasta los años 50, fecha en que se hace cargo del mismo un funcionario del Cuerpo de Archiveros, fruto de cuyo trabajo es el inventario actualmente en servicio.
A lo largo de su historia, el Archivo ha tenido su ubicación en el edificio del Rectorado, (pasando así de la antigua Curia a la actual facultad de Derecho, hasta ubicarse en el Hospital Real en 1980), de donde se trasladó al Edificio Santa Lucía, que aloja diversos servicios administrativos de esta Universidad, permaneciéndo allí hasta el año 1999.
Actualmente, la sede del Archivo Universitario de Granada es el Edificio de Documentación Científica, donde se encuentra la sala de consulta de la documentación y un depósito, acondicionado convenientemente para la óptima conservación de los materiales. Además, el Archivo mantiene además dos depósitos de documentación más, uno ubicado en los sótanos de la Biblioteca Biosanitaria, y otro situado en una nave de la localidad de Atarfe.