Tot 1975 waren de archieven van de toenmalige COO Gent opgeslagen in lokalen boven het oude Economaat en de Ontvangerij, op de hoek van de Zandpoortstraat en de Sint-Martensstraat. Alle vrije ruimten werden ingenomen om archieven te deponeren. Onder leiding van dhr. Radulphus Vandeputte werd destijds overgegaan tot inventarisatie.

In 1975 werd een nieuw aangekocht gebouw, in de Sint-Martensstraat, ingericht als archief. Op het eerste en het tweede verdiep was een grote zaal beschikbaar om rolkasten te plaatsen waarmee een grote plaatswinst kon gerealiseerd worden. De volgorde waarin de stukken in de rolkasten gedeponeerd werden was als volgt : Bureel van Weldadigheid, Burgerlijke Godshuizen, COO-OCMW. Tot slot was er nog ruimte beschikbaar voor de bibliotheek, met als grootste reeks het staatsblad (van 1848 tot heden). Halfweg de jaren 80 begonnen de eerste tekenen van plaatsgebrek zich te manifesteren.

In 1987 werd begonnen met de voorbereidingen voor het bouwen van het nieuw administratief complex Sint-Martensstraat, waarin een archiefkelder voorzien werd. Na enkele problemen met deze archiefkelder werd een deel hier ondergebracht en een deel in het Tehuis Leieland, nu de Campus. Maar in het najaar van 2001 moest ook daar alles verwijderd worden. Na een korte tussenstop in een archiefruimte in Drongen, werd alles in een spoedoperatie terug overgebracht naar een bergruimte op de administratieve campus aan de Watersportbaan.
In het voorjaar van 2005 werd de eerste steen van het nieuwe archiefgebouw onthuld. Dit gebouw ligt aan de Neermeerskaai tussen blokken C en D van het administratief complex gelegen tussen de Jubileumlaan en de Offerlaan. Op 16 oktober 2006 begon de verhuis van de archiefdienst naar het nieuwe gebouw. Op 1 december werd het gebouw ingehuldigd.