De geschiedenis van het bedrijf Openbare Werken gaat terug tot ongeveer 1428. In dat jaar is de eerste stadsarchitect onder de naam 'Timmermeester' aangesteld. In 1570 werd de titel van 'Stadstimmermeester' veranderd in die van 'Fabriek', een benaming van wat tegenwoordig 'Directeur' wordt genoemd. Openbare Werken werd in vroegere eeuwen 'Stadsfabriek' genoemd. Rond 1900 werd gesproken van 'Dienst'. In 1902 werd voor het eerst gesproken van 'Dienst van Openbare Werken'. (zie invnr. 6247: 'Een kiek van een stadsfabriek, enkele notities over een eeuwenoude Haarlemse dienst', P. Jongens, 1979).

In 1919 werd aan de dienst Openbare Werken het Grondbedrijf toegevoegd. Vanaf 1929 kreeg de dienst zijn bedrijfsvorm en werd vanaf dat moment aangeduid als 'Bedrijf Openbare Werken/Gemeentelijk Grondbedrijf'.
Openbare Werken viel onder het gemeentebestuur van Haarlem, hetgeen inhoudt dat Openbare Werken voor de beleid- en taakuitvoering toestemming nodig had van de portefeuillehouder in het College van Burgemeester en Wethouders van Haarlem.
Het Gemeentelijk Grondbedrijf en Openbare Werken zijn met elkaar verweven. Formeel was het Grondbedrijf echter een zelfstandig bedrijf en waren Openbare Werken en het Grondbedrijf financieel juist niet met elkaar verweven. De diensten hadden dus strikt gescheiden administraties. In de praktijk hielden de diensten gezamenlijk kantoor en maakten alle medewerkers deel uit van Openbare Werken. Bovendien was de algemeen directeur niet alleen directeur van Openbare Werken, maar ook van het Grondbedrijf. In de praktijk werd het Grondbedrijf als afdeling binnen Openbare Werken gezien.
Het Bedrijf Openbare Werken bestond uit de volgende afdelingen: Directie, Staf, Personeelszaken, Interne Zaken, Financiële administratie Openbare Werken en administratie Grondbedrijf, Kredietbewaking, Centraal Bedrijfsbureau, Civiel, Verkeer, Stadsontwikkeling, Bouwkunde en Grondbedrijf.

De afdeling Bouwkunde werd in 1956 uitgebreid met een aparte afdeling voor het beheer en het instandhouden van het cultureel erfgoed (bureau Monumentenzorg). In de jaren 1981-1985 is het bureau Planologisch Onderzoek en Statistiek onderdeel geweest van Openbare Werken. In 1986 is dit bureau ondergebracht bij Secretariaat en Kabinet van de Gemeentesecretarie.
De Directie binnen het Bedrijf Openbare Werken werd gevoerd door een algemeen directeur en een technisch directeur. De algemeen directeur bemoeide zich met de overheadafdelingen, Stadsontwikkeling en het Grondbedrijf, terwijl de technisch directeur zich ontfermde over de overige vakafdelingen.

Van 1922 tot 1967 bevond de Dienst/het Bedrijf Openbare Werken zich in het pand aan de Jacobijnestraat 24, waarna het Bedrijf Openbare Werken het pand Koningstein aan het Zuider Buiten Spaarne 22 betrok.
De taken van het Bedrijf Openbare Werken zijn als volgt onder te verdelen:
- Verwerven van gronden en opstallen. Te denken valt aan aangelegenheden op het terrein van verkoop/huren en verhuren van gronden en opstallen. De rol van Openbare Werken was hierbij adviseren over, alsmede vaststellen van de grondprijs of de prijs voor opstallen, voordat tot aankoop of verkoop werd overgegaan. Binnen Openbare Werken werden deze aangelegenheden behandeld door het Grondbedrijf, dat ook de administratie betreffende grondtransacties bijhield.
- Beheren van gronden en opstallen. Te denken valt aan exploiteren en onderhouden van gronden en opstallen. Grond dat eigendom was van de gemeente werd deels verhuurd aan externen. Openbare Werken hield hiervan de administratie bij en zorgde voor onderhoud aan verhuurde opstallen in beheer van de gemeente. Openbare Werken voerde ook onderhoudswerken uit bij gemeentelijke eigendommen die niet verhuurd werden.

- Planontwikkeling m.b.t indeling/inrichting van het grondgebied. Te denken valt aan het opstellen van bestemmingsplannen. De rol van Openbare Werken bij de totstandkoming van bestemmingsplannen en uibreidingsplannen was adviserend en bemiddelend. Met name de afdelingen Stadsontwikkeling en het Grondbedrijf hielden zich bezig met de voorbereiding van dergelijke plannen.
- Planontwikkeling m.b.t verkeersaangelegenheden. Te denken valt aan het opstellen van verkeerscirculatieplannen. Met het oog op het stroomlijnen van het verkeer en de aanpak van verkeersoverlast in de gemeente legde het Bedrijf Openbare Werken (met name de afdeling Verkeer) zich toe op het ontwerpen van verkeerscirculatieplannen.
- Realiseren van werken. Te denken valt aan het bouwen en aanleggen van gebouwen, zoals sportaccommodaties, schoolgebouwen en panden die voor de dienst bestemd waren, aanleggen van rioleringen, wegen, fiets- en voetpaden en bruggen. Met name de afdeling Civiel binnen het Bedrijf Openbare Werken richtte zich op het realiseren van dergelijke werkzaamheden.
- Daarnaast hield Openbare Werken zich ook bezig met het adviseren aan het gemeentebestuur over het vaststellen en verstrekken van subsidies aan scholen voor het realiseren van schoolgebouwen of het plegen van groot en klein onderhoud.
- Bewaken van het cultureel erfgoed. Te denken valt aan het adviseren over subsidieaangelegenheden voor monumentenzorg. De rol van Openbare Werken hierbij was vooral adviseren over de wijze waarop subsidie aangevraagd kon worden om monumentale panden te restaureren, verbouwen of onderhouden. Ook particulieren die een monument in eigendom hadden, konden bij Openbare Werken terecht voor advies over subsidieaanvragen betreffende restauratie, verbouwing en onderhoud van monumentale panden. Bovenstaande taken van het Bedrijf Openbare Werken zijn vaak met elkaar vervlochten en vullen elkaar aan. De afzonderlijke taken zijn dus niet absoluut te onderscheiden.

Zoals blijkt uit de hierboven vermelde taken, was de rol van Openbare Werken met name adviserend. Op grond van de door Openbare Werken uitgebrachte adviezen werd al dan niet het gemeentelijk beleid bepaald en uitgevoerd.
In 1979 vierde het Bedrijf Openbare Werken zijn 50-jarig jubileum (zie inv.nrs. 6247: 'Een kiek van een stadsfabriek, enkele notities over een eeuwenoude Haarlemse dienst', P. Jongens, 1979 en 6285: 'Feestprogramma met foto's betreffende de viering van het 50-jarig bestaan van Openbare Werken, alsmede feesteditie van het personeelsblad "Openbaringen" in het kader van het 50-jarig jubileum, 1979'.
Binnen het Bedrijf Openbare Werken hebben een aantal reorganisaties plaats gevonden met het oog op het vergroten van de effiency van de afzonderlijke afdelingen. Deze reorganisaties hebben plaats gevonden in 1967, 1981 en tenslotte in 1991.