De Pieterskerk is al van ver te zien. Volgens sommigen was de toren (in de zestiende eeuw nog zo'n 100 meter hoog) vroeger zelfs vanaf de Noordzee te herkennen, vandaar de naam 'Coningh der See'. Ook nu nog is het gebouw hét ijkpunt van Leiden. De kerk die er nu staat is een zogeheten laatgotische kruisbasiliek. Dat houdt in dat de kerk is gebouwd in de vorm van een kruis, waarbij het lange gedeelte van de kerk het schip wordt genoemd en het dwarsgedeelte het transept. Het transept vormt ook de scheiding tussen het schip en het koor, het gedeelte van de kerk waar zich bij katholiek gebruik het hoofdaltaar bevindt.

De imposante muren van de kerk zijn opgetrokken uit baksteen, geheel volgens de regels van de Vlaamse gotiek. Deze bouwstijl deed in de dertiende eeuw zijn intrede in West-Nederland. De stijlen, pijlers en de raamvensters zijn opgetrokken uit natuursteen en zandsteen. De bouw van de huidige kerk begon omstreeks 1390 met als bouwmeester Rutger van Kampen. Veel van de gebruikte materialen werden kant en klaar aangeleverd, alleen de (hele) grote kerken hadden hun eigen bouwloods waar de materialen op maat werden gemaakt. Van de Pieterskerk is dit niet bekend, wat betekent dat de bouwheren van de kerk waarschijnlijk niet op hun werk woonden.

Tussen 1390 en 1415 kwam het koor gereed, het schip pas tussen 1410 en 1430. Na 1450 begon men aan de uitbreiding van de zijbeuken (de ruimte die evenwijdig loopt aan het middenschip), die een stuk breder werden gemaakt. In diezelfde periode begon men aan de bouw van het transept. Aanvankelijk was dat even hoog als de zijbeuken, waardoor het schip van de kerk een stuk boven de zijbeuken en het transept uitstak. Pas in de jaren zestig van de 16e eeuw bereikt de kerk zijn huidige omvang.