Wann in Cölln das erste Rathaus gebaut wurde ist nicht bekannt. Anzunehmen ist, dass es auch im Mittelalter ein Rathaus gegeben hat. Vermutlich am selben Standort. Die früheste Nachricht von dem Rathaus ist in der Chronik der Berliner Stadtschreiber erhalten. Dort sind Renovierungsarbeiten am Cöllnischen Rathaus für das Jahr 1580 vermerkt. Das Rathaus hatte einen überdachten, vorspringenden Anbau, die so genannte Gerichtslaube. Im Jahr 1612 wurden in der Gerichtslaube zwei Gewölbeträger entfernt, weil man eine Ratswaage einbauen wollte. Durch den Abriss der Träger stürzte ein Teil des Gebäudes ein. Der Wiederaufbau dauerte bis 1614. Es wurde dabei auch ein Turm an das Rathaus angebaut. Schon 1656 war die nächste Generalreparatur des Rathauses notwendig geworden.

Cöllnischer Fischmarkt mit dem Cöllner Rathaus im Hintergrund (Stich von J. G. Rosenberg 1784)

Auf Wunsch König Friedrich I., der sich auch bei den Umbauten an der St.-Petri-Kirche engagierte, sollten die beiden Stadtverwaltungen von Berlin und Cölln unter einem gemeinsamen Magistrat mit Sitz im Cöllnischen Rathaus vereinigt werden. Das alte Gebäude genügte den neuen Anforderungen nicht. Deshalb wurde ein neues Rathaus gebaut. Die Grundsteinlegung fand am 08.08.1710 statt. 1713 starb König Friedrich I. Sein Sohn, König Friedrich Wilhelm I., hatte andere politische Maximen als sein Vater. Er ordnete eine konsequente Sparpolitik an. Die Ratstagungen sollten weiter im alten Berliner Rathaus stattfinden. So wurde das Cöllner Rathaus erst 1723 fertig gestellt. Schon kurze Zeit später wurde es zweckentfremdet genutzt. Als 1730 beim Brand der St.-Petri-Kirche auch das Cöllnische Schulgebäude abbrannte, wurden die Gymnasialschüler für einige Zeit im Rathaus unterrichtet. Als das Cöllnische Gymnasium mit dem Berlinischen Gymnasium im Grauen Kloster vereinigt wurde, zog die sechsklassige Cöllnische Schule in das Rathaus ein und der Rektor bekam dort eine Wohnung. Von 1822-1870 diente das Rathaus als Sitz der Stadtverwaltung. 1880 zog das Märkische Provinzialmuseum mit seinen Sammlungen in das Rathaus ein, wobei einige Räume weiterhin von der Stadtverwaltung genutzt wurden. Zur Verbreiterung der Gertraudenstraße wurde das Cöllnische Rathaus 1899/1900 abgerissen.