Berdirinya sebuah klenteng tidak lepas dari sejarah perkembangan kawasan pecinan. Kira-kira th 1628 komunitas Tionghoa di Simongan yang dipimpin Souw Pan Djiang ikut serta dalam pemberontakan melawan Mataram yang berpihak kepada VOC. Tetapi para pemberontak Tionghoa ini kalah dan akibatnya mereka dipindahkan ke daerah di bawah pengawasan VOC . Daerah itu dikelilingi oleh sungai (utara, timur dan selatan) sedangkan sebelah barat berupa tanah terbuka. Sejak saat itu daerah tersebut menjadi permukiman masyarakat tionghoa. Pada abad tersebut di Lasem diperkirakan sudah berdiri sebuah kelenteng yang bernama Cu Ankiong.
Pada Th 1672 diterapkan desentralisasi di kampung tionghoa oleh VOC. Untuk mengatur permukiman tersebut VOC menunjuk salah seorang pedagang Tionghoa yang bernama Kwee Kiauw Loo sebagai kapten. Kewajiban Kapten ialah menjaga keamanan dan memberikan pajak pada VOC.
Enam tahun kemudian yaitu pada Th 1678 VOC telah berhasil menguasai seluruh daerah Semarang. Karena Semarang dianggap lebih strategis maka dibangunlah sebuah benteng. Lebih kurang 19 th VOC mempersiapkan pusat pemerintahannya di Jawa Tengah, yaitu pada th 1697 benteng selesai dibangun. Sejak itu VOC memindahkan pemerintahan daerah Jawa Tengah dari Jepara ke Semarang.
Pada Th 1684 kapten Kwee Kiauw Loo kembali ke Batavia, kedudukannya kemudian digantikan oleh Kwee An Say . Oleh masyarakat pribumi Kwee An Say dikenal dengan sebutan Kiai Ang See. Pada masa itu masyarakat Tionghoa mendominasi kegiatan perekonomian yaitu ekspor dan impor. Oleh karena itu terjadi dua inti kota yaitu pusat kekuasaan dipegang Belanda/VOC sedangkan pusat perekonomian dikuasai masyarakat Tionghoa. Karena majunya perekonomian maka pada tahun 1702 VOC mengambil alih monopoli perdagangan, tapi masyarakat Tionghoa masih menguasai monopoli perdagangan kayu dan garam.
Tahun 1704 Gua Sam Poo Kong runtuh dan kemudian dipugar kembali. Tempat pemujaan Sam Poo kong ini dibangun menjadi kelenteng pada tahun 1724
Pada Th 1740 terjadi kerusuhan di Batavia, kerusuhan ini disebabkan adanya pembunuhan kurang lebih 10000 masyarakat Tionghoa oleh VOC/Belanda . Pembunuhan dan pembuangan orang-orang Tionghoa ke Ceilon yang tidak punya ijin masuk ke Batavia semata-mata untuk membatasi kedatangan orang Tionghoa lebih lanjut. Akibat kekejaman VOC, banyak masyarakat Tionghoa yang melarikan diri dari Batavia menuju Semarang dan kemudian bergabung dengan kapten Kwee An Say. Kapten Kwee An Say dan masyarakat Tionghoa pelarian mengadakan perlawanan terhadap VOC, tetapi dikalahkan dan kapten Kwee An Say sendiri ditangkap. Selain ke Semarang orang-orang Tionghoa dari Batavia juga melarikan diri ke Kudus dan Lasem dan menetap di desa-desa sekitarnya. Sementara itu di Lasem pada tahun yang sama dibangun kelenteng Sing Ong Bio/ Po An Bio dengan dewa utama Kong Tik Cun Ong (dewa obat).
Pada Th 1742 – th 1750 VOC hendak membersihkan sisa-sisa pemberontak kaum Tionghoa yang melarikan diri ke Lasem maka terjadilah perang antara Lasem dengan VOC . Masyarakat Tionghoa di Lasem ternyata tidak berjuang sendiri, mereka dengan warga pribumi bahu membahu melawan pasukan VOC. Pada momen ini tercatat R Ngabehi Widyadiningrat (Oei Ing Kiat adalah Adipati Lasem th 1727 – 1743), Raden Panji Margono (putera dari Tedjakusuma V Adipati Lasem th 1714 – 1727) dan Tan Kee Wie berjuang melawan VOC sampai titik darah penghabisan. Perlawanan Oei Ing Kiat terhadap VOC berakhir th 1743, ia gugur di Layur Lasem Utara, sedangkan Raden Panji Margono yang membantunya akhirnya juga gugur di Karangpace – Narukan Lasem Barat. Sementara itu Tan Kee Wie seorang pengusaha dan pendekar di Lasem yang turut berjuang melawan VOC juga gugur di Selat antara P Mandalika dan Ujung Watu Jepara.
Pada Th 1743 Kwee Gang seorang letnan Tionghoa dari Batavia telah ditunjuk VOC untuk menjadi kapten di pecinan Semarang . Berbeda dengan Kwee An Say, kapten Kwee Gang mengadakan kerjasama yang baik dengan VOC. Tiga tahun kemudian yaitu pada Th 1746 dibangun kelenteng Kwan Im Ting, kelenteng ini adalah kelenteng pertama di Semarang. Kelenteng Kwan Im Ting dibangun untuk menghormati Dewi Welas Asih yang biasa disebut dewi Kwan Im atau Avalokesvara.
Sepuluh tahun kemudian yaitu pada Th 1753 kapten Kwee Gang digantikan oleh Oei Tje , pada masa itu kawasan pecinan makin tertata dan pertumbuhan ekonomi makin membaik. Sebagai ungkapan syukur keberhasilan dalam kehidupan di permukiman tersebut, maka warga Pecinan Lor dan Pecinan Wetan bersepakat membiayai pembangunan kelenteng Sioe Hok Bio. Kelenteng ini mempunyai dewa utama Hok Tek Tjeng Sien (dewa dagang), hal ini diduga karena kebanyakan masyarakat tionghoa saat itu berprofesi sebagai pedagang.
Tiga tahun berselang yaitu pada Th 1756 di kawasan permukiman tionghoa ini kembali membangun sebuah kelenteng. Marga Kwee sebagai inisiator pembangunan kelenteng Tek Hay Bio, kelenteng ini dibangun untuk menghormati tuan Kwee Lak Wa. Kwee Lak Wa adalah seorang saudagar yang sakti dan konon salah satu pemimpin pemberontakan Tionghoa th 1741.
Dua puluh lima tahun sejak berdirinya kelenteng Kwan Im Ting yaitu Th 1771, kelenteng ini dirubuhkan dan dipindahkan. Kelenteng ini kemudian dibangun kembali dilokasi lain dengan nama yang berbeda yaitu Tay Kak Sie. Dewa utama pada kelenteng ini adalah Tri Ratna Budha. Alasan pemindahan kelenteng ini adalah Feng Shui, diharapkan dengan pindahnya lokasi kelenteng keadaan masyarakatnya dapat lebih baik lagi.
Di Lasem pada Th 1780 warga Tionghoa setempat membangun sebuah kelenteng. Tujuan pembangunan kelenteng ini untuk menghormati para pahlawan Lasem yang gugur dalam peperangan antara Lasem dan VOC . Kelenteng ketiga di Lasem ini bernama Gie Yong Bio. Kelenteng ini dibangun untuk menghormati Oie Ing Kiat, R Panji Margono dan Tan Kee wie. Kelenteng ini semula hanya tempat sembahyang kecil kemudian dipugar pada th 1915.
Di permukiman tionghoa Semarang pada Th 1782 letnan Khouw Ping membangun kelenteng Tong Pek Bio yang dapat diartikan kelenteng batas timur. Dewa utama dari kelenteng ini adalah Hok Tek Tjeng Sien (dewa dagang). Sementara itu pada tahun yang sama di Kudus juga dibangun kelenteng Hok Tik Bio atau lebih dikenal kelenteng Tanjung Karang Kudus. Kelenteng ini dibangun oleh pelarian masyarakat Tionghoa dari Batavia yang kemudian menetap di dusun Bogo Kudus.
Sepuluh tahun kemudian yaitu pada Th 1792 warga Pecinan Lor Semarang memprakarsai mendirikan kelenteng Hoo Hok Bio. Seperti halnya kelenteng Sioe Hok Bio, kelenteng Hoo Hok Bio dewa utamanya adalah Hok Tek Tjeng Sien dan juga merupakan kelenteng kecil.
Th 1799 adalah tahun kejatuhan VOC karena bangkrut, kemudian kekuasaan diambil alih pemerintah Belanda
Th 1811 P Jawa dikuasai Inggris
Tiga tahun sejak Inggris menguasai p Jawa yaitu pada Th 1814, di kawasan permukiman Tionghoa Semarang Marga Tan membangun kelenteng Wie Wie Kiong. Kelenteng ini mempunyai dewa utama Gay Tjiang Seng Ong dan merupakan kelenteng terbesar dengan lapisan terbanyak di kawasan permukiman tionghoa Semarang ini.
Setelah lima tahun yaitu pada Th 1816 kekuasaan Inggris berakhir, pulau Jawa kembali dikuasai Belanda.
Th 1825 Dibangun empat pintu gerbang kota di permukiman pecinan.
Th 1841 kelenteng Tjioe Hwie Kiong/ Thian Sian Sing Boo Rembang dibangun.
Th 1866 Liem Giok Sing seorang wijkmeester di permukiman tionghoa Semarang memprakarsai pembangunan kelenteng Liong Hok Bio. Dewa utama pada kelenteng ini adalah Hok Tek Tjeng Sien, kelenteng ini termasuk kelenteng kecil.
Pada Th 1879 Kelenteng Sam Poo Kong dibangun
Th 1881 Marga Liem membangun kelenteng See Hoo Kiong atau Ma Tjouw Kiong yang diprakarsai Liem Siong Djian dan Liem Kiem Ling. Dewa utama kelenteng ini adalah Thian Sian Sing Boo. Kelenteng ini diduga ada hubungan marga dengan kelenteng Cu An Kiong Lasem maupun kelenteng Thian Sian Sing Boo Rembang.
Th 1890 gerbang di pecinan dimusnahkan.