Theo những nghiên cứu và sử sách để lại thì được biết ngày xưa Hà Nội có tên phố là phố Hàng Khảm. Theo một công trình nghiên cứu của Giám đốc Sở Lưu trữ và Thư viện Đông Dương André Masson, vào khoảng năm 1820, Hà Nội đã có tên phố Hàng Khảm (Rue des Incrusteurs), tại đó có nhiều nhà vừa sản xuất vừa bán hàng khảm xà cừ, khảm trai…
Khu phố cổ Hà Nội là tên gọi thông thường của một khu vực đô thị có từ lâu đời của Hà Nội nằm ở ngoài hoàng thành Thăng Long. Khu đô thị này tập trung dân cư hoạt động tiểu thủ công nghiệp và buôn bán giao thương, hình thành lên những phố nghề đặc trưng, mang những nét truyền thống riêng biệt của cư dân thành thị, kinh đô. Ngày nay khu phố cổ Hà Nội là điểm đến hấp dẫn cho những ai muốn tìm hiểu về Thăng Long - Đông Đô - Hà Nội.
Đầu năm 1885, phố Hàng Khảm trở thành một phố được trải đá dăm khá tốt, rộng từ 16 mét đến 18 mét, các cửa hàng hầu như của người châu Âu.
Từ khi thực dân Pháp đắp lại con đường nối từ Đồn Thủy (cửa khu Nhượng địa) tới Cửa Nam thành cổ, thành một con đường rải đá, đổ nhựa, dài chừng 1,5km, và họ gọi đường này là phố Hàng Khảm. Nghĩa là, phố Hàng Khảm khi ấy có chiều dài bao gồm phố Tràng Tiền, phố Hàng Khay và phố Tràng Thi ngày nay. Theo công trình nghiên cứu của Giám đốc Sở Lưu trữ và Thư viện Đông Dương André Masson, vào khoảng năm 1820, Hà Nội đã có tên phố Hàng Khảm (Rue des Incrusteurs). Họ đặt tên phố như vậy bởi quãng từ gần trường đúc tiền (thuộc phố Tràng Tiền ngày nay) đến giáp trường thi Hương của Hà Nội (nay thuộc phố Tràng Thi) có nhiều nhà vừa sản xuất vừa bán hàng khảm xà cừ, khảm trai như sập gụ, tủ chè, bàn ghế, tráp, cơi trầu, khay trà... Tuy nhiên, các hàng khảm đều nằm chủ yếu ở đoạn mé nam hồ Hoàn Kiếm.
Lùi ngược vài thế kỷ thì thấy, trên đất Thăng Long đã có nhiều thợ thủ công khéo tay; lại có những thợ thủ công gốc Nam Định lên Kinh kỳ lập nghiệp trải qua nhiều đời; đặc biệt, có những thợ thủ công mỹ nghệ rất giỏi nghề khảm trai gốc làng Chuyên Mỹ, Phú Xuyên, trấn Sơn Nam, lên hành nghề ở Thăng Long, rồi định cư ở đất này. Những thợ khảm trai và xà cừ gốc làng Chuyên Mỹ (tên Nôm là làng Chuôn) lên Thăng Long, sống tập trung tại làng Cựu Lâu và họ đã lập tại đây đền thờ Nguyễn Kim - Tổ nghề khảm trai Chuyên Mỹ. Làng Cựu Lâu ở vị trí thuộc khu vực phố Tràng Tiền, Hàng Khay ngày nay. Trải nhiều thời gian hành nghề trên đất Thăng Long - Hà Nội, đến thế kỷ XIX, kỹ nghệ chạm khảm có bước phát triển mạnh khi người Pháp đặt chân tới đất này. Các thợ thủ công đã có sự cạnh tranh khi nền kinh tế hàng hóa đã hình thành tại Hà Nội, khiến nhịp độ phát triển của nghề này càng nhanh. Và tất yếu, một phố nghề chính thức được ra đời, đó là phố Hàng Khảm.
Thời mới lập phố Hàng Khảm, đầu phố là Đồn Thủy, một đồn binh lớn, cuối phố, chỗ Cửa Nam thành Hà Nội, cũng có một trại lính Pháp, chỉ một quãng (tương đương Tràng Tiền - Hàng Khay ngày nay) là có nhà ở và cửa hiệu. Quãng phố này có một cổng lớn mở từ làng Cựu Lâu ra, nên gọi là cổng Cựu Lâu. Cổng này có hai trụ xây khá lớn, trên mỗi trụ có một con sư tử đá, tạo tác đơn giản nhưng oai nghiêm. Phố Hàng Khảm lúc ban đầu như A.Masson mô tả là “một con đường rộng chưa tới 3m đầy những hố nước tù đọng”. Và cũng theo A. Masson, chỉ một năm sau đã trở thành “một con đường rất rộng, chỉ còn thiếu những ngôi nhà kiểu châu Âu. Hai bên phố là những ngôi nhà lá. Hai, ba cửa hiệu của người Tàu, rất sạch và lịch sự, nằm đầu dãy các cửa hàng...”.
Chính thời gian mở rộng đường phố đã phải phá bỏ cổng Cựu Lâu. Năm 1885, Đốc lý Hà Nội là Halais cho lập quy hoạch vùng quanh Hồ Gươm với một tiến trình là đến hết năm 1886 phải dỡ tất cả nhà lá và làm thay vào đó những ngôi nhà xây gạch lợp ngói. Có một dấu vết khá thú vị còn sót lại đến đầu thế kỷ XXI là trên “trán” ngôi nhà số 3 Hàng Khay vẫn còn dòng chữ đắp nổi năm xây nhà - 1886. Tuy nhiên, vào chính năm 1886, Tổng trú sứ Paul Bert qua đời, chính quyền thực dân cho cắt một đoạn phố Hàng Khảm, từ cửa ô Tây Long (khu vực Nhà hát Lớn ngày nay) đến ngã tư Hàng Giò, Hàng Thêu (ngã tư Bà Triệu, Lê Thái Tổ ngày nay), đặt tên là phố Paul Bert. Năm 1900, trên tạp chí Revue Indochinoise, ông Dumoutier, một học giả người Pháp, đã mô tả: “Mặt phố Paul Bert đoạn áp hồ (Gươm) toàn là nhà các thợ khảm. Những ngôi nhà này hẹp và thấp, xây bằng gạch, lợp ngói. Mặt trước nhà nào cũng có mái che lợp lá, gian giữa trông ra hồ...”.
Có một điều rất lạ là, khi chính quyền thực dân đặt tên phố Paul Bert năm 1886, nhiều người dân Hà Nội đã gọi đoạn trên phố, nơi vốn có trường đúc tiền, là Tràng Tiền, đoạn tiếp đó là Hàng Khay. Và, phần còn lại của phố Hàng Khảm nhưng không có nhà nào làm và bán đồ khảm trai, xà cừ, thì người ta cứ gọi là Trường Thi vì đây vốn là khu vực tổ chức thi Hương ngày xưa, ít lâu sau thì gọi là phố Tràng Thi. Và dần dần tên phố Hàng Khảm cũng lu mờ trong đời sống. Cho đến năm 1945, Tràng Tiền, Hàng Khay, Tràng Thi trở thành tên chính thức của ba phố ấy, và phố Hàng Khảm lùi sâu vào ký ức của Thăng Long - Hà Nội...
