Đại La thành đầu tiên có lẽ xuất hiện dưới thời đô hộ nhà Đường thế kỷ thứ VIII. Sử chép sự kiện năm 767, Kinh lược sứ Trương Bá Nghi sau khi đánh dẹp được sự lấn cướp của 2 nước phía nam là Côn Luân và Chà Chà, đ• cho đắp La thành.

Năm 808, khi lên làm đô hộ sứ, Trương Chu đ• cho đắp lại thành Đại La

Năm 824, quan đô hộ là Lý Nguyên Gia vì dân bản xứ hay nổi dậy chống lại, buộc phải chuyển phủ trị ra gần bờ sông Tô Lịch, đắp 1 cái thành nhỏ. Khi đang tiến hành xây dựng, có người đến xem và bảo rằng: “Nhà ngươi không đủ sức đắp cái thành lớn, 50 năm nữa có người họ Cao sẽ đóng đô dựng phủ ở đây” .

Tiếp sau đấy có những đợt tu sửa thành trì nhỏ của các quan cai trị như Kinh lược sứ Vũ Hồn năm 841, cho sửa lại thành trì thì bị quân lính Đô hộ phủ nổi loạn đốt thành nền phải bỏ chạy. Năm 860 nước Nam Chiếu đánh phá phủ thành này-tức thành do Lý Nguyên Gia xây dựng.

Công cuộc xây cất đại quy mô nhất trong thời Bắc thuộc do Cao Biền tiến hành ở khu vực này vào năm 866, La Thành của Cao Biền đắp chu vi một nghìn chín trăm tám mươi hai trượng linh năm thước (1982 trượng, 5 thước; thân thành cao hai trượng, sáu thước (2 trượng, 6 thước); chân thành rộng hai trượng, năm thước (2 trượng, 5 thước); nữ tường bốn mặt cao năm thước,năm tấc (5 thước, 5 tấc) ; năm mươi nhăm lầu vọng địch; sáu nơi úng môn, ba cái hào nước, ba mươi tư đường đi. Lại còn đắp con đê vòng quanh ngoài thành dài hai nghìn một trăm hai mươi nhăm trượng, tám thước trượng, 8 thước), đê cao một trượng, năm thước, chân đê rộng hai trượng, và làm hơn bốn mươi vạn gian nhà .