Thành hình tứ giác, chu vi khoảng 1.304m với 4 cổng vòm ra vào: Đông, Tây, Tiền, Hậu; mỗi cổng có vọng lâu cao 18m để có thể lên đó quan sát mọi vật ở dưới và có hệ thống tường thành được xây dựng bằng gạch đá ong cao 5m rất vững chắc, xung quanh thành còn có hào nước sâu 3m, rộng 20m, dài 1.795m. Phía bên trong có có 4 khẩu súng thần công được đặt ở 4 góc thành, có điện Kính Thiên (tức tòa nhà 5 gian, là nơi làm việc và nghỉ ngơi của nhà vua mỗi khi đi kinh lí), có dinh thự và công đường của các quan Tổng đốc, Án sát, Đề đốc, Đốc học… Ngoài ra còn có giếng nước, cột cờ, trại lính…

Điểm đáng chú ý của thành cổ Sơn Tây là tòa thành này được xây dựng theo kiến trúc của thành vô-băng của Pháp. Theo sử sách ghi lại, thành cổ Sơn Tây là do kỹ sư S.P.de Vauban – một nhà quân sự người Pháp, thiết kế. Ông là người đã cách mạng hóa nghệ thuật phòng thủ dưới thời vua Lu-I XIV (Louis XIV), chỉ huy xây dựng nhiều thành quan trọng ở nước Pháp như: thành ở Lin ( Lille, 1667), ở Na muy ( Namur, 1692). Kiểu thành Vô-băng có dạng hình học rõ ràng, có những phần nhô ra góc cạnh, phù hợp với điều kiện quân sự đã phát triển. Tại Việt  Nam, kiểu thành này được xây dựng ở một số nơi như: Gia Định (Sài Gòn), thành phố Huế (Thừa Thiên – Huế), Sơn Tây (Hà Nội), Vinh (Nghệ An), Đồng Hới (Quảng Bình)…

Năm 2003, tòa thành cổ này đã được tu sửa với công trình kiến trúc phần nào tái hiện được diện mạo của nó trước đây. Để du khách có dịp vừa chiêm ngưỡng công trình kiến trúc độc đáo vừa có dịp thư giãn, tham quan, ngắm cảnh nơi đây, bên cạnh việc tu bổ những công trình kiến trúc, người ta còn cho xây dựng khuôn viên với những hàng cây xum xuê, xanh tốt và một số công trình khác...

Năm 1994, Bộ Văn hóa - Thông tin (nay là Bộ Văn hóa, Thể thao và Du lịch) đã công nhận thành cổ Sơn Tây là di tích lịch sử văn hóa cấp quốc gia.