Trung tướng Phan Văn Giang sinh năm 1960, quê quán tỉnh Thái Nguyên.
Ông nhập ngũ tại Bộ Chỉ huy quân sự tỉnh Thái Nguyên năm 1978 và từng tham gia chiến đấu bảo vệ Tổ quốc ở biên giới phía Bắc.
Tháng 8/1980, ông được gọi vào học tại Trường Sĩ quan Tăng - Thiết giáp và đến năm 1983, ông tốt nghiệp Trường Sĩ quan Tăng - Thiết giáp phong quân hàm Trung úy, được điều động về công tác tại Sư đoàn 312, Quân đoàn 1 giữ chức Trung đội trưởng.
Từ năm 2000-2008, ông được giữ nhiều trọng trách tại Quân đoàn 1.
Năm 2010, ông được bổ nhiệm giữ chức Tư lệnh Quân đoàn 1, Phó bí thư Đảng ủy Quân đoàn. Năm 2011, ông được bổ nhiệm giữ chức Phó tổng Tham mưu trưởng, Bí thư Đảng ủy Bộ Tổng Tham mưu-cơ quan Bộ Quốc phòng.
Tháng 4/2014, ông được bổ nhiệm giữ chức Tư lệnh Quân khu 1, Phó bí thư Đảng ủy Quân khu.
Tháng 1/2016, tại Đại hội Đảng toàn quốc lần thứ XII, ông trúng cử Ủy viên Ban chấp hành Trung ương khóa XII.