Trường Tiểu học Phạm Văn Hai hoạt động từ trước năm 1975, đến năm 1986 trường mang tên Trường Phổ thông cơ sở cấp 1-2 Phạm Văn Hai theo Quyết định số 104/QĐ-UB ngày 31 tháng 3 năm 1986 của Ủy ban nhân dân quận Tân Bình. Đến năm 1988, trường mang tên Trường Phổ thông cơ sở cấp 1 Phạm Văn Hai theo Quyết định số 326/QĐ-UB ngày 30 tháng 11 năm 1988 của Ủy ban nhân dân quận Tân Bình về việc thay đổi cấp học các trường Phổ thông cơ sở quận Tân Bình. Trường được chính thức mang tên Trường Tiểu học Phạm Văn Hai theo Quyết định số 13/QĐ-UB ngày 14 tháng 02 năm 1996 của Ủy ban nhân dân quận Tân Bình về việc: Đổi tên cơ cấu khung của các trường thuộc ngành Giáo dục và Đào tạo quận Tân Bình.
Trường được đặt tại số 370A đường Phạm Văn Hai, Phường 5, quận Tân Bình, với diện tích khuôn viên 1.470m2. Trường được thiết kế, xây dựng gồm 21 phòng học và 05 phòng chức năng. Mỗi phòng học có diện tích 48m2, bàn ghế trang bị đúng quy cách. Diện tích còn lại dành cho việc trồng cây xanh, sân chơi, phục vụ cho hoạt động dạy và học.
Nhà trường tạo dựng môi trường giáo dục lành mạnh, nề nếp, kỷ cương, bình đẳng, có chất lượng giáo dục: Nơi giáo viên biết sống, giảng dạy, học tập, biết quan tâm, giúp đỡ nhau và có lòng nhân ái; học sinh biết thương yêu, đoàn kết, có cơ hội phát triển khả năng sẵn có của mình; là cộng đồng những người thích học tập và thành đạt.
Tập thể sư phạm nhà trường luôn thể hiện tinh thần đoàn kết, có trách nhiệm, năng động, sáng tạo. Giáo viên đạt trình độ trên chuẩn 100%; đa số giáo viên có ý thức học hỏi, tìm tòi và vận dụng phương pháp mới, hình thức tổ chức dạy học đa dạng phát huy tính tích cực của học sinh. Nhà trường đã tổ chức các hoạt động nhằm rèn kĩ năng sống, hình thành nhân cách, phát triển năng khiếu của học sinh. Tổ chức sinh hoạt truyền thống, lễ hội, tham quan dã ngoại. Nổi bật nhất là phong trào thể dục thể thao, nhà trường đã đạt nhiều huy chương cấp quận, cấp thành phố.
Trong những năm hoạt động và phát triển, trường được đánh giá là Tập thể Lao động Tiên tiến, Tập thể Xuất sắc. Bên cạnh đó, trường cũng đạt được một số thành tích trong phong trào thể dục thể thao, phong trào vở sạch chữ đẹp cấp quận.
Trong giai đoạn hiện nay, với xu hướng hội nhập quốc tế, đòi hỏi mỗi nhà trường phải xác định cụ thể các tiêu chí phấn đấu nhằm đảm bảo yêu cầu ngày càng cao về chất lượng giáo dục. Sứ mạng của nhà trường là xây dựng một ngôi trường học tập hiện đại và thân thiện để mỗi học sinh đều có cơ hội phát triển tài năng và tư duy sáng tạo, thực hiện mục tiêu giáo dục tiểu học, tạo uy tín với nhân dân về chất lượng giáo dục và phấn đấu đạt chuẩn chất lượng giáo dục cấp độ 1.