Viện NCNTTS II được thành lập theo QĐ số 219 HS/QĐ vào ngày 22/12/1976 của Bộ Hải sản với tên gọi là Phân Viện Hải sản I trên cơ sở tiếp quản Viện Khảo cứu Thuỷ sản Miền Nam Việt Nam sau ngày miền Nam hoàn toàn giải phóng. Năm 1979  Phân Viện Hải sản I được đổi tên thành Phân Viện Nghiên cứu Thuỷ sản I với chức năng và nhiệm vụ nghiên cứu phát triển nuôi trồng thuỷ sản ở Đồng Bằng Nam bộ. Đến năm 1983, theo Quyết định của Chủ tịch Hội đồng Bộ Trưởng (nay là Thủ tướng Chính phủ), Phân viện Thuỷ sản được nâng cấp thành Viện Nghiên cứu Nuôi trồng Thuỷ sản II là cơ quan nghiên cứu khoa học kỹ thuật  phát triển thuỷ  sản của Bộ Nông nghiệp & Phát triển Nông thôn đóng tại phía Nam.