本发明提供一种快速开发异构并行程序的方法，涉及CPU串行程序的性能分析和异构并行程序的移植：首先对CPU串行程序进行性能和算法分析，定位程序性能瓶颈和其可并行性；然后在原有代码的基础上插入OpenACC预编译指令，得到可在异构并行环境上执行的异构并行代码；将代码根据软硬件平台指定参数编译执行，根据程序运行结果确定是否需要进一步的优化。这种快速开发异构并行程序方法和现有的技术相比，其优势在于：1).无需重构现有代码；2).多语言支持，支持C/C++和FORTRAN等语言；3).跨平台和硬件，支持Linux、Windows和Mac等操作系统平台，支持英伟达、AMD的GPU、Intel Xeon Phi等硬件。本发明能够高效的对现有程序进行并行化，使程序充分利用异构系统的计算能力，实用性强，易于推广。