##MPI学习
什么是节点?
服务器,等同于一台台式或者笔记本电脑。许多节点组成集群甚至是超算系统
什么是进程?
程序运行的实例对象,进程拥有独立的堆栈以及数据,数据不能共享。
进程可以使用MPI进行跨节点通信。
什么是线程?
是进程中的实际运作单位,被包含在进程之中。进程可以调用多个线程来处理任务,但线程不能开启进程。
线程内可以有独立的内存及数据,也可以线程间共享数据
线程一般用于节点内并行,一般不用做跨节点并行
节点内 进程数x线程数<=节点核数
假如节点有24核,运行4个进程,每个进程最多开6个线程。超线程会导致程序运行很慢很慢