Introduction to LogP Model
在并行计算领域,计算性能的瓶颈往往不在于计算本身,而在于处理器之间的通信。如何对这种通信开销进行准确的建模和分析,是并行算法设计的重要问题。1993年,Culler等人提出了LogP模型[1],为我们提供了一个简洁有效的抽象框架来描述并行系统中的通信行为。本文将从基础概念出发,逐步深入探讨LogP模型的各个方面。
在并行计算领域,计算性能的瓶颈往往不在于计算本身,而在于处理器之间的通信。如何对这种通信开销进行准确的建模和分析,是并行算法设计的重要问题。1993年,Culler等人提出了LogP模型[1],为我们提供了一个简洁有效的抽象框架来描述并行系统中的通信行为。本文将从基础概念出发,逐步深入探讨LogP模型的各个方面。
This blog summerize some general method for installing and configuring Slurm on a single node (Debian systems).
本文总结了CSAPP一书中和memory相关的内容
During a recent project involving DCGM, I noted down some observations and have compiled them in this blog.
OpenMP and OpenMPI are two different parallel computing technologies that serve distinct purposes despite their similar names.
This blog records some tips about using Slurm.
Lmod[Lua-based Environment Modules System], 是一个广泛部署在HPC Clusters或者Supercomputers上的模块化环境变量管理工具。它允许用户通过命令行来加载或者卸载不同的模块[Module]来动态修改shell的环境变量,比如PATH和LD_LIBRARY_PATH。这些模块一般都是对应不同版本或者配置的软件,编译器,或者库文件。
The roofline model, which is created by Samuel Williams, is a visual performance model used in computer architecture and high-performance computing (HPC) to bound the performance of various numerical methods and operations running on multicore, manycore, or accelerator processor architectures.