java动态同步,CUDA动态并行和全局内存同步

╰+哭是因爲堅強的太久メ 2023-01-16 02:57 97阅读 0赞

\_\_syncthreads() 执行的唯一操作是您在CUDA C编程指南中描述的引用 . 除了在多个内核启动中划分内核执行的天真方法之外，CUDA中没有办法跨块进行同步，并且在性能方面存在所有缺点 . 因此，你自己猜到的第一个问题的答案是否定的 .

在帖子的第二部分中，您指的是CUDA C编程指南的一个特定示例，即

\_\_global\_\_ void child\_launch(int \*data) \{

data\[threadIdx.x\] = data\[threadIdx.x\]+1;

\}

\_\_global\_\_ void parent\_launch(int \*data) \{

data\[threadIdx.x\] = threadIdx.x;

\_\_syncthreads();

if (threadIdx.x == 0) \{

child\_launch<<< 1, 256 >>>(data);

cudaDeviceSynchronize();

\}

\_\_syncthreads();

\}

void host\_launch(int \*data) \{

parent\_launch<<< 1, 256 >>>(data);

\}

这里， parent\_launch 内核的所有 256 个线程在 data 中写入了一些东西 . 之后，线程 0 调用 child\_launch . 需要第一个 \_\_syncthreads() 来确保在子内核调用之前完成所有内存写入 . 在这一点上引用指南：

由于第一次\_\_syncthreads()调用，子进程将看到数据\[0\] = 0，数据\[1\] = 1，...，数据\[255\] = 255(没有\_\_syncthreads()调用，只有数据\[0 \]将保证被孩子看到) .

关于第二个 \_\_syncthreads() ，指南解释了这一点

当子网格返回时，线程0保证看到其子网格中的线程所做的修改 . 只有在第二次\_\_syncthreads()调用之后，这些修改才可用于父网格的其他线程 .

在该特定示例中，第二个 \_\_syncthreads() 是冗余的，因为由于内核终止而存在隐式同步，但是在子内核启动之后必须执行其他操作时需要第二个 \_\_syncthreads() .

最后，关于你在帖子中引用的句子：

仅在第二次\_\_syncthreads()调用之后，这些修改才可用于父网格的其他线程

请注意，在具体示例中， host\_launch 函数只启动了一个线程块 . 这可能有点误导了你 .

在NVIDIA论坛上有一个有趣的讨论(可能甚至不止一个)，涉及跨越块的线程同步

发表评论取消回复

表情：

评论列表（有 0 条评论，97人围观）

还没有评论，来说两句吧...

相关阅读

相关 nginx动态同步配置模块nginx-upsync-module

![b32b90b4c2c846169ff997ecd43526cc.png][] 使用场景简介 nginx一般直接在配置文件里配置upstream即可实现负载均衡

雨点打透心脏的1/2处/ 2023年10月14日 17:48/ 0 赞/ 49 阅读

相关 java多核并行同步_Java中同步收集和并行收集之间的区别

java多核并行同步 Java中的同步集合与并发集合 (Synchronized Collection vs Concurrent Collection in Java)

Myth丶恋晨/ 2023年03月05日 04:29/ 0 赞/ 14 阅读

相关 CUDA 并行计算

CUDA 并行计算并行计算可以被定义为同时使用许多计算资源 (核心或计算机) 来执行并发计算，一个大的问题可以被分解成多个小问题，然后在不同的计算资源上并行处理这些小

小咪咪/ 2023年02月20日 10:40/ 0 赞/ 31 阅读

相关 java动态同步,CUDA动态并行和全局内存同步

\_\_syncthreads() 执行的唯一操作是您在CUDA C编程指南中描述的引用 . 除了在多个内核启动中划分内核执行的天真方法之外，CUDA中没有办法跨块进行同步，并

╰+哭是因爲堅強的太久メ/ 2023年01月16日 02:57/ 0 赞/ 98 阅读

相关 Mybatis Plus动态表名及动态参数(binlog同步等可用)

//桥接对象，不对应数据库任何表 @Data public class SyncData implements Serializable {

小鱼儿/ 2022年09月02日 14:42/ 0 赞/ 128 阅读

相关 Buffer同步 ,并行读取流文件

vs2012安装NuGet, 查找Microsoft TPL Dataflow安装. 引入命名空间using System.Threading.Tasks.Dataflow;

迷南。/ 2022年08月05日 02:47/ 0 赞/ 182 阅读

相关【Cuda并行编程之二】Cuda Memory Hierarchy_Cuda内存层次结构

要想编写高效的程序，那么一定要对内存结构有比较深刻的认识，就像C/C++里面的堆内存，栈内存，全局存储区，静态存储区，常量区等。Cuda是并行计算框架，而GPU的内存有限，那么

- 日理万妓/ 2022年08月01日 12:16/ 0 赞/ 268 阅读

相关 java多线程详解(并发,并行,同步)

并行和并发: 引子:前面讲到程序的运行流程的时候，说程序在没有流程控制前提下，代码都是从上而下逐行执行的。需求:现在需要设计一个程序想要完成边运行游戏,边播放歌的功能，

末蓝、/ 2022年06月13日 09:41/ 0 赞/ 411 阅读

相关 cuda dynamic parallelism－CUDA动态并行

cuda sample中有0\_simple下的cdpSimplePrint.cu模仿了cuda dynamic parallelism。 cdp指grid中的线程可生成新的

迈不过友情╰/ 2022年06月07日 13:24/ 0 赞/ 175 阅读

相关 CUDA编程（七）共享内存与Thread的同步

[https://blog.csdn.net/sunmc1204953974/article/details/51078818][https_blog.csdn.net_su

我会带着你远行/ 2022年05月08日 08:38/ 0 赞/ 527 阅读