在Nvidia GPU(CUDA)中使用Java

Question

我们订购了一些CUDA GPU来尝试它，由于CUDA不支持Java，我想知道从何开始。我应该构建一个JNI接口吗？我应该使用JCUDA还是有其他方法？

我没有这方面的经验，我希望有人能指导我的一些东西，这样我就可以开始研究和学习。

Answer 1

首先，您应该意识到CUDA不会自动地使计算更快。一方面，因为GPU编程是一门艺术，而且要把它弄对可能是非常非常有挑战性的。另一方面，因为GPU只适合于某些类型的计算。

这可能听起来很混乱，因为你基本上可以在GPU上计算任何东西。关键的一点当然是，你是否会实现一个好的加速。这里最重要的分类是一个问题是任务并行还是数据并行。第一个问题大致上是指几个线程或多或少独立地处理自己的任务的问题。第二个问题指的是许多线程都在执行相同的操作--但是在数据的不同部分上执行相同的操作。

后者是GPU擅长的那种问题：它们有很多内核，所有内核都做同样的事情，但对输入数据的不同部分进行操作。

因此，GPU性能的另一个关键点是数据局部性：如果您必须读或写数据（而且在大多数情况下，您将不得不；-）)，那么您应该确保数据尽可能地保持在GPU内核附近。GPU因此具有某些内存区域（称为“本地内存”或“共享内存”），其大小通常只有几KB，但对于即将涉及到计算的数据特别有效。

所以再次强调这一点：GPU编程是一门艺术，它只与CPU上的并行编程有很远的关系。Java中的线程，以及所有并发基础设施（如ThreadPoolExecutors、ForkJoinPools等）可能会给人一种印象，即您只需要以某种方式将工作拆分，并将其分布在多个处理器之间。在GPU上，您可能会遇到低得多的挑战：占用率、注册压力、共享内存压力、内存合并……仅举几例。

然而，当你有一个数据并行，计算限制的问题要解决时，GPU是一种方法。

http://www.habanero.rice.edu/publications.html(JCUDA)：一个库，可以将特殊的Java代码（称为JCUDA代码）翻译成Java和CUDA-C代码，然后可以在GPU上编译和执行。然而，该图书馆似乎并不公开。

https://www2.informatik.uni-erlangen.de/en/research/javaopenmp/index.html：用于for OpenMP构造的Java语言扩展，具有CUDA后端

https://github.com/ochafik/javacl：用于OpenCL的Java绑定：一个面向对象的OpenCL库，基于自动生成的低级绑定

http://jocl.org/：Java bindings for OpenCL：低级绑定，它是原始OpenCL API的1：1映射

http://jcuda.org/：Java bindings for CUDA：低级绑定，它是原始CUDA API的1：1映射

http://sourceforge.net/projects/jopencl/：用于OpenCL的Java绑定。自2010年以来似乎不再维持