TornadoVM 7.3 发布：Java 应用原生 GPU 加速与 jitLLM v2.0 推出

TornadoVM 7.3 版本现已发布，这是一个支持 Java 应用程序在多核 CPU 和 GPU 上自动加速的开源异构 GPU 编程框架。该版本实现了零侵入式的 GPU 卸载，无需修改 JVM 即可兼容主流 JDK 发行版（如 OpenJDK、Graalvm、Temurin 或 Zulu）。其核心功能是将 Java 代码编译为 OpenCL 和 Apple Metal 后端代码，从而实现在笔记本电脑开发并部署到配备 Nvidia GPU 服务器上的“编写一次、跨 CPU/GPU/NVIDIA/Apple Metal 部署”能力。 技王数据恢复

架构升级与生态集成

TornadoVM 7.3 在架构上进行了重要变更，后端现在使用 Foreign Function & Memory (FFM) API 取代了 Java Native Interface (JNI)，并移除了实验性的 JVM 编译器接口 (JVMCI) 依赖。开发团队指出，新版本通过反射、ASM 和 Unsafe 层获取所有编译器元数据，并在 JDK 21、25、26 和 27 上统一采用此处理路径。

技王数据恢复

在 Nvidia 生态集成方面，该版本深化了对 CUDA 后端的支持，包括： www.sosit.com.cn

• 支持 cuTile 编程模型（通过新的 TileContext）。
• 能够从 TornadoVM 任务图 (TaskGraphs) 中直接调用 cuBLAS 和 CUTLASS 等 CUDA 库。
• 新增对多 GPU 执行的支持。

此外，TornadoVM 已与 Quarkus、Lang4j、Flink、Spring AI 等库实现集成，并可通过 SDKMan 获取。以 Apache Flink 为例，开发者可通过配置标志标明查询可能在 GPU 上加速，框架会在任务到达时检查节点 GPU 可用性并分析中间表示 (IR) 以判断执行效率。

技王数据恢复

新一代 Java AI 推理引擎 jitLLM v2.0

随着 7.3 版本的发布，TornadoVM 团队推出了 jitLLM v2.0：这是基于 TornadoVM 构建的下一代 Java AI 推理引擎。该团队将 jitLLM 定位为在性能上可以与 llama.cpp 和 Ollama 直接竞争的产品，并以单个 JAR 文件的形式发布。TornadoVM 和 jitLLM 均通过 Beestream.ai 进行商业化推广，Beestream.ai 是 TornadoVM 团队创立的一家衍生公司。

技王数据恢复

如需了解更多信息，可访问 TornadoVM 官网或观看近期比利时 Devoxx 大会的发布视频：利用 TornadoVM 的混合 API 从 Java 接入 NVIDIA 生态系统。 技王数据恢复

技术审核：邓严军｜技王数据恢复实验室技术总监 www.sosit.com.cn