В качестве рождественского подарка сообществу открытого программного обеспечения NVIDIA сделала открытым промежуточное представление CUDA Tile IR, отказавшись от проприетарной лицензии.
Ранее в декабре, вместе с выходом CUDA 13.1, компания представила программную модель CUDA Tile, назвав её «крупнейшим и наиболее масштабным обновлением платформы CUDA с момента её создания два десятилетия назад». Теперь промежуточное представление (IR) этой технологии стало открытым.
CUDA Tile IR основано на MLIR (Multi-Level Intermediate Representation) — промежуточном представлении из проекта LLVM. Это обстоятельство весьма значимо и может способствовать поддержке CUDA Tile IR в средах, не связанных с NVIDIA. AMD в той или иной степени использует MLIR в своих решениях для ИИ и вычислений, Google IREE играет важную роль в кросс-вендорных сценариях, Intel имеет собственный диалект MLIR для своего оборудования. Существуют и различные IR-фреймворки: ONNX-MLIR, MLIR-AIE, Torch-MLIR и другие. Благодаря тому, что CUDA Tile IR базируется на MLIR, появляется возможность адаптировать его для других GPU и ускорителей. Как минимум открытый исходный код поможет таким проектам, как ZLUDA.
Открытый код CUDA Tile включает диалект Tile MLIR, привязки к Python API, байткодовое представление и набор тестов на соответствие. CUDA Tile IR представляет собой инфраструктуру компилятора на базе MLIR для оптимизации CUDA-ядер с фокусом на тайловых (блочных) вычислительных паттернах и оптимизациях для тензорных ядер NVIDIA. Проект предоставляет комплексную экосистему для выражения и оптимизации тайловых вычислений на GPU NVIDIA, упрощая разработку высокопроизводительных CUDA-ядер благодаря абстракциям для типовых паттернов разбиения на блоки, управления иерархией памяти и GPU-специфичных оптимизаций.
Исходный код опубликован на GitHub под лицензией Apache 2.0.
>>> Подробности
