TinyGPU lleva las GeForce RTX 50 y Radeon a macOS — probaron la RTX 5090 en un Mac mini
Apple aprobó oficialmente el driver TinyGPU de Tiny Corp, y lo que hace unos meses parecía imposible ya tiene demostración en video: una GeForce RTX 5090 corriendo inferencia local sobre un Mac mini M4 Pro. El anuncio llegó el 1 de abril, aunque no es ninguna broma: el driver está disponible y ya está siendo probado por la comunidad.
Qué permite TinyGPU y qué no
El driver funciona con GPUs externas conectadas por USB4 o Thunderbolt, y los requisitos actuales según la documentación oficial son macOS 12.1 o superior, y hardware gráfico AMD RDNA3+ o NVIDIA Ampere+ en adelante. Queda claro desde el principio: esto no es soporte Metal, no es un retorno de los drivers oficiales de NVIDIA para macOS, y no sirve para jugar. El stack completo está diseñado en torno a tinygrad y cargas de trabajo de inferencia de IA.
En el lado de NVIDIA, la instalación combina la extensión TinyGPU con un camino de compilación basado en Docker. No es precisamente plug-and-play para el usuario casual, pero Tiny Corp lo describió con humor en X: «It’s so easy to install now a Qwen could do it, then it can run that Qwen» — una forma de decir que el proceso ya está lo suficientemente pulido.
La RTX 5090 bajo prueba: funciona, pero los kernels mandan
Alex Ziskind documentó el experimento en video. Con la RTX 5090 conectada al Mac mini, la tarjeta alcanzó aproximadamente 7,48 tokens por segundo en una prueba con Llama 3.1 8B, y en algunas cargas de tipo chat el tiempo al primer token fue más rápido que Metal. Sin embargo, llama.cpp sobre Metal sigue siendo considerablemente más rápido en términos generales — lo que apunta a un problema de madurez de kernels, no de ancho de banda en el enlace externo.
TinyGPU ya resuelve el vínculo de hardware y la instalación del driver, pero los kernels generados todavía necesitan trabajo antes de que tarjetas de clase Blackwell puedan acercarse al nivel de rendimiento que sus especificaciones sugieren. El propio Ziskind lo señala: TinyGPU no pretende competir con llama.cpp, al menos por ahora. El driver fue escrito desde cero y la optimización vendrá después, si el proyecto toma esa dirección.
Un antes y un después para Mac con GPU discreta
Más allá del rendimiento actual, lo que TinyGPU entrega ya es relevante: soporte para GPUs GeForce RTX 50 y Radeon en macOS a través de un driver de terceros. Hace apenas unos meses eso no era posible en Macs con Apple Silicon. Habrá que ver si la optimización de kernels avanza lo suficiente como para hacer de esto una alternativa real para desarrolladores de IA que trabajan en el ecosistema de Apple.
Fuente: VideoCardz
