NVIDIA está llevando a cabo varios anuncios en Microsoft Ignite, siguiendo con la amplia colaboración de ambas compañías en campos como el software y la computación acelerada para IA, la simulación digital y ordenadores con tecnología RTX.
Las nuevas herramientas y recursos para desarrolladores de NVIDIA están impulsando la capacidad de ofrecer más experiencias de IA a los más de 100 millones de PC Windows con tecnología RTX en todo el mundo.
El miércoles, se realizarán los siguientes anuncios:
- La nueva versión de TensorRT-LLM admite LLM adicionales que pueden ejecutarse en cualquier GPU GeForce RTX serie 30 y serie 40 con 8 GB de RAM o más, incluso en ordenadores portátiles.
- TensorRT-LLM también será compatible con la API de ChatGPT, lo que permitirá ejecutar cientos de proyectos y aplicaciones para desarrolladores utilizando TensorRT-LLM en RTX.
- NVIDIA y Microsoft están lanzando mejoras de DirectML para acelerar Llama 2 y Stable Diffusion para brindar a los desarrolladores más opciones para la implementación entre proveedores.
Enlaces relacionados
https://blogs.nvidia.com/blog/tensorrt-llm-windows-stable-diffusion-rtx/