Glosario de IA Models & Architecture
¿Qué es Cuantización?
Cuantización (Quantization)
← Todos los términos del glosarioReduce precisión numérica de pesos o activaciones para acelerar inferencia.
Explicación
La cuantización (p. ej. INT8, INT4) baja memoria y acelera inferencia en GPU, TPU o NPU. Es central para desplegar LLM con coste eficiente.