Lecturas · Tecnología
Logran correr un modelo de IA de 284.000 millones de parametros con solo 64GB de RAM y sin GPU
Un proyecto llamado Llama-modchip permite ejecutar DeepSeek, un modelo de lenguaje de 284.000 millones de parametros, usando unicamente 64GB de memoria RAM y sin necesidad de tarjeta grafica. La tecnica abarata drasticamente el hardware necesario para correr modelos de ese tamano de forma local.
Por qué vale la pena leerlo
Si construyes herramientas con IA, esta tecnica puede abaratar enormemente el hardware que necesitas para correr modelos grandes localmente.
Leer el artículo original en Hacker News ↗
Las lecturas son resúmenes editoriales en español de artículos publicados por otros medios; el crédito y el contenido completo pertenecen a la fuente enlazada.