IA en local: qué es, qué hace falta y cuándo le conviene a tu empresa

Cada vez que tu equipo pega el texto de un contrato, un presupuesto o la ficha de un cliente en un chat de inteligencia artificial, esa información sale de tu empresa y viaja a un servidor que no controlas. Durante un par de años eso se ha aceptado como el peaje inevitable de usar IA. Ya no lo es: los modelos de pesos abiertos han mejorado tanto que buena parte del trabajo del día a día se puede hacer dentro de casa.

Eso es la IA en local: ejecutar los modelos en tu propio hardware —un servidor en tu oficina, una máquina en tu centro de datos o una nube privada tuya— en lugar de llamar a la API de un tercero. Este artículo va de cuándo eso es una buena idea, qué hace falta de verdad para montarlo y cuándo sigue siendo mejor la nube.

Qué es exactamente la IA en local (y qué no es)

Hay tres cosas que se confunden y conviene separar:

• IA en la nube pública: llamas a la API de OpenAI, Anthropic o Google. Tus datos salen de tu red y quedas sujeto a las condiciones y a los precios del proveedor.
• IA en local: el modelo se ejecuta en una máquina tuya. Los datos no salen de tu red y el modelo funciona aunque se caiga internet.
• Nube privada: un punto intermedio. Es hardware dedicado tuyo, alquilado en un proveedor, con el modelo bajo tu control pero sin comprar máquinas.

Lo que no es la IA en local: entrenar tu propio modelo desde cero. Eso cuesta millones y no tiene sentido para el 99% de las empresas. Lo que se hace es tomar un modelo de pesos abiertos ya entrenado —Llama, Mistral, Qwen, Gemma, DeepSeek— y ejecutarlo, como mucho ajustándolo con tus datos.

Por qué esto ha pasado a ser viable justo ahora

Hace dos años, un modelo abierto decente necesitaba una tarjeta gráfica de cinco cifras y aun así respondía peor que un ayudante en prácticas. Han cambiado tres cosas a la vez:

Los modelos pequeños se han vuelto buenos. Un modelo de 7.000 a 14.000 millones de parámetros hace hoy lo que hace dos años exigía uno diez veces mayor: resumir, clasificar, extraer datos de un documento, redactar un borrador decente.

La cuantización ha bajado el listón del hardware. Reducir la precisión numérica de un modelo recorta drásticamente la memoria que necesita, con una pérdida de calidad que en tareas de oficina casi no se nota.

Las herramientas se han vuelto usables. Ollama, llama.cpp, LM Studio o vLLM han convertido en un rato de trabajo lo que antes era un proyecto de investigación. De hecho, "Ollama" tiene más de 22.000 búsquedas mensuales en España: no es un nicho de curiosos.

Las cuatro razones por las que las empresas lo están montando

1. El dato no sale de casa

Es la razón número uno, y no es paranoia: es cumplimiento. Si tratas datos de salud, datos laborales, información financiera de clientes o documentación bajo acuerdo de confidencialidad, mandarlos a una API ajena implica un encargado de tratamiento, un contrato que lo regule y, si el proveedor está fuera de la UE, una transferencia internacional que hay que justificar. Con el modelo en tu servidor, ese capítulo entero desaparece.

2. El coste deja de crecer con el uso

La nube cobra por token: cuanto mejor te funciona, más pagas. El hardware se paga una vez y luego solo consume electricidad y mantenimiento. Para un uso intensivo y repetitivo —procesar cada factura que entra, clasificar cada correo— el punto de equilibrio llega antes de lo que parece.

3. No dependes de decisiones ajenas

Los proveedores de nube cambian precios, retiran modelos y modifican condiciones de uso. Si has montado un proceso crítico encima de un modelo concreto, que lo jubilen te obliga a rehacer y revalidar el trabajo. Un modelo que corre en tu máquina se queda ahí el tiempo que tú decidas.

4. Latencia y disponibilidad

Una petición a tu propia red responde en milisegundos y no se cae porque haya un problema de conectividad o una incidencia del proveedor. Para un asistente interno que se usa doscientas veces al día, se nota.

Qué funciona bien en local y qué no

Aquí es donde conviene ser honesto, porque el entusiasmo se paga caro. Estos casos funcionan muy bien con modelos que caben en hardware asequible:

• Extraer datos de documentos: facturas, albaranes, contratos, currículums. Es probablemente el caso con mejor retorno y el que menos exige al modelo. Lo trabajamos en procesamiento de documentos con IA.
• Buscador interno sobre tu documentación: preguntar en lenguaje natural sobre manuales, procedimientos, contratos o históricos, con respuestas que citan la fuente. Es lo que se conoce como RAG, y es la aplicación estrella de la IA en local porque el dato sensible es justo el que no quieres subir a ningún lado. Lo montamos como buscadores inteligentes.
• Clasificar y enrutar: correos, incidencias, pedidos, reseñas. Tareas repetitivas, de volumen alto y criterio acotado.
• Redacción asistida: borradores de respuestas, fichas de producto, resúmenes de reuniones.
• Asistentes internos conectados a tus propios sistemas, como los que hacemos en asistentes virtuales.

Y estos otros siguen siendo mejores en la nube, al menos hoy: razonamiento complejo de varios pasos, programación avanzada, análisis de imágenes o vídeo con precisión, y cualquier cosa que necesite absorber picos enormes de trabajo puntuales. Pagar hardware que va a estar parado el 90% del tiempo no tiene sentido.

Lo habitual, de hecho, no es elegir: es repartir. Lo sensible y repetitivo, en local; lo puntual y complejo, en la nube.

Qué hardware hace falta de verdad

La pregunta es siempre la misma, y la respuesta depende del tamaño del modelo que quieras mover. Como orientación:

Escenario	Modelo que mueve	Para qué da
Equipo sin GPU dedicada	3B-8B cuantizado, lento	Pruebas y tareas sueltas
Estación con GPU de 12-16 GB	7B-14B cuantizado	Extracción de datos, clasificación, RAG para un equipo pequeño
Servidor con GPU de 24-48 GB	24B-32B	Asistente interno para toda la empresa, redacción de calidad
Varias GPU de 48-80 GB	70B o superior	Tareas exigentes con muchos usuarios a la vez

Traducido a dinero: una estación de trabajo capaz de mover modelos de 7B-14B arranca en torno a los 2.000-3.000 €, y un servidor pensado para dar servicio a toda la empresa se mueve en cifras de cinco dígitos. Son órdenes de magnitud, no presupuestos: el número real depende de cuántos usuarios simultáneos tengas y de cuánto puedas esperar por cada respuesta.

Un apunte que ahorra disgustos: lo que limita no es la potencia de cálculo, es la memoria de la tarjeta gráfica. Un modelo que no cabe en VRAM no va lento, directamente no arranca o se arrastra de forma inservible.

Cómo se monta en la práctica

Un despliegue típico de IA en local tiene cuatro piezas, y solo una es el modelo:

1. El motor de inferencia que ejecuta el modelo y lo expone como una API interna.
2. La base de conocimiento: tus documentos troceados e indexados para que el modelo pueda consultarlos y citar de dónde sale cada respuesta.
3. El control de accesos: quién puede preguntar qué. Sin esto, el buscador interno le enseña las nóminas a quien no debe.
4. El registro de uso: qué se preguntó, qué se respondió y con qué fuentes. Es lo que te permite auditar el sistema y corregirlo cuando se equivoca.

Las dos últimas son las que más se olvidan y las que convierten un experimento simpático en algo que se puede usar en producción.

RGPD y AI Act: lo que sí cambia y lo que no

Ejecutar el modelo en tu servidor simplifica mucho el RGPD: no hay cesión a un tercero, no hay transferencia internacional y el contrato de encargado de tratamiento con el proveedor de IA desaparece de la ecuación. Sigues necesitando base legal para tratar esos datos, información a los interesados y medidas de seguridad, pero te quitas el capítulo más incómodo.

Lo que no cambia es el AI Act. El Reglamento Europeo de IA no regula dónde se ejecuta el modelo, sino para qué lo usas y con qué nivel de riesgo. Si lo aplicas a selección de personal, a evaluación de empleados o a decisiones que afecten a derechos de las personas, las obligaciones son las mismas esté el modelo en tu sótano o en Virginia. Lo desarrollamos en la guía para cumplir el AI Act y en nuestro servicio de cumplimiento del AI Act.

Cuándo no compensa

Lo decimos igual de claro que el resto: si usas la IA de forma esporádica, si tu caso de uso necesita lo mejor que existe en razonamiento, si no tienes a nadie que pueda mantener una máquina, o si tu volumen es tan bajo que la factura de la nube no llega a treinta euros al mes, la IA en local es un capricho caro. Montar infraestructura para ahorrar veinte euros mensuales no sale a cuenta jamás.

Cómo empezar sin pegarte un tiro en el pie

1. Elige un caso concreto y medible, no "usar IA". Por ejemplo: extraer los datos de las facturas de proveedor que entran por correo.
2. Haz la prueba primero en la nube, con datos ficticios. Si el caso no funciona ahí, en local tampoco.
3. Mide el volumen real: cuántas peticiones al día, cuánto texto, cuántos usuarios a la vez. Ese número decide el hardware.
4. Monta el piloto en local con un modelo pequeño y el control de accesos desde el primer día.
5. Compara coste, calidad y tiempo de respuesta contra la nube antes de ampliar.

Preguntas frecuentes sobre la IA en local

¿Qué es la IA en local?

Es ejecutar modelos de inteligencia artificial en hardware propio —un servidor de la empresa o una nube privada— en lugar de llamar a la API de un proveedor externo. Los datos no salen de tu red y el modelo sigue funcionando aunque no haya conexión a internet.

¿Es más barata que usar ChatGPT o una API en la nube?

Depende del volumen. La nube cobra por uso y no exige inversión inicial; el local exige comprar la máquina pero luego el coste por consulta es casi cero. Con uso intensivo y repetitivo, el local sale a cuenta en pocos meses. Con uso ocasional, no lo hará nunca.

¿Qué modelos puedo ejecutar en local?

Los de pesos abiertos: las familias Llama, Mistral, Qwen, Gemma, Phi o DeepSeek, entre otras. Se descargan, se ejecutan en tu máquina y no tienes que pedir permiso a nadie para usarlas. Los modelos cerrados de OpenAI, Anthropic o Google no se pueden ejecutar fuera de sus servidores.

¿Necesito una tarjeta gráfica cara?

Para probar, no: un equipo normal mueve modelos pequeños, despacio. Para dar servicio a un equipo de trabajo sí hace falta GPU, y lo que importa no es la potencia bruta sino la memoria: el modelo tiene que caber entero en la VRAM. Una tarjeta de 16 GB cubre bien los casos de oficina más habituales.

¿La IA en local cumple el RGPD?

Facilita mucho el cumplimiento, porque los datos no se ceden a un tercero ni salen de la UE, que es la parte más engorrosa. Pero no te exime del resto: sigues necesitando base legal, información a los interesados, control de accesos y medidas de seguridad sobre esa máquina.

¿Y el AI Act? ¿Me libro si el modelo es mío?

No. El Reglamento Europeo de IA regula el uso y el riesgo, no la ubicación del servidor. Un sistema de IA aplicado a recursos humanos tiene las mismas obligaciones se ejecute donde se ejecute.

¿Puedo conectarla a mi ERP o a mi CRM?

Sí, y es donde más rinde. Un modelo local que consulta tu ERP puede responder sobre stock, pedidos o histórico de un cliente sin que esa información pase por ningún servicio externo. Es una de las integraciones que montamos sobre nuestro ERP y CRM a medida.

¿Cuánto tarda en estar funcionando?

Un piloto con un caso de uso acotado suele estar operativo en dos o tres semanas, contando el montaje de la máquina, la indexación de la documentación y las pruebas con usuarios reales. Ampliarlo al resto de la empresa depende de cuántos procesos quieras cubrir.

Cómo te ayudamos en Grupo ZAS

Llevamos años montando sistemas de gestión a medida, así que la parte que más cuesta de estos proyectos —conectar la IA con los datos reales de la empresa y con quien tiene permiso para verlos— es terreno conocido.

Lo que hacemos alrededor de la IA en local:

• Diagnóstico honesto: analizamos tu caso y te decimos si compensa el local, la nube o una mezcla. A veces la respuesta es que no te hace falta nada de esto.
• Dimensionado e instalación del equipo, el motor de inferencia y el modelo que encaje con tu volumen.
• Indexación de tu documentación con control de accesos y trazabilidad, para buscar dentro de tus propios documentos.
• Integración con tu ERP, tu CRM o tu gestor documental, que es donde está el dato que hace útil al modelo.
• Automatización de procesos completos, no solo respuestas de chat: automatización de procesos con IA.
• Formación al equipo y marco de cumplimiento, para que la herramienta se use y se use bien.

Tienes el catálogo completo en IA para empresas, y si prefieres empezar por lo general, en la guía de implementación de IA en la empresa explicamos el recorrido entero.

¿Tienes un caso concreto en la cabeza? Cuéntanoslo desde contacto y te decimos con franqueza qué hace falta, qué cuesta y si merece la pena. El diagnóstico es gratuito.