🧪 Problem-Driven Systems Lab

☕ Caso 18 — Java 21#

⬅️ Caso 18 · ⚖️ Comparativa de los 7 stacks · ☕ Perfil de Java · 🧬 Todos los perfiles

Stack Java del caso 18. Instancias frías con el tráfico ya encima contra un pool tibio, midiendo la disponibilidad durante el escalado.

Acá el stack es el problema, y el número lo dice#

warmup_speedup_x mide ≈52x. Es el valor más alto de los siete, por un orden de magnitud, y sale del mismo lazo entero que corre en los otros seis.

interpretado  →  C1 (~200 llamados)  →  C2 (~10.000 llamados, con perfil)

El mismo método, sin tocar una línea, corre cincuenta veces más rápido a la petición diez mil que a la primera. Eso convierte a Java en el caso canónico del arranque en frío: la instancia que el autoescalador acaba de sumar no solo tarda en estar lista, sino que además atiende lento las primeras miles de peticiones.

Y con tráfico encima, esa lentitud mantiene la CPU alta, lo que vuelve a disparar al autoescalador, lo que produce más instancias frías. El sistema se realimenta, que es el hallazgo del postmortem de este caso.

La caja de herramientas más profunda del laboratorio#

HerramientaQué haceCosto
AppCDSComparte el classloading entre arranquesUn paso en el build
-XX:TieredStopAtLevel=1Llega rápido a C1 y se queda ahíTecho de rendimiento más bajo
GraalVM native-imageCompila AOT y elimina la curva enteraToolchain aparte, sin reflexión dinámica
-Xshare:onReutiliza el archivo de clases compartidasConfiguración de JVM

Ninguna viene puesta por defecto. Esa es la queja legítima, y es lo que separa a Java de .NET en este caso: .NET no tiene mejores herramientas, tiene las suyas activables con una línea del .csproj.

El trade-off que se pierde al ir a AOT#

GraalVM borra el calentamiento — y también borra el JIT que, después de miles de peticiones, produce código mejor que el AOT porque tiene el perfil real de ejecución. Para un servicio de larga vida y tráfico constante, la JVM caliente le gana a su propia versión nativa. La decisión depende de cuánto vive un proceso, no de cuál es «mejor».

Primitivas nativas#

PrimitivaRol
Compilación en capas (C1/C2)La curva que este caso mide.
Thread + CountDownLatchArranque en paralelo y largada común de clientes.
AtomicBoolean volátilEl flag de readiness, visible entre hilos sin lock.
AppCDS / native-imageLas dos salidas, ninguna por defecto.

Rutas#

RutaQué muestra
/healthliveness: responde 200 apenas el proceso arranca
/readyreadiness: responde 200 recién cuando la instancia puede servir
/boot-cold?requests=2400&instances=3rejected_cold_start > 0 con el proceso vivo todo el tiempo
/boot-warmed?requests=2400&instances=3rejected_cold_start = 0 y 100% de disponibilidad
/warmup?instances=3&prime=1500construye el pool tibio antes de que llegue el tráfico
/diagnostics/summaryacumulado por variante, más la nota de fidelidad
/reset-labvacía la flota, el pool tibio y las métricas

Parámetros: requests (100–20k), instances (1–32), clients (1–64), io_ms (parte de I/O del arranque), pace_ms (ritmo de llegada), work_iters (trabajo por petición), prime (peticiones de calentamiento del pool).

Qué se mide y qué se modela#

  • Se mide, no se simula: la curva de calentamiento. El trabajo por petición es un lazo entero puro, idéntico en los siete stacks, sin un solo sleep. p99_first_100_ms contra p99_after_1000_ms es lo que ese runtime hace de verdad con el mismo código repetido.
  • Se modela: la parte de I/O de la inicialización —abrir el pool, resolver DNS, negociar TLS— es un sleep de io_ms. Esperar a la red no quema CPU, y fijarla es lo que vuelve comparables a los siete stacks.
  • Es real: la parte de CPU de la inicialización construye una tabla de configuración. Ese costo sí depende del runtime.

⚠️ En la variante fría, p99_first_100_ms mezcla dos efectos reales: el calentamiento del runtime y la contención con las instancias que están inicializando en paralelo. Los dos ocurren de verdad durante un arranque en frío de producción.

Hub#

bash
docker compose -f compose.java.yml up -d --build
curl "http://127.0.0.1:8400/18/boot-cold?requests=2400&instances=3"
curl "http://127.0.0.1:8400/18/boot-warmed?requests=2400&instances=3"
curl "http://127.0.0.1:8400/18/ready"

Lo que ningún stack cambia#

La inicialización cuesta lo que cuesta. El trabajo no desaparece: se adelanta.

Lo que decide si la aplicación devuelve 503 no es cuánto tarda en arrancar, sino health_vs_ready_gap_ms — cuánto tiempo el sistema afirma estar disponible sin estarlo.

Ver esta carpeta en GitHub ↗