Una cola de trabajos asíncrona que abarca un continente de GPU. Envíe el trabajo, reciba los resultados. Diseñada para inferencia empresarial por lotes: canalizaciones de documentos, enriquecimiento de conjuntos de datos, ejecuciones nocturnas, a una fracción del costo de un clúster dedicado.
Apunte su base_url a MicroDC.ai y envíe de forma asíncrona.
Consulte por sondeo, reciba en streaming o entréguenos un webhook: usted decide. Cargas útiles
cifradas de extremo a extremo disponibles para trabajos sensibles.
from microdc import Client client = Client(api_key=os.environ["MDC_KEY"]) # Envíe de forma asíncrona y reciba un id de trabajo. job = client.jobs.create( model="llama-3.3-70b", messages=[{"role":"user","content":"..."}], encrypt=True, # resultados de conocimiento cero webhook="https://api.acme.co/done", ) # O consulte por sondeo. O reciba en streaming. Usted decide. result = client.jobs.wait(job.id) print(result.choices[0].message.content)
curl https://api.microdc.ai/v3/jobs \
-H "Authorization: Bearer $MDC_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "llama-3.3-70b",
"messages": [{"role":"user","content":"..."}],
"encrypt": true,
"webhook": "https://api.acme.co/done"
}'
# Devuelve: { "id": "J-a1b2c3", "status": "queued", ... }
curl https://api.microdc.ai/v3/jobs/J-a1b2c3 \
-H "Authorization: Bearer $MDC_KEY"
REST, Python, compatible con OpenAI. Envíe trabajos, obtenga resultados. Cargas útiles cifradas para trabajos sensibles. Créditos por el monto que elija: sin mínimos, sin cuotas mensuales.
Niveles de capacidad prenegociados, grupos de workers dedicados, enrutamiento por VPC privada, rendimiento respaldado por SLA. Estamos incorporando cómputo significativo para atender a clientes medianos y grandes.
Conecte un worker en cinco minutos. El enrutamiento por nivel de contexto permite que el hardware de gama baja también genere ingresos. Compatible con multi-GPU y trabajos concurrentes. Pagos en créditos o por PayPal.
Haga un POST con su trabajo: modelo, carga útil, claves de cifrado opcionales, webhook opcional.
Nuestro planificador asigna el trabajo a un nivel de workers con la VRAM, la ubicación y el tope de precio adecuados.
Un worker toma el trabajo, lo ejecuta y lo devuelve. Deltas de tokens en streaming cuando corresponde.
Se dispara el webhook, o su cliente recupera el resultado. El recibo de cómputo queda registrado para transparencia en la facturación.
Resuma decenas de miles de PDF, extraiga estructura de contratos, normalice salidas de OCR. Encole a las 2 a. m., reciba a las 6 a. m.
Ejecute cuadrículas de experimentos de modelo × prompt × conjunto de datos. Sin reservas, sin tiempo de arranque, sin gasto en reposo.
Clasifique, etiquete, genere embeddings y puntúe registros a escala de almacén de datos. Webhook de vuelta a su ETL.
Resúmenes, informes y traducciones personalizados. Lotes sin límites de tasa.
Integre pasos de LLM en Airflow, Temporal o n8n. Reintentos idempotentes, recibos firmados.
Envíe en horario laboral, tenga los resultados en su escritorio por la mañana. El nivel más económico.
Sin tarjeta de crédito para empezar. Sin mínimo mensual. Nivel gratuito para evaluación, contratos a medida para producción. Este trimestre lanzamos niveles de capacidad reservada para cargas de trabajo empresariales medianas y grandes. Hable con nosotros si está dimensionando.