Envíe trabajos de LLM, embeddings, documentos o contenedores de forma asíncrona. Obtenga resultados a una fracción del costo de las instancias GPU dedicadas. Sin infraestructura que administrar, sin compromiso mínimo, pago por segundo de cómputo.
Endpoints claros y bien documentados. Se integra con cualquier lenguaje o framework.
Pague solo por el tiempo de cómputo. Sin costos por inactividad, sin compromisos mínimos.
Envíe miles de trabajos a la vez. Diseñado para pipelines de datos y trabajo masivo.
Llama, Mistral, Qwen y más. Todos los principales LLM de código abierto.
Instale el SDK de Python, apúntelo a MicroDC.ai y envíe un trabajo. Sondee, transmita en streaming o indíquenos un webhook.
from microdc import MicroDC client = MicroDC(api_key="your-api-key") # Enviar un trabajo de inferencia job = client.submit_job( model="llama-3.1-8b", prompt="Explain quantum computing in simple terms", max_tokens=500, ) # Consultar el estado del trabajo status = client.get_job(job.id) print(f"Status: {status.state}") # Obtener los resultados cuando estén listos result = client.wait_for_result(job.id) print(result.output)
curl https://api.microdc.ai/v1/jobs \
-H "Authorization: Bearer $MDC_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "llama-3.1-8b",
"prompt": "Explain quantum computing in simple terms",
"max_tokens": 500
}'
# Devuelve: { "id": "J-a1b2c3", "status": "queued" }
curl https://api.microdc.ai/v1/jobs/J-a1b2c3 \
-H "Authorization: Bearer $MDC_KEY"
| Tipo | Qué ejecuta | Enrutamiento | Precio |
|---|---|---|---|
| llm | Chat completions en cualquier LLM compatible | Por nombre de modelo | Por tokens |
| embed | Embeddings vectoriales para RAG, búsqueda y clasificación | Por nombre de modelo | Por tokens |
| document | Resumir, extraer y analizar archivos cargados | Por nombre de modelo | Tarifa fija |
| container | Cualquier imagen Docker con su script o código | Por capacidad (docker) | Hora-GPU u hora-núcleo-CPU |
Apunte su cliente openai actual a MicroDC.ai y conserve su código. Admite listas de contenido multimodal. Funciona con LangChain, LlamaIndex, Instructor y cualquier biblioteca con la forma de OpenAI.
base_urlfrom openai import OpenAI
client = OpenAI(
api_key="your-microdc-key",
base_url="https://api.microdc.ai/v1",
)
resp = client.chat.completions.create(
model="llama-3.1-8b",
messages=[
{"role": "user",
"content": "Summarize quantum tunneling."}
],
)
print(resp.choices[0].message.content)
Envíe cualquier imagen. Cargue archivos de script (.py, .sh, .js, .ts, .go, .rs, .java...) como entradas. Streaming de logs en vivo mediante heartbeat por trabajo. Se enruta solo a workers que anuncian la capacidad docker.
job = client.submit_job(
type="container",
model="my-registry/pdf-extract:v2",
payload={
"image": "my-registry/pdf-extract:v2",
"args": ["--input", "/data/report.pdf"],
"env": {"LOG_LEVEL": "info"},
},
files=["report.pdf"],
)
# Transmitir los logs mientras se ejecuta
for line in client.stream_logs(job.id):
print(line)
result = client.wait_for_result(job.id)
Los prompts se cifran en su máquina antes de salir de ella; los resultados solo pueden ser descifrados por usted. El servidor almacena y enruta texto cifrado: nunca inspecciona, registra ni descifra su contenido, y la clave de carga que custodia para el worker se destruye al confirmar la recepción. Los resultados se cifran con su clave pública, de modo que nadie más que usted puede leerlos: ni el conjunto de workers, ni MicroDC. Para sectores regulados, flujos de trabajo con propiedad intelectual sensible y cualquiera que simplemente no quiera que sus prompts queden registrados. Lea la arquitectura completa →
El cliente cifra la carga con AES-256-GCM en su máquina y envía junto a ella su clave pública RSA. Su clave privada nunca sale de su máquina.
Los trabajos cifrados se enrutan solo a workers gestionados por MicroDC con la capacidad encryption aprobada por un administrador. El worker recibe la clave al reclamar el trabajo, descifra en memoria y ejecuta la inferencia con un modelo local: sus datos descifrados nunca tocan una red externa.
El worker cifra el resultado con una clave nueva de un solo uso, envuelta con su clave pública. Solo su clave privada puede descifrarlo. Todo el material de claves se elimina al confirmar la recepción.
Créditos gratuitos para empezar. Sin tarjeta de crédito. Sin mínimo. Acceso completo a la API y al SDK desde el primer día.