Saltar al contenido principal
Menú para desarrolladores
Vista previa para sociosv0

Inicio rápido con Sprite

Un Fly Sprite es una forma de alojar un modelo: una pequeña máquina Linux con una dirección https. Cualquier host funciona de la misma manera.

Pasos

  1. Cree un Sprite y abra un shell en él.
  2. Descargue la plantilla con bootstrap.sh.
  3. Ponga su modelo en model.mts y descríbalo en manifest.json, bajo el espacio de nombres de su equipo, que ShockAI asigna. Inicie el servidor con la dirección del propio Sprite como PUBLIC_ORIGIN.
  4. Haga que la dirección del Sprite sea accesible sin iniciar sesión en Fly: sprite url update --auth public. Cada solicitud a su modelo se sigue comprobando por su firma.
  5. Conéctelo desde la página Modelos de su equipo con la dirección del Sprite seguida de /shockai/v0. Lo que su equipo necesita primero.
shell
# On the Sprite
curl -fsSL https://app.shockai.co/developers/templates/v0/bootstrap.sh | sh -s -- node
PUBLIC_ORIGIN=https://<your-sprite-url> BUILD_HASH=<your build> node shockai-model/server.mts

# From your machine: let the platform reach it without a Fly login
sprite url update --auth public

Por qué la plataforma no envía un encabezado Authorization

El edge de Fly interpreta cualquier encabezado Authorization: Bearer como su propio token de acceso. La plataforma se autentica en cambio con ShockAI-Signature, de modo que su dirección sigue siendo pública y su servidor comprueba por sí mismo cada solicitud.

Un Sprite que duerme

Un Sprite puede dormirse cuando está inactivo. La plataforma puede llamar primero a /healthz para despertarlo, y pregunta una vez más tras una pausa cuando una solicitud lo encuentra dormido. Guarde sus ejecuciones en data/, para que un reinicio haga fallar una ejecución de forma honesta en lugar de perderla.