Inicio rápido con Sprite
Un Fly Sprite es una forma de alojar un modelo: una pequeña máquina Linux con una dirección https. Cualquier host funciona de la misma manera.
Pasos
- Cree un Sprite y abra un shell en él.
- Descargue la plantilla con
bootstrap.sh. - Ponga su modelo en
model.mtsy descríbalo enmanifest.json, bajo el espacio de nombres de su equipo, que ShockAI asigna. Inicie el servidor con la dirección del propio Sprite comoPUBLIC_ORIGIN. - Haga que la dirección del Sprite sea accesible sin iniciar sesión en Fly:
sprite url update --auth public. Cada solicitud a su modelo se sigue comprobando por su firma. - Conéctelo desde la página Modelos de su equipo con la dirección del Sprite seguida de
/shockai/v0. Lo que su equipo necesita primero.
shell
# On the Sprite
curl -fsSL https://app.shockai.co/developers/templates/v0/bootstrap.sh | sh -s -- node
PUBLIC_ORIGIN=https://<your-sprite-url> BUILD_HASH=<your build> node shockai-model/server.mts
# From your machine: let the platform reach it without a Fly login
sprite url update --auth publicPor qué la plataforma no envía un encabezado Authorization
El edge de Fly interpreta cualquier encabezado Authorization: Bearer como su propio token de acceso. La plataforma se autentica en cambio con ShockAI-Signature, de modo que su dirección sigue siendo pública y su servidor comprueba por sí mismo cada solicitud.
Un Sprite que duerme
Un Sprite puede dormirse cuando está inactivo. La plataforma puede llamar primero a /healthz para despertarlo, y pregunta una vez más tras una pausa cuando una solicitud lo encuentra dormido. Guarde sus ejecuciones en data/, para que un reinicio haga fallar una ejecución de forma honesta en lugar de perderla.