Balanceo de carga efectivo con Ray en Amazon SageMaker

En publicaciones anteriores (por ejemplo, aquí) hemos profundizado en la importancia de perfilar y optimizar el rendi...

Los tres métodos esenciales para evaluar un nuevo modelo de lenguaje

Se lanzan nuevos LLMs cada semana, y si eres como yo, podrías preguntarte ¿Este finalmente se adapta a todos los caso...

CI/CD para endpoints de múltiples modelos en AWS.

La automatización del reentrenamiento y despliegue de soluciones de aprendizaje automático en producción es un paso f...

Ajustar MPT-7B en Amazon SageMaker

Se anuncian nuevos modelos de lenguaje grandes (LLMs) cada semana, cada uno tratando de superar a su predecesor y tom...

Depuración de puntos finales de SageMaker con Docker.

Un problema común al comenzar a utilizar SageMaker Real-Time Inference es que a veces es difícil depurar. Al crear un...