Ya tengo acceso a la API de Mistral
Acceso a la API de Mistral
Hace poco menos de una semana, Mistral anunció que pondría una API como servicio al igual que hace OpenAI y otros grandes nombres en el mundo de la inteligencia artificial. No tardé ni un minuto en apuntarme a la lista de espera y hoy, finalmente, he obtenido acceso.
Proceso de Onboarding
El proceso de onboarding es muy sencillo. Mistral solicita tus datos fiscales y utiliza Stripe como pasarela de pagos. Si ya eres usuario de Stripe, como es mi caso, el proceso es incluso más rápido. Este enfoque centrado en el usuario hace que el arranque sea prácticamente sin fricciones.
Funcionamiento y Costes
Al igual que otras plataformas, Mistral cobra por uso y te permite establecer un límite de gasto (el límite predeterminado es 150€).
En cuanto a la API, actualmente proporcionan 3 endpoints principales:
- Autocompletar texto: Este es el endpoint más conocido, donde se pueden pasar los prompts con el tipo (sistema, usuario, o AI), con los parámetros típicos de OpenAI como temperatura, random seed, max tokens, etc.
- Generar embebidos: Este endpoint permite generar representaciones embebidas de los textos.
- Consultar modelos: Este endpoint te permite consultar los modelos de IA disponibles.
Modelos Disponibles
Aquí es donde vino una pequeña decepción. Los modelos disponibles por ahora son los “pequeños”, es decir, no está el famoso Mixtral (Mix of Experts). Sin embargo, esto es comprensible ya que estamos en las primeras etapas del lanzamiento de la API.
Los tres modelos disponibles ahora mismo son: tiny, small y medium. Los precios respectivamente son 0.14€/1M tokens, 0.6€/1M tokens y 2.5€/1M tokens para la entrada, y 0.42€/1M tokens, 1.8€/1M tokens y 7.5€/1M tokens para la salida.
Pruebas Iniciales
Tengo previsto realizar algunas pruebas con los agentes en cuanto tenga un rato. Por ahora, el “hello world” (ejemplo proporcionado por ellos) me ha dado la sensación de que ha tardado un poco más de lo esperado, pero aún es pronto para sacar conclusiones.