El coste por token es algo que es muy interesante de analizar, porque cualquier empresa que quiere utilizar la inteligencia artificial quiere saber cuánto cuesta de verdad mantener todos los sistemas y herramientas en funcionamiento.
Y es que la cuota mensual de una suscripción es muy fácil de contabilizar, puesto que tiene un precio cerrado y previsible, pero en el momento en que una empresa conecta un modelo de IA a su servicio de atención al cliente, y para ello utiliza la API de Claude para empresas, o la de otro modelo, la factura empieza a aumentar según el uso real.
La cosa es que detrás de esa factura, que se vuelve variable, hay una unidad de medida con un nombre poco intuitivo, el token, que equivale más o menos a un fragmento de palabra y que los proveedores usan para contar todo lo que los agentes de IA leen y escriben.
Por eso, comprender este concepto es algo bastante importante para cualquier negocio que quiera tener un presupuesto realista para implementar la IA en una empresa, porque el precio que se puede ver en la tarifa de una determinada plataforma de IA, no será el mismo que la empresa pague si se hace un determinado uso de los modelos de inteligencia artificial.
¿Qué es el coste por token en inteligencia artificial?
El coste por token es la cantidad de dinero que el proveedor de un modelo de IA cobra por cada unidad de texto que el sistema procesa, y la verdad es que funciona de una forma muy parecida a la del contador de la luz, ya que la factura sube en proporción al consumo que registra el proveedor.
Así que la verdad es que el cálculo para determinar un precio de coste es bastante sencillo, porque el proveedor multiplica los tokens consumidos por su tarifa y obtiene así el importe exacto de cada petición a la IA, que por cierto en una consulta breve tiene un coste mínimo.
Con respecto a la definición y el funcionamiento de los tokens, los diferentes modelos de inteligencia artificial dividen el texto en varias piezas según su complejidad, y por eso una palabra corta y frecuente ocupa un único token, mientras que un término técnico y poco habitual se divide en varios fragmentos.
Además, hay que tener en cuenta que los espacios y los signos de puntuación también cuentan, así que dos textos con las mismas palabras pueden costar cantidades distintas según cómo estén escritos, y de hecho en español esto se nota más que en inglés, porque las conjugaciones verbales, tan variadas y ricas en nuestro idioma, generan más piezas por frase y hacen que un mismo contenido gaste algo más que en la lengua en la que se entrenaron originalmente la mayoría de los modelos.
¿Por qué las empresas de IA cobran por tokens y no por palabras o por consultas?
Contar palabras parece lo más lógico y lo más fácil, pero la razón por la que se usa el coste por token es porque esa medida resulta demasiado irregular si tenemos en cuenta la gran diferencia que hay entre los distintos idiomas en los que puede trabajar un asistente de IA personalizado.
Y es que además del ejemplo que ya hemos mencionado con la lengua de Cervantes, un idioma como el chino, en el que por ejemplo no se separan las palabras con espacios, haría que no se pudieran establecer las palabras como un criterio fiable de medida, y lo mismo ocurre con un fragmento de código, o con una tabla llena de números, donde no se puede hablar de palabras en realidad.
Por otra parte, cobrar por consulta sería todavía algo menos justo y equilibrado, porque dos peticiones del mismo cliente pueden tener un tamaño radicalmente distinto, así que por todo ello, el token es una medida que ambas partes pueden comprobar, puesto que las plataformas devuelven con cada respuesta el número de tokens consumidos y cualquier empresa puede contrastarlo con su factura.
¿Por qué los tokens de salida son más caros que los de entrada?
Probablemente esta sea la primera noticia que tengas sobre esto, pero si, existe una diferencia de precio entre los tokens de salida y los de entrada, y esta se debe al propio funcionamiento de los modelos de IA.
Al recibir una petición, el sistema lee todo el texto de entrada a la vez y lo procesa en paralelo, aprovechando que los chips hacen miles de cálculos simultáneos, así que un documento largo se gestiona en cuestión de segundos.
Pero para generar una respuesta, sin embargo, no es posible aprovechar ese atajo, porque el modelo escribe un token cada vez y necesita conocer el anterior para decidir cuál viene después, así que cada elemento de la respuesta obliga a recorrer de nuevo toda la red del modelo, lo que explica que redactar mil tokens consuma mucho más tiempo de máquina que leer esos mismos mil tokens.
De hecho, ese tiempo de consumo adicional es lo que encarece el servicio, ya que el proveedor tiene que mantener reservada una parte del servidor mientras el modelo escribe la respuesta, con la memoria ocupada por todo lo que ha leído y por lo que lleva redactado.
La verdad es que sabemos que el coste por token y el posible precio que tiene la implementación de la inteligencia artificial para pymes, es uno de los motivos más importantes, si no el que más, para que muchas empresas no den el paso a su digitalización con IA, así que si quieres contar con ayuda profesional para optimizar tu presupuesto para implementar la IA, contacta con nosotros.