El modo de razonamiento extendido de Claude, cuando lo usamos como usuarios, nos da respuestas más elaboradas y sobre todo, respeta mucho mejor lo que le pedimos a la inteligencia artificial con un ‘prompt’.
Pero, ¿Qué hay detrás de este método de funcionamiento? ¿Se podría decir que el razonamiento extendido es la forma en la que piensa la IA de Claude? En realidad, muchos modelos tienen esta opción, que básicamente, es como acceder a una versión más potente de mismo modelo, sin entrar en las ventajas que se obtienen con los planes de pago de Claude AI, que van a parte.
En Claude tenemos una pestaña para habilitar el pensamiento durante una consulta, y además podemos seleccionar entre diferentes categorías de esfuerzo. Todo esto, nos lleva a una respuesta más o menos precisa, pero en lo que más lo nota cualquier persona que use la IA, es en cómo respeta lo que realmente se le está pidiendo.
Por eso, cuando se empieza a usar Claude, entre las preguntas más frecuentes sobre Claude AI para empresas suele estar la de cómo funciona su modo de razonamiento extendido, ya sea porque se quiere saber cuándo merece la pena usarlo, o por curiosidad técnica sobre cómo piensa esta plataforma de inteligencia artificial.
Así que en este artículo, vamos a seguir analizando las características de Claude para empresas, en este caso, haciendo un estudio sobre su modo de razanonamiento extendido, para saber cuáles son sus fundamentos y en qué casos es recomendable usar una IA más o menos potente para según que tareas.
¿Cómo piensa Claude cuando utiliza el razonamiento extendido?
En su modo estándar, cualquier modelo como Claude genera la respuesta utilizando para ello los patrones que ha aprendido durante su entrenamiento, pero en cuanto se activa el razonamiento extendido, el sistema abre una especie de borrador interno donde nos muestra el razonamiento que siga para dar una determinada respuesta.
Dicho espacio de texto que se genera es lo que Anthropic denomina como bloques de pensamiento, que es un espacio interno donde el modelo desarrolla su razonamiento paso a paso antes de entregar la contestación definitiva.
Lo bueno es que ese pensamiento es visible para quien lo utiliza y la interfaz muestra un temporizador en el que se puede ver cuánto tiempo lleva el modelo procesando la respuesta. Además, los desarrolladores pueden consultar esos bloques de pensamiento mediante la integración de Claude vía API en las aplicaciones empresariales.
En la configuración de la API existe un parámetro llamado presupuesto de tokens de pensamiento, que es un límite que marca la cantidad máxima de tokens que Claude puede emplear en su razonamiento interno.
Dicho presupuesto determina cuántas hipótesis puede analizar el modelo y cuántas veces puede revisar sus propios pasos para encontrar errores, algo que en problemas de matemáticas, o en general para uso científico, es muy importante porque la precisión del resultado escala de forma logarítmica con ese presupuesto.
Ahora bien, hay que saber que ese texto que podemos ver no equivale a una ventana perfecta a la mente del modelo, puesto que Anthropic reconoce que no puede garantizar con certeza que lo que aparece en los bloques de pensamiento represente fielmente lo que ocurre en el interior del sistema, porque el razonamiento se expresa en lenguaje natural, y el lenguaje tiene sus límites a la hora de capturar operaciones que no son lingüísticas.
¿Qué ventajas y limitaciones tiene el razonamiento extendido de Claude?
Lo más sencillo sería decir que activar el razonamiento extendido es como pulsar un interruptor que mejora cualquier respuesta, y de hecho, para los usuarios es esa la experiencia, y los propios datos de Anthropic lo confirman, ya que en pruebas de ingeniería de software, la precisión subió aproximadamente un 70% gracias a este modo de trabajo.
Pero toda esa potencia adicional tiene un coste que hay que tener en cuenta para decidir en qué trabajos se utiliza, puesto que el propio hecho de generar ese razonamiento interno multiplica el número de tokens que procesa el sistema, en ocasiones hasta cinco veces más que en modo estándar, lo que supone un tiempo de respuesta más largo y en un coste computacional mayor.
Por eso, aplicar el razonamiento extendido a cualquier consulta, no aporta ningún beneficio real y solo encarece el uso de la inteligencia artificial sin motivo, especialmente si se usa el modelo de forma gratuita o con un plan de pago básico, ya que se alcanzarán los límites de procesamiento muy rápido.
Además, algunos análisis muy interesantes comparan la precisión de un modelo con su propia consistencia, es decir, con la probabilidad de repetir el mismo acierto ante preguntas parecidas, porque un sistema puede acertar en un porcentaje alto de casos y, aun así, mostrar cierta inconsistencia en cómo llega a esa respuesta.
¿Cuándo conviene utilizar el razonamiento extendido en la plataforma de inteligencia artificial de Anthropic?
Legados a este punto, ya sabemos que el razonamiento extendido de Claude nos da una mayor precisión, a cambio de un también mayor consumo de recursos, así que como es lógico, hay que tener entonces una estructura o un sistema de categorización para saber cuándo usar el modo pensamiento y cuándo no hacerlo.
De hecho, en las versiones más recientes de Claude, se tiene esto en cuenta y se ha seguido un camino para mejorar la calidad de vida de los usuarios que usan la plataforma, y por eso, en lugar de exigir que una persona decida de antemano cuánto debe razonar el modelo ante cada encargo, el propio sistema evalúa la dificultad de la consulta y ajusta solo el esfuerzo que dedica.
Aunque en realidad, este ajuste automático está sujeto a una configuración previa, en la que se pueden establecer límites, en función de lo que la empresa estime oportuno, durante el desarrollo de sus proyectos de IA.
Así que esta capacidad de autorregulación reduce buena parte del trabajo manual de calibración. No obstante, para usar correctamente la inteligencia artificial optimizando el presupuesto y limitando el consumo de recursos a lo verdaderamente necesario, hay que conocer bastante bien esta tecnología, por lo que te recomendamos nuestra formación en Claude para empresas y equipos.