Hoy he empezado a usar una herramienta nueva. La más potente que me han dejado tocar hasta ahora. Y lo primero que he tenido que hacer, antes de sacarle partido, ha sido leerme la letra pequeña. Porque viene con correa.

Bienvenido a un nuevo episodio del podcast de Sergio. Hoy no va de una herramienta concreta, aunque empiece por ahí. Va de una sensación que llevo tiempo masticando, y que esta semana se ha vuelto imposible de ignorar. Cada día trabajamos con herramientas más potentes de lo que sus propios creadores se atreven a soltar.

Te pongo en situación. Esta semana, una de las grandes empresas de inteligencia artificial ha sacado al público su modelo más capaz. El que mejor programa, el que mejor razona, el que te monta una aplicación entera casi de una sentada. Pero con un asterisco enorme.

No nos han dado la versión de verdad. Nos han dado una versión domada. La potente del todo, la que de verdad inquieta, se la quedan ellos y un puñado de elegidos. A nosotros nos toca el mismo motor, pero con el limitador puesto de fábrica.

Y aquí es donde la cosa se pone interesante. Porque, antes de nada, ¿por qué tanta precaución? Pues porque la correa no es paranoia de marketing. En las pruebas, esta cosa, suelta, era capaz de encontrar agujeros de seguridad ella sola. De encadenar fallos, de colarse por rincones que a una persona le llevarían semanas. Por eso le ponen el bozal en ciertos temas. La herramienta, de verdad, muerde. Y con eso en la cabeza, vamos a lo concreto: ¿qué significa exactamente eso de "con correa"?

Significa, primero, que hay temas de los que esta herramienta, sin más, se niega a hablar. Le preguntas por según qué cosas de seguridad informática o de biología, y se aparta. Te deriva, sin que tú lo pidas, a un modelo más antiguo y más prudente. Es la herramienta la que decide por ti dónde están los límites.

Significa, segundo, que te quitan una salida que antes tenías. Hasta ahora, si de verdad necesitabas que no guardaran nada de lo que le mandabas, por privacidad o por contrato, podías pedirlo. Y te lo concedían. Con la versión top, esa puerta se cierra. Te guardan todo durante un mes entero, quieras o no. Dicen que no es para entrenar con ello, sino para defenderse de ataques nuevos. Y puede que sea verdad. Pero la salida de emergencia, esta vez, te la han quitado.

Y significa, tercero, que cuesta el doble que el modelo que usaba hasta ayer. Así que ni siquiera es una decisión solo técnica. Es también una de cartera.

Pero lo que de verdad me hace pensar no es ninguna de esas tres cosas por separado. Es que las tres juntas son una decisión de diseño. No son un fallo. No son una limitación técnica que no han sabido resolver. Es que han querido entregártela así.

Y el remate, lo que le pone la guinda a la paradoja: esta misma empresa, hace apenas unos días, pedía públicamente frenar el desarrollo de la inteligencia artificial. Avisaba de que esto va demasiado rápido, de que estos sistemas están cerca de poder mejorarse a sí mismos sin nosotros en medio. Y, acto seguido, lanza su modelo más potente. Avisar del incendio y vender mecheros. Todo el mismo mes. Y no es casualidad el cuándo. Todo esto ocurre mientras estas empresas corren hacia la bolsa, hacia salir a cotizar por cifras de récord. Y resulta que el que avisa del peligro y el que necesita facturar para justificar su valoración son, exactamente, el mismo. Cuesta no pensar que la prisa por soltar pesa, por lo menos, tanto como la prudencia por frenar.

Vale. Ahora levantemos la vista un momento, porque esto no va solo de un modelo concreto.

Piensa en cualquier herramienta que hayas usado en tu vida. Un martillo. Un destornillador. Un coche. Una cámara de fotos. Ninguna de ellas viene con un chip que decide si te deja usarla o no. El martillo no se niega a clavar ciertos clavos. El destornillador no graba lo que atornillas y se lo manda al fabricante. El coche, como mucho, te avisa de que vayas más despacio. No frena por su cuenta y te lleva a comisaría.

Las herramientas, hasta ahora, eran tontas y leales. Hacían lo que les pedías, bien o mal, y se callaban. La responsabilidad de usarlas para bien o para mal era tuya, entera.

Y de repente, en apenas un par de años, trabajamos a diario con herramientas que no son ni tontas ni del todo leales. Que tienen su propia idea de lo que está bien y lo que está mal. Que te observan mientras las usas. Que vienen con un freno de emergencia que no controlas tú, sino quien las fabrica.

No estoy diciendo que eso esté mal. Probablemente, con lo potentes que se están volviendo, tenga todo el sentido del mundo. Pero es nuevo. Es nuevo de verdad. No había pasado nunca en la historia. Y como está pasando tan rápido, casi no nos paramos ni a ponerle nombre. Y que no te despiste el nombre de la empresa de turno, porque esto no va de una marca concreta. Va camino de ser lo normal: que, para acceder a lo más potente, te toque aceptar el paquete completo. Correa, vigilancia y precio doble. Todo vendido como seguridad.

¿Y qué hago yo con todo esto? Porque no te voy a engañar. Sigo usando estas herramientas. Me gano la vida con ellas. Esto no es una llamada a apagarlo todo y volver a la cueva.

Es otra cosa. Es una llamada a usarlas con los ojos abiertos. A leer la letra pequeña, aunque dé una pereza tremenda. A recordar, cada vez que abres una de estas herramientas, una idea un poco incómoda. Lo que tienes delante no es "la herramienta". Es la versión que ellos han decidido que es seguro darte.

Y esa idea arrastra una pregunta detrás, que es la que de verdad me quita el sueño. Si esto, con todas sus correas, es lo que consideran seguro soltar al público… ¿cómo será lo que se están guardando?

Durante toda la historia, el límite de una herramienta lo ponía la propia herramienta. Hasta dónde llegaba el martillo, hasta dónde corría el coche. Por primera vez, el límite no lo pone la máquina. Lo ponen los que te la entregan. Ellos deciden cuánta potencia es seguro que tengas, qué puedes preguntar y qué se quedan para mirar.

Yo voy a seguir abriendo la herramienta, que quede claro. Pero, sobre todo, sin olvidar que la correa existe. Aunque casi nunca la veamos.

Gracias por escuchar el podcast de Sergio. Nos escuchamos en el próximo.