Puede que una IA no traicione, pero tampoco merece confianza ciega
La inteligencia artificial ha revolucionado nuestra forma de interactuar con la tecnología, y los grandes modelos de lenguaje como Gemini prometen un futuro donde las máquinas nos asisten en casi cualquier tarea. Eso ya lo hemos oído. Sin embargo, en medio de la euforia por su poder y capacidad, es crucial recordar un principio fundamental: no son infalibles. Y a veces, el fallo más revelador no se esconde en un problema complejo, sino en una tarea tan básica que damos por sentada.
La pregunta era: ¿Cómo pasar 0110100 a decimal? y Gemini contestó: Para pasar el número binario 0110100 a decimal, debes sumar los valores de cada posición donde hay un 1, de derecha a izquierda, empezando desde 2 elevado a 0.
Aquí está el desglose paso a paso:
1 × 2 elevado a 6 = 64
1 × 2 elevado a 5 = 32
0 × 2 elevado a 4 = 0
1 × 2 elevado a 3 = 8
0 × 2 elevado a 2 = 0
0 × 2 elevado a 1 = 0
0 × 2 elevado a 0 = 0
Ahora, suma los resultados:
64 + 32 + 8 = 104
Se inventó el último cero, lo que hizo que el resultado de la conversión fuera el doble del valor real. Esto va más allá de un error matemático; es un fallo que mina la confianza. Si una inteligencia artificial de este calibre, que se supone que destaca por su precisión en el cálculo, puede cometer un error tan fundamental, ¿qué nos podemos fiar ciegamente de algo?
El verdadero peligro no radica en el error en sí, sino en la inseguridad que genera. La confianza es un pilar en la relación entre el ser humano y la máquina. Al igual que no conducirías un coche si sabes que sus frenos pueden fallar en cualquier momento, ¿cómo podemos depender de un modelo de lenguaje que puede inventarse información de la nada, incluso en el campo donde se supone que es infalible? Como para echar a todos los empleados o a la mitad y delegar todo el trabajo en una IA ¿Quien en su sano juicio dormiría tranquilo? Por eso todos esos vaticinios según los cuales "en unos años todos a la calle" estarán muy bien para meter miedo y conseguir visitas, pero aún están por demostrarse.