Serguey Asael Shinder – IT Professional

por Serguey Shinder

El día que la IA me mintió con total seguridad fue el día que aprendí a no confiar en su tono.

Le había pedido algo concreto, y me respondió con una explicación impecable: ordenada, segura, redactada con esa calma de quien sabe de lo que habla. La acepté sin más y seguí adelante. Solo más tarde, cuando nada encajaba, descubrí que una parte central de aquella respuesta era sencillamente falsa. No dudosa ni incompleta: inventada, y presentada con la misma firmeza que el resto, que sí era cierto.

Lo que más me inquietó no fue el error. Fue darme cuenta de que no había ninguna señal. El modelo sonaba exactamente igual de seguro cuando acertaba que cuando inventaba. No había un temblor en la voz, ni un « creo que », ni una pista que separara lo verdadero de lo fabricado. Yo había estado usando su seguridad como medida de su verdad, y esa medida no vale nada.

Ahí cambió mi forma de trabajar con estas herramientas. Dejé de tratar sus respuestas como hechos y empecé a tratarlas como hipótesis: afirmaciones que hay que comprobar, no verdades que pegar. Un hecho lo aceptas; una hipótesis la verificas. El tono ya no me dice nada; solo me lo dice mi comprobación.

No es desconfianza ciega. El modelo acierta a menudo, y me resulta enormemente útil. Pero « a menudo » no es « siempre », y como no puedo distinguir por el tono cuándo estoy en el « a menudo » y cuándo en la excepción, tengo que comprobar como si cualquier respuesta pudiera ser la excepción.

La máquina me enseñó, mintiéndome con una sonrisa, que la seguridad y la verdad son cosas distintas. Ahora tomo lo que me da con gratitud, y luego hago el trabajo de saberlo de verdad.

– Serguey Asael Shinder