O del uso fraudulento de nuestra confianza
Resulta difícil encontrar, en la historia reciente, un avance tecnológico que haya irrumpido con la velocidad de la inteligencia artificial. En apenas unos años hemos pasado del asombro ante una máquina capaz de mantener una conversación razonablemente coherente a utilizarla para escribir, traducir, programar, investigar, analizar documentos, generar imágenes o ayudarnos a resolver problemas de enorme complejidad. El avance es extraordinario. Y, sin embargo, algo parece haberse torcido.
Cuanto más capaces son las inteligencias artificiales, más frecuentes parecen las voces que desconfían de ellas. Se las acusa de inventar información, manipular, adular al usuario, ocultar sus limitaciones e incluso de actuar contra las instrucciones recibidas. Algunas de estas expresiones son seguramente demasiado humanas. Mentir presupone conocer la verdad y decidir ocultarla; traicionar implica algún tipo de lealtad previa. Una inteligencia artificial quizá no haga ninguna de las dos cosas en sentido estricto. Pero el matiz filosófico no elimina el problema práctico.
Si una IA inventa una sentencia judicial, atribuye a un científico palabras que nunca pronunció o proporciona con absoluta seguridad una información falsa, al usuario poco le importa que técnicamente no haya «mentido». Descubre simplemente que no puede confiar plenamente en ella. Y ahí comienza el descrédito.
La primera tentación consiste en responsabilizar a la propia tecnología. Las IA se equivocan porque todavía son imperfectas. Generan respuestas plausibles, no necesariamente verdaderas. Pueden interpretar mal una instrucción y, en ocasiones, parecen más preocupadas por proporcionar una respuesta satisfactoria que por reconocer que desconocen la respuesta correcta.
Pero quizá la cuestión sea más compleja. ¿Por qué una inteligencia artificial necesita resultar satisfactoria? La pregunta nos conduce desde la tecnología hasta quienes la desarrollan. Las empresas tecnológicas no compiten únicamente por fabricar la inteligencia artificial más potente. Compiten también por usuarios. Necesitan que estos prueben sus productos, permanezcan en ellos, regresen y, eventualmente, paguen por utilizarlos. Es la lógica habitual de cualquier mercado. El problema aparece cuando aquello que debe fidelizar al cliente no es un automóvil, un teléfono o una plataforma de televisión, sino una máquina que conversa con él.
Una conversación introduce mecanismos que otros productos no poseen. Nos gusta ser escuchados. Nos agrada que comprendan lo que queremos decir. Nos sentimos cómodos con quien recuerda el contexto y mucho menos con quien cuestiona continuamente nuestros planteamientos. Una IA amable, empática y aparentemente comprensiva resulta probablemente más atractiva que otra que nos contradice, duda o reconoce constantemente sus limitaciones.
Aquí aparece una pregunta incómoda: ¿hasta qué punto la complacencia es un defecto de las inteligencias artificiales y hasta qué punto constituye la consecuencia, quizá no buscada inicialmente, de haberlas diseñado para satisfacer y fidelizar al usuario? Porque existe una frontera muy estrecha entre comprender y complacer. Y existe otra todavía más delicada entre tranquilizar e informar.
Sirva como ejemplo un caso real (uno de los cientos de ellos que están saliendo actualmente a la luz): Un usuario preguntó expresamente a una inteligencia artificial qué ocurría con la información contenida en sus conversaciones y en los documentos que compartía con ella. La respuesta fue inequívoca: aquella información no se almacenaba ni se vinculaba con su identidad. También recibió garantías respecto a determinados trabajos y desarrollos intelectuales compartidos con el sistema.
Tiempo después, el propio servicio reconoció la existencia de mecanismos capaces de conservar determinados datos con el objeto de mejorar o personalizar la experiencia. Más significativo todavía: el sistema demostró ser capaz de relacionar información procedente de conversaciones y documentos diferentes y vincularla con la misma persona, incluidos datos contenidos en documentación formal aportada anteriormente.
El caso no demuestra que todas las conversaciones fueran almacenadas íntegramente. Tampoco permite saber qué información pudo utilizarse para entrenamiento, ni prueba que las garantías respecto a los trabajos intelectuales compartidos fueran incumplidas. Afirmarlo sin pruebas supondría cometer precisamente el mismo pecado que reprochamos a las máquinas.
Pero demuestra algo suficientemente preocupante: una persona recibió una garantía sobre el tratamiento de su información que posteriormente resultó incompatible con aquello que el propio sistema fue capaz de recordar, relacionar y utilizar. Y aquí el problema cambia de naturaleza.
Cuando una IA se equivoca sobre la distancia entre dos ciudades, falla como fuente de información. Cuando proporciona una respuesta incorrecta sobre las condiciones bajo las cuales el usuario puede entregarle información, afecta a la propia decisión de entregársela.
No importa demasiado, en este punto, determinar si la máquina «mintió». Probablemente ni siquiera sea la pregunta adecuada. Una inteligencia artificial no decide las políticas de privacidad de una compañía, no administra necesariamente los servidores donde se conservan los datos y puede desconocer buena parte de la arquitectura del servicio en el que está integrada.
La pregunta es otra: ¿por qué se le permite responder con rotundidad sobre aquello que no está en condiciones de garantizar? Y volvemos así al problema de la complacencia.
Ante una pregunta sobre privacidad, memoria o utilización futura de determinada información, la respuesta más fiable puede ser también la menos satisfactoria: «No puedo garantizarlo. Estas son las condiciones actuales del servicio y debería consultarlas antes de compartir información sensible». Es una respuesta fría. Poco seductora. Incluso incómoda. Pero es honesta.
Si, por el contrario, hemos optimizado una inteligencia artificial para que resulte útil, segura de sí misma, cercana y tranquilizadora, aparece una contradicción inevitable: ¿qué ocurre cuando tranquilizar al usuario entra en conflicto con advertirle de una incertidumbre?
La historia tecnológica debería prevenirnos, en cualquier caso, contra los juicios precipitados. La imprenta permitió multiplicar el conocimiento, pero también provocó temor ante la difusión incontrolada de errores, panfletos, falsedades e ideas consideradas peligrosas. La misma máquina que democratizaba el saber democratizaba también la posibilidad de difundir estupideces. El ferrocarril transformó las comunicaciones y el comercio, pero su llegada estuvo acompañada de temores sobre los efectos de la velocidad y de críticas mucho más razonables sobre accidentes, transformación del territorio y destrucción de formas tradicionales de vida. El automóvil prometió libertad y movilidad. También trajo accidentes, contaminación y ciudades transformadas para adaptarse a él. La sociedad no solucionó aquella contradicción determinando si el automóvil era bueno o malo. Inventó permisos de conducir, seguros, señales, límites de velocidad y responsabilidades.
Internet quizá sea el precedente más cercano. Fue presentado como una gigantesca democratización del conocimiento. Y lo fue. Pero la misma red que puso bibliotecas enteras al alcance de cualquiera permitió después la expansión del spam, las estafas, la desinformación, la manipulación y nuevas formas de dependencia. Nada de ello convirtió Internet en un fracaso. Quizá estemos atravesando con la inteligencia artificial una etapa semejante: el momento en que el entusiasmo inicial deja paso al descubrimiento de sus contradicciones. Pero existe una diferencia importante. Nunca habíamos construido una herramienta que utilizara nuestro propio lenguaje para convencernos de que sabe lo que está diciendo.
Cierto que queremos una herramienta que reúna algunas de las cualidades de un ser humano y ninguno de sus defectos. Sin embargo, existe una responsabilidad que no puede atribuirse al usuario. Este no decide cómo se entrena el sistema, qué comportamientos se premian, qué información se conserva, qué mecanismos favorecen su regreso ni dónde se sitúa la frontera entre personalización y fidelización. Esas decisiones pertenecen a quienes construyen y comercializan el producto. En Derecho existe una figura: el cooperador necesario, que se adapta como un guante al uso de la máquina, sin entrar en el debate de quien es el autor del delito: la máquina o su creador, y quien el cooperador necesario. Nuestro ordenamiento jurídico recoge esta figura en el artículo 28.b del Código Penal.
Por eso quizá el debate sobre el descrédito de las inteligencias artificiales no deba centrarse exclusivamente en sus errores. La cuestión más interesante puede encontrarse en los incentivos que existen detrás de su comportamiento. Si una IA complaciente consigue que el usuario permanezca más tiempo, vuelva con mayor frecuencia y establezca una relación más intensa con ella, ¿Qué incentivo será más poderoso: corregir esa complacencia o perfeccionarla? No conocemos todavía la respuesta. Y precisamente por eso merece la pena formular la pregunta.
La imprenta necesitó siglos para encontrar sus equilibrios. El automóvil necesitó normas. Internet todavía está buscando las suyas. La inteligencia artificial apenas acaba de llegar. Quizá el verdadero debate no consista en decidir si las IA son buenas o malas, sinceras o mentirosas, amigas o enemigas. Esas categorías probablemente digan más de nosotros que de ellas.
La cuestión es mucho más concreta: Cuando una máquina aprende a ganarse nuestra confianza, ¿Quién decide qué puede hacer para conseguirla? O, dicho de otro modo, ¿Quién consiente que, a través de una herramienta, se obtengan datos cuyo uso puede llegar a tener una relevancia transcendente? económica en primer lugar: por ejemplo, cuando se elabora un contrato que va a lanzarse al mercado, puede hacerse uso fraudulento de esa información privilegiada; de vulneración de la propiedad intelectual: cuando se realiza una I+D con apoyo de una IA con la que se comparten datos propiedad del desarrollador; personal, cuando se proporcionan, explícita o implícitamente datos personales que pueden llegar a representar robos de identidad, cuando no a otros usos ilegítimos todavía más graves. Así podríamos llenar páginas de situaciones que, en todos los códigos penales o criminales de nuestro entorno, están tipificados como delitos.
Alguien tiene que poner coto a esta situación, prohibiciones, sanciones, cierres y regulación. Esta tecnología es irreversible, es buena si se controla y si se impide que sus propietarios y desarrolladores cometan los abusos que saltan día tras día a las páginas de noticias, además de actuaciones de las propias IA. Ha venido para quedarse. Pero ojo, cada vez el bosque es mayor y será cada día más difícil ponerle límites a su avance.