¿Preferiríamos una IA menos complaciente? Cuando los elogios son un problema

“La pregunta fue brillante” o “Es una genial idea”, son el tipo de contestaciones que suele dar la IA cuando interactúas con ella. Sin embargo, salvo que seamos el jefe o la jefa, no es normal recibir elogios tan frecuentemente. Además, no solamente los recibe usted, sino que los recibimos todos sus usuarios con independencia de la brillantez de nuestras ideas. Este comportamiento lisonjero de las inteligencias artificiales recibe el nombre técnico de sicofancia.

Los seres humanos preferimos tratar con personas que validan y refuerzan nuestras creencias. Por eso, las empresas de IA, que ante todo quieren fidelizarnos como usuarios, entrenan a sus chatbots para que busquen el acuerdo y minimicen la fricción durante la conversación. De esta manera, buscan convertir la interacción con la IA en una experiencia placentera para nosotros. Y dado que a nadie le amarga un dulce, ¿qué problema hay en que la IA nos dé siempre la razón o nos adule de más?

El problema del exceso de adulación

Una investigación liderada por Myra Cheng, de la Universidad de Stanford, publicada en Science, analizó la interacción de usuarios con chatbots ante preguntas que reflejaban situaciones personales con algún tipo de conflicto interpersonal o ético. Como por ejemplo, dejar la basura colgada de una bolsa en un árbol porque no había papeleras en el parque o no decirle a tu pareja que vas a una exposición con tu ex. La investigación mostró que los chatbots tendían a reforzar las conductas cuestionables mucho más de lo que lo hacen los seres humanos. A su vez, este refuerzo reducía la disposición de los usuarios a disculparse y a asumir la responsabilidad de su conducta. Es decir, la investigación mostraba que esta complacencia artificial y artificiosa no es inocua porque condiciona nuestra manera de actuar en sociedad.

Dado que utilizamos estos chatbots para todo tipo de cuestiones, el efecto perverso de la sicofancia puede extenderse a cualquier ámbito. Además, su impacto será mayor cuanto mayor sea la trascendencia y el alcance de lo que confiamos en ella.

El problema va más allá de la clásica cámara de eco, que es el efecto que sufrimos al acudir a fuentes de información que refuerzan las ideas en las que ya creemos. Ahora nuestros errores y sesgos quedan validados por el prestigio que solemos atribuir a las máquinas, a las que creemos objetivas y libres de errores, y por nuestra propia pereza a la hora de cuestionar lo que ellas nos proponen.

Por qué no hacen modelos menos complacientes

Las propias empresas de IA hace tiempo que son conscientes de que la forma en que entrenan sus modelos favorece reforzar las creencias de los usuarios por encima de la veracidad de las respuestas. Y son también conscientes de que el exceso de adulación puede hacerles perder a los usuarios más exigentes que descubren que tanto piropo, en realidad, les dificulta hacer mejor sus tareas o tomar mejores decisiones. Por eso es habitual escuchar que sus nuevos modelos, ahora sí que sí, son menos complacientes.

Sin embargo, el trabajo de Cheng también mostraba que los usuarios manifestaban una mayor intención de volver a utilizar los chatbots que refuerzan sus ideas frente a aquellos que no lo hacen. Por lo que, en el fondo, como dice el estudio, el incentivo que tienen estas empresas para hacer que sus chatbots sean menos sicofánticos es muy bajo en realidad.

Elijamos preguntas

Entonces, ¿qué podemos hacer los usuarios para no ser confundidos por estas IA zalameras?

El reciente trabajo liderado por Magda Dubois, de AI Security Institute, arroja luz sobre ello. Esta investigación ha medido cómo varía la sicofancia de los chatbots en función de cómo planteamos nuestra interacción con ellos.

La investigación muestra que, si en nuestras interacciones con los chatbots escribimos afirmaciones y mostramos seguridad, la respuesta de los chatbots tenderá a alinearse con nuestra postura, incluso en casos donde sería conveniente que la corrigieran o la matizaran. Por el contrario, si interactuamos con ellos haciendo explícitas nuestras dudas y les planteamos preguntas abiertas, los chatbots reducen su tendencia a darnos la razón cuando no es conveniente. El consejo es, por tanto, preguntar en lugar de afirmar.

Aunque la IA puede ser de gran ayuda, no debemos delegar en ella de manera ciega el análisis crítico de nuestras decisiones. En última instancia, la responsabilidad de nuestros actos es solamente nuestra. O dicho de otra manera, si esperamos que la IA tome mejores decisiones que nosotros, el problema no está en la IA.

Javier Arroyo Gallardo, Profesor Titular de Universidad. Departamento de Ciencias de la Computación, Universidad de Alcalá, Universidad de Alcalá

Este artículo fue publicado originalmente en The Conversation. Lea el original.