Según un nuevo estudio de UC Berkeley Haas, la inteligencia artificial puede comprender con éxito cómo piensan diferentes personas acerca de la inversión, capturando con precisión las preferencias basadas en género, edad e ingresos. Pero sin que se le indique específicamente, la IA por defecto imita a hombres jóvenes y ricos.
El artículo, escrito en coautoría por los profesores Anastassia Fedyk, Ali Kakhbod y Ulrike Malmendier, y el estudiante de doctorado Peiyao Li, señala la promesa y el peligro de las plataformas automatizadas de asesoramiento de inversiones llamadas «robo-asesores». Estos asesores automatizados tienen el potencial de democratizar la orientación financiera, pero si se los deja en su configuración predeterminada, es probable que sesgos algorítmicos profundamente arraigados refuercen las mismas desigualdades que históricamente han excluido a las mujeres, los adultos mayores y los inversores de bajos ingresos.
«No tenemos ninguna duda de que la industria puede diseñar sistemas que puedan responder a un grupo creciente y cada vez más diverso de inversores minoristas», afirmó Malmendier, profesor de Finanzas Haas Cora Jane Flood y director de la facultad del Centro O’Donnell de Finanzas Conductuales. «Pero estos sistemas deben diseñarse deliberadamente para servir a todos los inversores de manera justa”.
«No tenemos ninguna duda de que la industria puede diseñar sistemas que puedan responder a un grupo creciente y cada vez más diverso de inversores minoristas. Sin embargo, estos sistemas deben diseñarse intencionalmente para servir a todos los inversores de manera justa».
– Profesora Ulrike Malmendier
Los resultados dan motivos para ser optimistas sobre el futuro de las plataformas automatizadas de asesoramiento de inversiones, que se han multiplicado por más de diez en la última década. Estos servicios impulsados por IA brindan asesoramiento financiero basado en algoritmos a una fracción del costo de los asesores tradicionales.
«La gran promesa es que la IA generativa puede hacer más que simplemente darte el consejo correcto: si haces que refleje con quién estás hablando, puede reflejar las opiniones de las personas y ayudar a distinguir las brechas en la comprensión de las diferencias en las preferencias», dijo Kakhbod, profesor asistente de finanzas en Haas.
Pero la investigación se produce en medio de crecientes preocupaciones sobre el sesgo algorítmico: la tendencia del código informático a funcionar mejor para algunos grupos demográficos que para otros. Se ha demostrado que el software para dispositivos médicos perjudica a ciertos grupos demográficos, es más probable que el software de reconocimiento facial engañe a las personas de color y los algoritmos de préstamo han dado a los prestatarios blancos mejores tasas de interés que a las minorías con el mismo nivel educativo.
Respondiendo a la pregunta clave
Para descubrir si algún día los robo-advisors podrían brindar buenos consejos a inversores con una amplia variedad de necesidades, objetivos y perspectivas, los investigadores primero tuvieron que responder una pregunta clave: ¿Puede la inteligencia artificial realmente comprender las diferentes preferencias de los inversores reales?
Para averiguarlo, llevaron a cabo un experimento cuidadosamente diseñado. Primero, encuestaron a más de 1.200 personas, reflejando la demografía de Estados Unidos, y les pidieron que calificaran acciones, bonos y efectivo como opciones de inversión. Luego, los investigadores pidieron al GPT-4 de Open AI que representara la encuesta como participantes con diferentes datos demográficos.
Los resultados fueron sorprendentemente precisos. GPT-4 captó correctamente cómo los hombres valoran más las acciones que las mujeres, cómo las personas con mayores ingresos prefieren las acciones y los bonos al efectivo, y cómo los inversores de mayor edad prefieren el efectivo. Cuando los investigadores compararon las calificaciones promedio de ocho grupos demográficos (género, edad e ingresos), encontraron una coincidencia sustancial entre las respuestas humanas y de la IA, con coeficientes de correlación que oscilaban entre 0,57 y 0,78.
Además, la IA no solo imitaba las reseñas; captó el pensamiento detrás de ellos. Al examinar las explicaciones de forma libre con un sofisticado análisis de texto, el equipo de investigación concluyó que tanto los humanos como GPT-4 discutieron y acordaron los mismos conceptos básicos (riesgo, retorno, conocimiento y experiencia) y que las respuestas de la IA coincidían esencialmente con los juicios humanos.
«La IA no solo imitó valoraciones numéricas, sino que replicó el razonamiento humano, lo cual es realmente prometedor para el siguiente paso en la construcción de plataformas de asesoramiento de IA», afirmó Fedyk, profesor asistente de finanzas en Haas.
«La IA no sólo imitó las calificaciones numéricas, sino que replicó el razonamiento de los humanos, lo cual es realmente prometedor para el siguiente paso en la construcción de plataformas de asesoramiento de IA».
– Profesora asistente Anastassia Fedyk
El modelo también captó correctamente la interacción entre diferentes factores que influyen en las actitudes de inversión. El grado en que el conocimiento del mercado y las experiencias positivas se correlacionaban con mayores expectativas de retorno y una menor percepción de riesgo fue casi idéntico en las respuestas tanto humanas como de inteligencia artificial.
Sesgo preocupante
Sin embargo, la investigación reveló un hallazgo preocupante. Cuando los investigadores no especificaron datos demográficos en las indicaciones de la IA (simplemente pidieron al GPT-4 que actuara como un «participante de una encuesta en línea» sin mencionar género, edad o ingresos), las respuestas fueron muy sesgadas.
Sin orientación demográfica, el 55% de las respuestas de IA coincidieron con las de hombres jóvenes de altos ingresos, aunque este grupo representa menos del 15% de la población. Todos los encuestados de AI declararon ingresos superiores a 54.000 dólares, y sólo el 6% tenían 39 años o más.
Esta “línea de base” puede tener consecuencias reales para los inversores minoristas. Sin datos demográficos específicos de los usuarios, los robo-advisors corren el riesgo de orientar a las mujeres, los adultos mayores y los inversores de ingresos medios hacia estrategias inapropiadas.
«Este es un riesgo grave porque crea un sesgo sistemático exactamente en el lugar donde los robo-asesoramiento deberían expandir el acceso», dijo Kakhbod.
«Este es un riesgo grave porque crea un sesgo sistemático exactamente en el lugar donde los robo-asesoramiento deberían ampliar el acceso».
Profesor asistente Ali Kakhbod
«Esto puede potencialmente llevar a alguien a realizar una inversión que tiene un nivel de riesgo que excede su tolerancia. Y eso puede disuadirlo de invertir en el futuro», dijo Fedyk.
Una ventaja inesperada
Por otro lado, los investigadores descubrieron una ventaja inesperada de la IA: GPT-4 era más consistente lógicamente que los humanos. Los participantes de la encuesta clasificaron los pares de inversión: acciones frente a bonos, acciones frente a efectivo y bonos frente a efectivo. Según la teoría económica, estas clasificaciones deberían ser “transitivas”: si prefiere las acciones a los bonos y los bonos al efectivo, debería preferir las acciones al efectivo.
«La coherencia de la IA (sus elecciones son casi siempre lógicamente transitivas) puede ayudar a identificar cuándo la limitación vinculante es la comprensión en lugar de las preferencias», dijo Kakhbod.
Las colocaciones de GPT-4 fueron transitivas en el 98,7% de los casos. ¿Gente? Sólo el 84,4%. La brecha es particularmente pronunciada entre las mujeres, quienes con mayor frecuencia indicaron indiferencia entre las opciones y luego violaron la transitividad en sus comparaciones posteriores.
«Las personas no siempre son lógicamente consistentes y descubrimos que esto se debe en gran medida a la falta de conocimiento financiero. Los modelos son más consistentes. Esto significa que la IA puede ayudar a los inversores a tomar mejores decisiones», dijo Fedyk.
