¿Nos sentimos justos cuando los resultados de las decisiones algorítmicas nos benefician?

 

En el futuro, ya sea que podamos obtener una oferta, aprobar un examen, aprobar una calificación crediticia, etc. a través del juicio del sistema inteligente, habrá algoritmos involucrados. Cuando más y más cosas se decidan mediante algoritmos, ¿se preguntará si estas decisiones algoritmicas que determinan cuántas oportunidades tenemos son «justas o injustas»? Echemos un vistazo a cómo descubrieron los investigadores de la interacción humano-computadora a través de experimentos en línea: cuando los resultados de un algoritmo son beneficiosos para las personas, incluso si sabemos que es un algoritmo sesgado, ¿lo consideraremos justo? ! Siendo ese el caso, ¿puede la alfabetización digital cambiar nuestra percepción de justicia?

Autor / Yang Qilan
Crédito Foto: Tingey Injury Law Firm

¿Alguna vez se preguntó cómo determina Facebook cuántas personas ven su artículo de PO? ¿Tienes curiosidad por saber cómo decide YouTube a quién llegamos en los videos que subimos? ¿Por qué los puntos de contenido de algunas personas tienden a ser más altos, pero no necesariamente? ¿Es realmente justo el juicio del algoritmo? Cuando abrimos Facebook, Youtube y plataformas de compras en línea todos los días, el algoritmo ya está decidiendo qué artículos, videos o productos mirar por nosotros. El algoritmo no solo afecta la información que recibimos, sino que también afecta lo que nos ven los demás. Oportunidades. Por ejemplo, cuando compartimos un mensaje en un sitio de red social, no todos los amigos tienen la misma oportunidad de ver el contenido de nuestra PO. En cambio, el alcance de la información se determina en función de los parámetros incluidos detrás del algoritmo; para un creador de contenido Se dice que a quién se recomendará el video en Youtube y cómo Google buscará el artículo, todo está determinado por el algoritmo; no solo en la recepción de información, sino en si podemos usar el sistema inteligente en el futuro. Si recibe una oferta, aprueba un examen, aprueba una calificación crediticia, etc., los algoritmos estarán involucrados.Cuando más y más cosas se decidan mediante algoritmos, ¿sentirá curiosidad por estos algoritmos que determinan cuántas oportunidades tenemos? Justo e injusto «?

● «Los algoritmos toman decisiones» versus «las personas toman decisiones», ¿sentimos lo mismo?

Cuando las personas interactúan con robots o sistemas inteligentes, tienden a antropomorfizar estas máquinas o sistemas inteligentes, imponiendo algunas de las reglas o expectativas que generalmente socializamos con otros humanos en las máquinas, como tratar a sus robots familiares con cortesía. , O piense que un robot con voz masculina es más autoritario, mientras que un robot con voz femenina entiende mejor el amor y las relaciones interpersonales [2]. Cuando, sin darnos cuenta, tratamos a las máquinas de la misma manera que tratamos a otros humanos, ¿nuestra actitud hacia las máquinas o los algoritmos tomará decisiones de la misma manera que cuando nos enfrentamos a los humanos tomando decisiones?

En el pasado, investigaciones relevantes sobre la toma de decisiones humanas encontraron que si el resultado de la decisión es beneficioso para nosotros, tendemos a pensar que la decisión es justa; y si el proceso de toma de decisiones es transparente, también tendemos a pensar que la decisión es justa, como si la empresa tuviera una perspectiva prometedora. Los empleados explican cómo decidir el proceso de despidos Cuando las personas escuchan los resultados, tienden a pensar que todas las decisiones son justas. Ante decisiones tomadas por personas, un proceso de toma de decisiones claro y transparente afectará nuestra percepción de equidad. Hoy, si cambiamos a un algoritmo para tomar decisiones, cuando la computadora da los resultados que son beneficiosos para nosotros, y el proceso de toma de decisiones Entendamos con transparencia, ¿seguimos pensando que es más justo?

Foto de Tim Gouw en Unsplash

Académicos de investigación en interacción humano-computadora de la Universidad Carnegie Mellon y Amazon propusieron un estudio en 2020 [1], Trate de explorar los tres factores de «si el resultado de la decisión del algoritmo es beneficioso para uno mismo», «explicación del proceso de diseño y desarrollo de diferentes algoritmos» y «la cantidad de conocimientos previos relacionados con el algoritmo» para las personasSienta si el resultado de la decisión del algoritmo es justoImpacto.

Los investigadores realizaron un experimento en línea a través de la plataforma de subcontratación masiva de Amazon (Amazon Mechanical Turk) para responder las preguntas de investigación anteriores. En esta plataforma de trabajo en línea de subcontratación masiva, la forma en que cada trabajador (llamado trabajador en línea) obtiene recompensas depende de cuántas tareas en línea asignadas complete, y aquellos que se desempeñan bien pueden ser calificados como trabajadores sobresalientes por el sistema de la plataforma ( Maestro trabajador), si se convierte en un buen trabajador, es más fácil para él obtener mejores oportunidades de trabajo en línea.

Los investigadores enviaron mensajes experimentales a 590 participantes en línea en esta plataforma de crowdsourcing, diciéndoles que existe un sistema en línea que se utilizará para determinar si pueden convertirse en excelentes trabajadores y luego asignarlos aleatoriamente a diferentes grupos experimentales. , El proceso del experimento es: primero deje que los participantes lean la descripción del algoritmo para determinar si pueden convertirse en empleados excelentes y luego dígales el resultado: la mitad de las personas verá «aprobar» para convertirse en un miembro excelente, y la otra mitad verá Resultados «Fallidos» y, finalmente, pídales que respondan una serie de preguntas para que se informen a sí mismos.¿Qué tan justo es este algoritmo?.

Además, los participantes en línea en diferentes grupos verán diferentes descripciones del sistema de decisión y resultados de juicio. Por ejemplo, los participantes que están asignados al grupo «El resultado de la decisión del algoritmo es beneficioso para ellos mismos» verán el resultado del juicio como «Aprobado para ser un trabajador excelente»; se les asigna al grupo «El algoritmo está sesgado». Las personas verán claramente que el sistema de toma de decisiones es más preciso para juzgar a los hombres, pero tiene una tasa de precisión más baja para las mujeres; aquellos que están asignados al grupo «Proceso de desarrollo y diseño de algoritmos transparente» serán informados de los detalles del diseño del sistema, incluida la adopción. Qué parámetros y proceso de optimización, etc.Comparando los juicios de la confianza de los participantes en línea en los algoritmos de estos diferentes grupos¿Qué factores afectan el sentido de justicia de las personas sobre los resultados de las decisiones algorítmicas?.

● Si tiene un interés personal, incluso si encuentra un algoritmo sesgado, las personas se sienten justas

La investigación encontró queCuando el resultado del juicio es beneficioso para ellos, la gente tiende a pensar que el algoritmo es justo.;viceversa,Cuando el resultado no es bueno para uno mismo, se siente injusto. E incluso si la gente ya sabe que hay sesgos inconsistentes dentro del algoritmo, es como decirles claramente que el algoritmo es menos preciso para juzgar a las mujeres, tiene mayor precisión para los blancos y tiene una mayor tasa de precisión para las personas menores de 25 años.Incluso si las personas saben que este algoritmo obviamente no puede juzgar con precisión cierta información de grupo, si el resultado es beneficioso para ellos, la gente tiende a pensar que es justo..

Foto de Razvan Chisu en Unsplash

● Si no hay conocimientos previos relevantes, se le dirá que el proceso de desarrollo del algoritmo tiene poco efecto en la percepción de justicia e injusticia de la gente.

Otro hallazgo es que el grado de transparencia en el diseño y desarrollo de estos algoritmos no tiene mucho impacto en el juicio de las personas sobre la imparcialidad de sus decisiones. Es decir, para la mayoría de las personas, saben qué métodos de optimización se utilizan en el algoritmo. , Qué parámetros usar para juzgar, etc. Es posible que esta información no lo ayude a comprender la relación entre ellos y los resultados de la decisión.

● Las personas con mayor alfabetización digital tienden a pensar que el algoritmo es justo.

Además, los investigadores categorizaron los antecedentes educativos de todos los participantes en línea y su nivel de conocimiento sobre algoritmos, y encontraron que las personas que saben más sobre algoritmos son juzgadas por algoritmos sesgados o menos sesgados. Si los resultados son beneficiosos para ellos, tienden a pensar que son justos; pero las personas que tienen menos conocimiento de los algoritmos tienden a calificar los algoritmos que les son beneficiosos como más justos y los que les son desfavorables. Es menos justo.

Foto de You X Ventures en Unsplash

● Si comprende mejor el funcionamiento del algoritmo, será menos probable que piense que un algoritmo obviamente sesgado es justo porque el resultado es beneficioso para usted.

A partir de los principales hallazgos de esta investigación, podemos saber que cuando las personas no comprenden el proceso de diseño y desarrollo del algoritmo o el principio de toma de decisiones, es fácil para las personas juzgar la imparcialidad del algoritmo beneficiándose directamente del resultado de la decisión. Si las personas no comprenden que el algoritmo tiene diferentes tasas de precisión de reconocimiento para diferentes subgrupos y quién diseñó el algoritmo para afectar el resultado del juicio, las personas con intereses creados siempre sentirán que este diseño es justo y viceversa. . Por ejemplo, si no sé mucho sobre los principios de diseño detrás del algoritmo, incluso si sé que este algoritmo tiene una tasa de precisión más alta para los jóvenes y una tasa de precisión más baja para las personas mayores. Cuando sea relativamente joven y me beneficie de esto Después del resultado del juicio del sistema de toma de decisiones, naturalmente pensará que es justo y no pensará ni comprenderá por qué uno puede beneficiarse pero otros no, y apoyará firmemente este sistema de toma de decisiones obviamente sesgado.

Cualquier resultado de la toma de decisiones es inevitablemente beneficioso para algunas personas y perjudicial para otro grupo de personas. Por lo tanto, necesitamos un diseño más interactivo, un mecanismo de explicación y una educación relacionada con los algoritmos para ayudar a todos a comprender todo el proceso algorítmico de toma de decisiones, lo que afecta la equidad de las personas en la toma de decisiones. Sentimientos sexuales, emitir juicios que trasciendan los intereses personales, en lugar de pensar que todos los resultados de la toma de decisiones algorítmicas son justos solo porque usted tiene un interés personal, ignorando el diseño de algoritmos y las fuentes de datos de entrenamiento. Viene con limitaciones.

 

● Mejorar la alfabetización digital del público nos permite comprender las limitaciones de la toma de decisiones algorítmicas sin que nos afecten intereses personales.

En un futuro cercano, se incorporarán cada vez más sistemas de toma de decisiones inteligentes al sistema judicial o al contexto de asignación de recursos. Si el sistema inteligente determina nuestra calificación crediticia y nos clasifica, determinará cuánto poder podemos disfrutar Cuando tengamos una mejor comprensión del mecanismo de toma de decisiones detrás de estos algoritmos, seremos más conscientes de que los parámetros incluidos en los algoritmos, fuentes de datos de entrenamiento, diversidad de datos, métodos de modelado, etc., afectarán los resultados de la toma de decisiones (asignación de recursos). De esta manera, incluso si un sistema de toma de decisiones sesgado produce resultados que solo son beneficiosos para nosotros, no confiaremos demasiado en su imparcialidad y entenderemos que tiene limitaciones y no podemos usar la misma precisión para juzgar diferentes posesiones. Atribuir a las personas.

La equidad es un sentimiento construido por el ser humano. Sólo cuando tengamos una mejor comprensión de todos los factores que pueden afectar los resultados de la toma de decisiones, podremos entender desde diferentes perspectivas por qué nos pueden favorecer los algoritmos en unos casos y obtener resultados favorables, mientras que en otros Este no es el caso. Cuando tengamos una mejor comprensión de los mecanismos detrás de estos sistemas de toma de decisiones, encontraremos que no importa si el resultado del juicio del sistema es beneficioso para nosotros o no, podemos entender que tiene sus limitaciones y en qué niveles tiene limitaciones . Esta comprensión Nos permitirá sentirnos justos y amablemente tratados por el algoritmo ante los resultados de la toma de decisiones del sistema .

 

Autor: Ciencia de la información interdisciplinaria, Universidad de Tokio Yang Lan

Materiales de referencia:

  1. Wang, R., Harper, FM y Zhu, H. (2020, abril). Factores que influyen en la equidad percibida en la toma de decisiones algorítmicas: resultados de algoritmos, procedimientos de desarrollo y diferencias individuales. En las actas de la Conferencia CHI de 2020 sobre factores humanos en Sistemas de Computación (págs. 1-14).
  2. Nass, C., Steuer, J. y Tauber, ER (1994, abril). Las computadoras son actores sociales. En Actas de la conferencia SIGCHI sobre factores humanos en sistemas informáticos (págs. 72-78).


Esta web utiliza cookies propias y de terceros para su correcto funcionamiento y para fines analíticos y para fines de afiliación y para mostrarte publicidad relacionada con sus preferencias en base a un perfil elaborado a partir de tus hábitos de navegación. Al hacer clic en el botón Aceptar, acepta el uso de estas tecnologías y el procesamiento de tus datos para estos propósitos. Más información
Privacidad
Ir al contenido