El Papel de la Percepción en la Toma de Decisiones Automáticas
Cómo la percepción moldea las decisiones en sistemas automatizados.
― 6 minilectura
Tabla de contenidos
- El impacto de la percepción en los sistemas de toma de decisiones automatizadas
- Formalizando la percepción
- Atributos cargados y su papel
- Dos tipos de percepción causal
- Percepción infiel
- Percepción inconsistente
- Ejemplos de percepción en acción
- Construyendo un marco para la percepción
- Implicaciones para la equidad
- Avanzando
- Conclusión
- Fuente original
- Enlaces de referencia
La Percepción es cómo interpretamos la información. Diferentes personas pueden ver lo mismo pero entenderlo de maneras distintas. Esto puede llevar a decisiones diferentes basadas en los mismos datos. Esto es especialmente importante en sistemas de toma de decisiones, donde los algoritmos hacen elecciones basadas en entradas de datos.
El impacto de la percepción en los sistemas de toma de decisiones automatizadas
Los sistemas de toma de decisiones automatizadas (ADM) usan datos para tomar decisiones sin intervención humana. Sin embargo, la percepción juega un papel significativo en cómo se interpretan las decisiones por diferentes personas. Esto puede afectar la equidad de estos sistemas porque la equidad puede variar dependiendo de quién esté mirando la situación.
La percepción está moldeada por el trasfondo, las experiencias y el contexto social de una persona. Por ejemplo, dos personas pueden ver la misma solicitud de empleo pero interpretar las cualificaciones de manera diferente basándose en sus experiencias pasadas o prejuicios. Esta diferencia en la interpretación es crucial a la hora de evaluar cuán justo es un sistema ADM en su proceso de toma de decisiones.
Formalizando la percepción
Para entender mejor la percepción, necesitamos crear un marco que explique cómo los individuos interpretan la información. Esto implica reconocer que diferentes personas tienen puntos de vista únicos basados en sus experiencias, lo que moldea sus decisiones.
Una forma de pensarlo es a través de ejemplos. Cuando dos oficiales de admisiones miran las mismas solicitudes de universidad, sus interpretaciones pueden diferir basándose en sus antecedentes. Si un oficial viene de una zona rica, puede ver a los solicitantes de antecedentes similares de manera más favorable que a los de zonas menos acomodadas. Esto puede llevar a decisiones sesgadas.
Atributos cargados y su papel
Algunas características, como la raza, el género o el estatus socioeconómico, pueden afectar cómo las personas perciben la información. Estas se conocen como atributos cargados porque pueden evocar reacciones y prejuicios fuertes. Por ejemplo, si el nombre de un solicitante sugiere que proviene de un trasfondo étnico específico, esto podría influir en cómo un gerente de contratación evalúa sus cualificaciones.
Los atributos cargados pueden crear percepciones que llevan a ventajas o desventajas injustas en los procesos de toma de decisiones. Cuando estos atributos están presentes, las personas pueden favorecer o discriminar inconscientemente a otros basándose en sus interpretaciones.
Dos tipos de percepción causal
La percepción causal se refiere a cómo las personas interpretan relaciones de causa y efecto dentro de la información. Hay dos tipos principales de percepción causal:
Percepción infiel
En la percepción infiel, los individuos no están de acuerdo sobre las relaciones causales subyacentes detrás de la información. Por ejemplo, si una persona cree que las buenas calificaciones son resultado del trabajo duro, mientras que otra piensa que se deben al privilegio, interpretarán los mismos datos de manera diferente.
Percepción inconsistente
La percepción inconsistente ocurre cuando los individuos están de acuerdo en las relaciones causales pero no están de acuerdo en las implicaciones de esas relaciones. Por ejemplo, dos personas podrían coincidir en que el estatus socioeconómico afecta los resultados educativos, pero una podría creer que es un factor importante, mientras que la otra podría pensar que es menos significativo. Esta diferencia de opinión lleva a diferentes percepciones de equidad y sesgos en la toma de decisiones.
Ejemplos de percepción en acción
Imagina un proceso de admisiones universitarias. Un oficial de admisiones necesita elegir entre dos solicitantes igualmente calificados. Si un solicitante proviene de un vecindario rico y el otro de una zona de bajos ingresos, la percepción del oficial sobre estos solicitantes puede estar influenciada por sus antecedentes. El oficial podría favorecer inconscientemente al solicitante adinerado debido a estereotipos o prejuicios asociados con su vecindario.
En otro caso, consideremos un proceso de contratación. Si un empleador ve un currículum de un candidato con un nombre que a menudo se asocia con una etnicidad particular, puede tener nociones preconcebidas sobre las habilidades de ese candidato. Esto podría llevar a un trato injusto, ya que la percepción del empleador puede no alinearse con las cualificaciones del candidato.
Construyendo un marco para la percepción
Para abordar los desafíos que plantean las percepciones diferentes, necesitamos un marco que nos permita entender y analizar cómo las personas interpretan la información. Este marco debería considerar las diversas influencias sobre la percepción, como los atributos cargados y las experiencias individuales.
Categorización: Las personas categorizan la información basada en sus experiencias. Cada persona tiene un conjunto de descriptores que usa para clasificar a los solicitantes. Por ejemplo, un oficial podría categorizar a los candidatos basándose en sus logros académicos, mientras que otro podría considerar su trasfondo socioeconómico.
Significación: Esto implica cómo las personas asignan significado a la información que reciben. La forma en que un oficial interpreta la importancia de los logros de un solicitante puede diferir de la perspectiva de otro oficial. Esto lleva a interpretaciones variadas de los mismos datos.
Implicaciones para la equidad
Entender la percepción ayuda a resaltar la importancia de la equidad en los sistemas ADM. Cuando existen múltiples interpretaciones, la equidad no puede ser simplemente seguir procedimientos estandarizados. En cambio, requiere reconocer los diferentes puntos de vista de todas las partes interesadas involucradas.
Para garantizar la equidad, los sistemas ADM deberían tener en cuenta las diversas interpretaciones que surgen debido a las experiencias individuales y los atributos cargados. Entrenar modelos para que sean conscientes de estas diferencias puede ayudar a crear resultados más equilibrados.
Avanzando
Mirando hacia el futuro, debemos esforzarnos por incorporar una comprensión más matizada de la percepción en los sistemas de toma de decisiones. Esto implica desarrollar modelos que puedan reconocer y ajustarse mejor a diferentes percepciones, especialmente en relación con atributos sensibles.
Además, los investigadores deberían explorar cómo mitigar los sesgos resultantes de la percepción. Al centrarse en los factores que conducen a interpretaciones sesgadas, podemos trabajar hacia la construcción de sistemas que sean más justos e inclusivos.
Conclusión
En resumen, la percepción juega un papel crucial en cómo interpretamos la información y tomamos decisiones. Al entender su papel, especialmente en los sistemas ADM, las organizaciones pueden tomar medidas para crear procesos de toma de decisiones más justos. En el futuro, es esencial considerar las muchas influencias sobre la percepción y cómo pueden moldear nuestra comprensión de la equidad en varios contextos.
Título: Causal Perception
Resumen: Perception occurs when two individuals interpret the same information differently. Despite being a known phenomenon with implications for bias in decision-making, as individual experience determines interpretation, perception remains largely overlooked in machine learning (ML) research. Modern decision flows, whether partially or fully automated, involve human experts interacting with ML applications. How might we then, e.g., account for two experts that interpret differently a deferred instance or an explanation from a ML model? To account for perception, we first need to formulate it. In this work, we define perception under causal reasoning using structural causal models (SCM). Our framework formalizes individual experience as additional causal knowledge that comes with and is used by a human expert (read, decision maker). We present two kinds of causal perception, unfaithful and inconsistent, based on the SCM properties of faithfulness and consistency. Further, we motivate the importance of perception within fairness problems. We illustrate our framework through a series of decision flow examples involving ML applications and human experts.
Autores: Jose M. Alvarez, Salvatore Ruggieri
Última actualización: 2024-05-22 00:00:00
Idioma: English
Fuente URL: https://arxiv.org/abs/2401.13408
Fuente PDF: https://arxiv.org/pdf/2401.13408
Licencia: https://creativecommons.org/licenses/by/4.0/
Cambios: Este resumen se ha elaborado con la ayuda de AI y puede contener imprecisiones. Para obtener información precisa, consulte los documentos originales enlazados aquí.
Gracias a arxiv por el uso de su interoperabilidad de acceso abierto.