El camino complicado hacia la igualdad de oportunidades
Examinando las estructuras que afectan el acceso a oportunidades para todos.
― 10 minilectura
Tabla de contenidos
Mucha gente está de acuerdo en que todos deberían tener las mismas oportunidades en la vida. Sin embargo, lo que significa "igualdad de oportunidades" puede variar. Algunas personas creen que la equidad en la toma de decisiones debe centrarse en usar datos y algoritmos, mientras que otros argumentan que debemos mirar el sistema más amplio que afecta a quién consigue qué oportunidades.
La Importancia de las Oportunidades
Las oportunidades juegan un papel importante en cómo se forman nuestras habilidades, talentos y futuros. No entramos al mundo con ambiciones o habilidades predeterminadas; en cambio, estas se desarrollan a través de nuestras interacciones y las oportunidades que se nos presentan. Cuando las oportunidades son iguales y abundantes, las personas pueden elegir entre diferentes caminos en la vida en lugar de estar limitadas por las expectativas sociales. Esta noción de libertad está en el corazón de muchas sociedades democráticas, y es un valor ampliamente reconocido.
El Debate sobre la Igualdad de Oportunidades
A pesar del amplio apoyo a la igualdad de oportunidades, muchas personas tienen diferentes opiniones sobre lo que realmente implica. Esta discusión también se extiende a la equidad de los algoritmos utilizados en la toma de decisiones. En nuestro mundo impulsado por datos, ciertos sistemas pueden crear barreras que limitan las oportunidades para muchas personas. En enfoques anteriores se ha tratado de definir la igualdad de oportunidades en términos de decisiones individuales, centrándose en si ciertos factores deberían considerarse al evaluar el éxito futuro de alguien. Esto ha llevado al desarrollo de varias métricas de equidad.
Sin embargo, algunos académicos critican este enfoque limitado, argumentando que pasa por alto el contexto más amplio de las posibilidades y caminos de vida. Abogan por una comprensión más completa de la igualdad de oportunidades que considere los factores estructurales que afectan el acceso de las personas a oportunidades.
Un Enfoque Estructural para la Igualdad de Oportunidades
Una perspectiva prominente sobre la igualdad de oportunidades proviene de examinar las estructuras en las que se toman decisiones. La idea es que varias decisiones están interconectadas, y una decisión a menudo impacta en la siguiente. Los Cuellos de botella en este proceso de toma de decisiones pueden limitar enormemente las oportunidades. Al evaluar cómo operan estos cuellos de botella y su legitimidad, podemos entender mejor cuándo se ve realmente comprometida la igualdad de oportunidades.
Este enfoque toma en cuenta cómo diferentes sistemas-como educación, atención médica y justicia penal-interactúan y dónde fallan en proporcionar oportunidades iguales para todos.
Los Problemas con las Perspectivas Actuales
Las visiones formales de la igualdad de oportunidades sugieren que una persona solo debería ser evaluada en función de sus méritos en puntos de decisión específicos. Esto suena justo, pero hay serios obstáculos para convertir esto en una realidad, ya sea en sistemas algorítmicos o en procesos de toma de decisiones tradicionales.
Oportunidades de Desarrollo
En muchos casos, los niños de entornos privilegiados tienen acceso a mejores recursos y experiencias, lo que les da una ventaja cuando se trata de oportunidades. Esto significa que incluso si las decisiones en etapas posteriores son supuestamente iguales, están construidas sobre una base injusta. Los beneficios que provienen del desarrollo temprano crean un ciclo de ventajas que es difícil de romper.
Aislar el Mérito
Algunas personas creen que las decisiones pueden centrarse únicamente en el mérito, como el talento y el esfuerzo. Sin embargo, es casi imposible separar el mérito de las circunstancias que rodean la crianza y las experiencias de una persona. Todo lo que hacemos está influenciado por una mezcla de nuestras habilidades innatas y los entornos en los que crecemos. Por lo tanto, tomar decisiones basadas únicamente en el mérito sin reconocer estas influencias puede ser engañoso.
Soluciones Limitadas
Las visiones actuales de la igualdad de oportunidades a menudo se pierden en el panorama general. Tienden a centrarse solo en puntos de decisión específicos e ignoran los sistemas más grandes que crean estas disparidades. Este enfoque limitado puede fomentar una mentalidad de suma cero, donde mejorar las oportunidades de una persona perjudica directamente las oportunidades de otra.
Problemas del Punto de Partida
Muchos enfoques asumen que si pudiéramos garantizar condiciones iguales desde un punto de partida, entonces las decisiones posteriores serían justas. Sin embargo, esta perspectiva es demasiado simplista. Incluso si nivelamos el terreno al principio, pueden surgir disparidades significativas más adelante debido a la falta de caminos disponibles para quienes estaban inicialmente en desventaja.
Pensamiento de Suma Cero
Centrarse en decisiones individuales puede crear una atmósfera competitiva, donde mejorar la situación de un grupo a menudo significa perjudicar a otro. Este enfoque limitado puede llevar a una comprensión distorsionada de la equidad y perpetuar las desigualdades existentes.
Teoría de Cuellos de Botella
Cada vez más académicos están abogando por mirar más allá de la equidad formal y examinar la estructura general de las oportunidades. La teoría de cuellos de botella proporciona un marco útil para entender cómo las decisiones afectan la distribución de oportunidades en la sociedad.
¿Qué es un Cuello de Botella?
Un cuello de botella es un punto en el proceso de toma de decisiones que limita las oportunidades. Los algoritmos representan cada vez más estos cuellos de botella en muchas situaciones de la vida real. A menudo están encadenados, lo que significa que el resultado de una decisión impacta en muchas otras. Examinar tanto la gravedad como la legitimidad de estos cuellos de botella nos ayuda a entender el impacto que tienen en la igualdad de oportunidades.
Gravedad de los Cuellos de Botella
La gravedad de un cuello de botella se refiere a cuánto restringe las oportunidades. Dos factores principales influyen en la gravedad: el alcance de las personas afectadas y qué tan estrictamente se limitan las oportunidades. Los cuellos de botella más graves pueden restringir a un mayor número de personas y crear barreras más significativas para el acceso.
Desigualdad Patrón
Las desigualdades en el mundo real a menudo muestran patrones observables basados en características sociales. Cuando los tomadores de decisiones se basan en estos rasgos identificables, puede llevar a reforzar las disparidades existentes. Por ejemplo, usar factores como los puntajes de crédito para tomar decisiones de contratación puede reproducir patrones de desigualdad, perjudicando aún más a ciertos grupos.
Monocultura Algorítmica
La monocultura algorítmica ocurre cuando numerosos tomadores de decisiones utilizan datos o modelos similares. Esto puede llevar a resultados estandarizados, donde ciertos grupos son constantemente ignorados o desfavorecidos. Los patrones de exclusión que surgen de esto pueden crear cuellos de botella generalizados, limitando aún más las oportunidades para los grupos marginados.
Legitimidad y Cuellos de Botella
La legitimidad de un proceso de toma de decisiones a menudo gira en torno a dos aspectos: la precisión matemática y la justificación social. Si bien los algoritmos pueden producir predicciones precisas, su uso también debe considerar los contextos sociales en los que operan.
Injusticia Acumulativa
La injusticia acumulativa surge cuando agravios o inequidades anteriores afectan cómo se asignan las oportunidades futuras. Por ejemplo, si un algoritmo utiliza costos de salud pasados para determinar necesidades futuras de atención médica, puede reforzar los prejuicios existentes contra poblaciones marginadas.
Daños Relacionales
Los daños relacionales se refieren a cómo las dinámicas de poder y las estructuras sociales pueden llevar a disparidades en las oportunidades. Comprender claramente estas relaciones puede ayudar a mejorar el diseño de algoritmos, asegurando que tengan en cuenta el contexto más amplio en el que operan.
Priorizando la Gravedad en las Intervenciones
Al abordar cuestiones de igualdad de oportunidades, es crucial centrarse en aliviar los cuellos de botella severos. Priorizar la gravedad asegura que aquellos más impactados por las desigualdades estructurales reciban el apoyo que necesitan.
Recomendaciones para Intervenciones
Para ayudar a aliviar la gravedad de los procesos de toma de decisiones, se deben considerar diversas estrategias, como:
- Toma de Decisiones Diversa: Fomentar una variedad de tomadores de decisiones puede ayudar a asegurar que se consideren múltiples perspectivas.
- Transparencia: Proporcionar explicaciones claras sobre cómo se toman las decisiones puede ayudar a las personas a entender y impugnar resultados cuando sea necesario.
- Modelos Múltiples: Emplear diferentes algoritmos para diferentes puntos de decisión puede ayudar a reducir los riesgos asociados con la monocultura y ofrecer una variedad de resultados.
- Aleatoriedad: Introducir un elemento de azar en los procesos de toma de decisiones puede mantenerlos justos y ayudar a garantizar que los candidatos merecedores no sean constantemente pasados por alto.
Estudios de Caso sobre Cuellos de Botella
Para ilustrar el impacto de los cuellos de botella en la igualdad de oportunidades, podemos ver tres sectores: educación, atención médica y justicia penal.
Educación
El proceso de admisión universitaria es un cuello de botella significativo en la sociedad. A medida que las tasas de aceptación disminuyen, muchos candidatos calificados quedan sin oportunidades debido a barreras sistémicas. Las admisiones por legado a menudo favorecen a estudiantes más ricos, perpetuando disparidades de clase y raciales. Esfuerzos como la acción afirmativa intentan abordar estas preocupaciones, pero los debates se centran más en la legitimidad de tales políticas que en las severas restricciones subyacentes.
Atención Médica
La enfermedad renal crónica es un problema de salud serio, que afecta particularmente a minorías raciales y a personas de entornos socioeconómicos bajos. Los algoritmos utilizados para evaluar la función renal suelen pasar por alto estas disparidades y pueden llevar a un tratamiento desigual para los pacientes. Si bien se están llevando a cabo iniciativas para revisar estos algoritmos, se podría hacer más para reducir la gravedad que enfrentan los pacientes.
Justicia Penal
El sistema de justicia penal de EE. UU. enfrenta desafíos significativos debido a las prácticas de detención preventiva influenciadas por algoritmos de evaluación de riesgos. Estos sistemas a menudo son criticados por su falta de equidad, ya que pueden afectar desproporcionadamente a poblaciones marginadas. Los esfuerzos de reforma deben priorizar la reducción de la gravedad de estos procesos de toma de decisiones para asegurar mejores resultados para todos.
Conclusión
La igualdad de oportunidades sigue siendo un valor fundamental en la sociedad, pero lograrlo requiere enfocarse en las estructuras subyacentes que gobiernan la toma de decisiones. Al examinar cómo operan los cuellos de botella y priorizar intervenciones que alivien su gravedad, las partes interesadas pueden trabajar para crear un panorama más equitativo donde todos tengan una oportunidad justa de tener éxito. Ya sea a través de cambios regulatorios, mejoras algorítmicas o participación comunitaria, todos los esfuerzos deben esforzarse por expandir el acceso a oportunidades para todas las personas, independientemente de su origen o circunstancias.
Título: Algorithmic Pluralism: A Structural Approach To Equal Opportunity
Resumen: We present a structural approach toward achieving equal opportunity in systems of algorithmic decision-making called algorithmic pluralism. Algorithmic pluralism describes a state of affairs in which no set of algorithms severely limits access to opportunity, allowing individuals the freedom to pursue a diverse range of life paths. To argue for algorithmic pluralism, we adopt Joseph Fishkin's theory of bottlenecks, which focuses on the structure of decision-points that determine how opportunities are allocated. The theory contends that each decision-point or bottleneck limits access to opportunities with some degree of severity and legitimacy. We extend Fishkin's structural viewpoint and use it to reframe existing systemic concerns about equal opportunity in algorithmic decision-making, such as patterned inequality and algorithmic monoculture. In proposing algorithmic pluralism, we argue for the urgent priority of alleviating severe bottlenecks in algorithmic decision-making. We contend that there must be a pluralism of opportunity available to many different individuals in order to promote equal opportunity in a systemic way. We further show how this framework has several implications for system design and regulation through current debates about equal opportunity in algorithmic hiring.
Autores: Shomik Jain, Vinith Suriyakumar, Kathleen Creel, Ashia Wilson
Última actualización: 2024-05-15 00:00:00
Idioma: English
Fuente URL: https://arxiv.org/abs/2305.08157
Fuente PDF: https://arxiv.org/pdf/2305.08157
Licencia: https://creativecommons.org/licenses/by/4.0/
Cambios: Este resumen se ha elaborado con la ayuda de AI y puede contener imprecisiones. Para obtener información precisa, consulte los documentos originales enlazados aquí.
Gracias a arxiv por el uso de su interoperabilidad de acceso abierto.