El Papel de las Políticas de Uso Aceptable en el Desarrollo de IA

A medida que el uso de Modelos de Fundación ha crecido rápidamente, los Desarrolladores están comenzando a poner reglas en marcha para prevenir usos dañinos de estas tecnologías. Un método importante que están utilizando se llama Políticas de Uso Aceptable (PUAs). Estos son documentos legales que establecen claramente lo que los usuarios pueden y no pueden hacer con los modelos.

Esta discusión examina a 30 desarrolladores diferentes de modelos de fundación, revisa sus PUAs y explica por qué estas políticas son importantes para controlar cómo se utilizan los modelos de fundación.

Las PUAs de los desarrolladores incluyen una amplia gama de restricciones, con un total de 127 reglas diferentes. Esta variedad puede causar confusión en el campo de la IA. Los desarrolladores también utilizan estas políticas para bloquear a competidores o industrias específicas de usar sus modelos. Es significativo que los desarrolladores decidan qué se considera uso aceptable sin mucha transparencia sobre cómo aplican estas reglas.

En realidad, hacer cumplir las PUAs puede ser complicado. La aplicación estricta puede limitar el acceso para investigadores y podría obstaculizar usos positivos y beneficiosos de los modelos de fundación. A pesar de estos desafíos, las PUAs son un primer intento de autorregulación que afecta significativamente el mercado de estos modelos y el ecosistema más amplio de la IA.

Los gobiernos que se enfocan en regular la IA han tratado de detener ciertos usos dañinos, como fabricar armas biológicas, deepfakes o contenido dañino relacionado con niños. Sin embargo, detener estos usos no es sencillo porque los modelos de fundación están diseñados para manejar una amplia gama de tareas.

Los desarrolladores de modelos de fundación han sido proactivos en crear políticas amplias como parte de sus reglas de servicio o licencias de modelos, que previenen muchos usos potencialmente dañinos de su tecnología. Han adoptado restricciones de uso legalmente vinculantes, con desarrolladores de modelos de peso abierto que utilizan cada vez más restricciones estandarizadas.

Por otro lado, los desarrolladores de modelos de peso cerrado a menudo limitan las actividades de los usuarios a través de acuerdos de términos de servicio que prohíben tipos específicos de generación de contenido. Estas políticas se llaman políticas de uso aceptable (PUAs) porque establecen los límites de lo que está permitido y lo que no.

Las preguntas centrales que se exploran son: ¿qué muestran estas PUAs sobre cómo los desarrolladores buscan regular el comportamiento de los usuarios, y qué impacto tienen en el ecosistema de modelos de fundación?

#Antecedentes de las Políticas de Uso Aceptable

Las políticas de uso aceptable son ampliamente utilizadas en varias tecnologías digitales. Las empresas que ofrecen acceso público a computadoras, sitios web y servicios en línea han tenido estas reglas desde hace tiempo, que aclaran lo que los usuarios pueden y no pueden hacer.

Si bien la aplicación de estas políticas varía, las restricciones son comunes. Las empresas de redes sociales, servicios en la nube y redes de contenido han sido examinadas por cómo sus políticas de uso aceptable limitan el comportamiento de sus numerosos usuarios.

Los empleadores y las instituciones educativas también tienen políticas de uso aceptable que limitan cómo pueden usar la tecnología empleados o estudiantes. En el caso de los modelos de fundación, una política de uso aceptable es una guía de un desarrollador que detalla cómo se puede o no utilizar su modelo.

Estas políticas impiden que los usuarios generen ciertos tipos de contenido. A diferencia de las tecnologías no generativas, que se centran en lo que el usuario ingresa, los modelos de fundación observan el contenido que a los usuarios no se les permite crear. Los desarrolladores hacen que estas restricciones sean legalmente vinculantes a través de acuerdos de términos de servicio o licencias para sus modelos de fundación.

Normalmente, estas políticas buscan detener a los usuarios de generar contenido que podría ser ilegal o dañino. Por ejemplo, así como las bibliotecas públicas no permiten que se produzcan ciertos artículos con impresoras 3D, los desarrolladores impiden que los usuarios generen contenido dañino con modelos de fundación.

Para implementar estas políticas, los desarrolladores a menudo filtran los datos de entrenamiento para excluir contenido dañino. También utilizan técnicas como el aprendizaje por refuerzo para entrenar modelos para evitar crear salidas prohibidas.

#Diferencias con Otros Documentos

Las políticas de uso aceptable no son las únicas herramientas que usan los desarrolladores para restringir el uso de modelos. Otros documentos similares incluyen:

#Tarjetas de Modelo

Las tarjetas de modelo son documentos que proporcionan información sobre modelos, incluidos usos previstos y usos fuera de alcance. Sin embargo, no son contratos aplicables y no tienen el mismo peso que las políticas de uso aceptable.

#Políticas de Comportamiento del Modelo

Las políticas de comportamiento del modelo se centran en lo que un modelo puede o no puede hacer. Mientras que las políticas de uso aceptable guían el comportamiento del usuario, las políticas de comportamiento del modelo dictan cómo se comporta el modelo en sí.

#Contratos de Terceros

Los desarrolladores de modelos de fundación a menudo trabajan con otras empresas para compartir sus modelos. Estos contratos pueden incluir restricciones de uso, pero a menudo no está claro cómo se relacionan estas restricciones con las PUAs de los desarrolladores.

#Normas y Leyes Relacionadas con las PUAs

Aunque la IA generativa sigue desarrollándose, algunas normas están surgiendo en torno a las restricciones de uso para los modelos de fundación. Los desarrolladores de modelos de peso abierto a menudo adoptan políticas de uso aceptable compartidas para estandarizar las reglas.

Los gobiernos están mostrando interés en las políticas de uso aceptable, viéndolas como una forma para que los desarrolladores se autorregulen. Por ejemplo, la UE tiene reglas que requieren que los proveedores de modelos de IA de propósito general declaren sus políticas de uso aceptable. De manera similar, las nuevas regulaciones de China exigen que los desarrolladores impidan que los usuarios participen en actividades ilegales mientras utilizan sus servicios.

#Protocolo de Búsqueda para PUAs

Los desarrolladores utilizan varios documentos para limitar el uso de modelos, incluidos:

• Políticas de uso aceptable independientes para todos los modelos de fundación.
• Restricciones de uso en licencias de modelos generales.
• Licencias de modelo personalizadas con restricciones específicas.
• Acuerdos de términos de servicio que se aplican a todos los servicios.

Para encontrar estas políticas, los investigadores compilan una lista de desarrolladores y examinan sus términos de servicio y licencias para identificar las disposiciones limitantes.

#Codificación de Categorías de Uso Prohibido

Para analizar las PUAs, los investigadores emplearon métodos cualitativos para clasificar las categorías de uso prohibido. Al examinar cada política, crearon una lista de 127 usos prohibidos distintos en todas las PUAs.

Este enfoque sistemático permite un análisis exhaustivo de las políticas y los riesgos potenciales que los desarrolladores buscan mitigar.

#Analizando las Políticas de Uso Aceptable

#Desarrolladores con PUAs

Los desarrolladores con políticas de uso aceptable muestran diversidad, con algunos compartiendo abiertamente sus pesos de modelo mientras que otros no. Existen muchos tipos diferentes de modelos, como modelos de lenguaje, multimodal, de imagen, de video y de audio, que reflejan una variedad de capacidades y funcionalidades.

#Contenido Prohibido en las PUAs

Las PUAs a menudo prohíben contenido relacionado con violencia explícita, fraude, abuso, engaño y otras actividades dañinas. Las categorías más comunes que los desarrolladores restringen incluyen desinformación, acoso, violaciones de privacidad, discriminación y explotación infantil.

Sin embargo, la fuerza y el detalle de las políticas varían. Algunos desarrolladores ofrecen prohibiciones detalladas, mientras que otros mantienen reglas más generales y menos específicas.

#Restricciones sobre Tipos de Uso Final

Además de prohibir cierto contenido, las políticas de uso aceptable a menudo esbozan qué tipos de actividades pueden llevar a cabo los usuarios. Algunas políticas impiden a los usuarios entrenar modelos con sus salidas, una práctica llamada "raspado de modelo". Otras restringen la distribución de contenido generado por IA a gran escala o limitan el uso en industrias específicas.

Ciertos desarrolladores también prohíben el uso de modelos en campos con una regulación intensa, como la ley, las finanzas y la salud, previniendo efectivamente el uso indebido en esas áreas.

#Correlaciones Entre las PUAs de los Desarrolladores

A pesar de los esfuerzos por estandarizar las PUAs entre los desarrolladores, las políticas aún muestran diferencias significativas. Algunos desarrolladores tienen políticas muy similares, mientras que otros difieren mucho, creando desafíos para organizaciones que distribuyen varios modelos.

Por ejemplo, empresas como Amazon Web Services que ofrecen modelos de múltiples desarrolladores enfrentan dificultades para hacer cumplir un conjunto coherente de políticas de uso aceptable.

#Desarrolladores Sin Políticas de Uso Aceptable

Un número de desarrolladores no tiene políticas de uso aceptable para sus modelos. Muchos eligen no usar estas políticas por varias razones, incluida su intención de dirigirse a investigadores o porque consideran que hay menores riesgos asociados con sus modelos.

Algunos desarrolladores pueden adoptar un enfoque más relajado, esperando maximizar el uso de sus modelos sin imponer restricciones. Sin embargo, esto puede llevar a una falta de claridad sobre los usos permitidos y podría incluso fomentar prácticas inseguras.

#Aplicación de las Políticas de Uso Aceptable

#Barreras para la Aplicación

La capacidad de hacer cumplir estas políticas presenta desafíos significativos, especialmente para los desarrolladores abiertos. A diferencia de los desarrolladores cerrados que monitorean cómo se utilizan sus modelos, los desarrolladores abiertos distribuyen libremente los pesos de modelos, lo que hace difícil rastrear cómo se están utilizando los modelos.

También surgen desafíos legales; muchas licencias de peso abierto pueden no hacer cumplir efectivamente las políticas contra los usuarios posteriores, creando más complicaciones.

#Desviando la Responsabilidad a los Usuarios

Las PUAs a menudo trasladan la responsabilidad del uso apropiado de la tecnología de los desarrolladores a los usuarios. Aunque estas políticas pueden limitar el comportamiento, no cambian fundamentalmente cómo los usuarios individuales interactúan con los modelos.

Por ejemplo, hacer que los usuarios sean responsables de la creación de contenido dañino puede no ser justo para individuos vulnerables que buscan ayuda o guía.

#Posibles Efectos Externos Negativos de la Aplicación

La aplicación estricta de las PUAs puede obstaculizar el acceso a la investigación. Los desarrolladores pueden limitar o prohibir cuentas de investigación que violen las políticas de uso aceptable, lo que podría limitar investigaciones críticas de seguridad.

Además, algunos usos beneficiosos de los modelos de fundación podrían verse impedidos debido a restricciones demasiado amplias, mientras que áreas importantes como la reducción de daños o la robótica podrían verse afectadas negativamente.

#Falta de Transparencia en la Aplicación

La información sobre cómo los desarrolladores hacen cumplir sus políticas de uso aceptable a menudo es escasa. Mientras que las empresas declaran lo que está prohibido, muchas no aclaran cómo aplican estas políticas o si los usuarios tienen vías para apelar.

Esta falta de transparencia significa que es difícil evaluar si las PUAs realmente limitan usos peligrosos, lo que genera dudas sobre su efectividad.

#Los Desarrolladores Deciden Lo Que Constituye Uso Aceptable

Los desarrolladores crean políticas de uso aceptable sin la participación de los usuarios o socios externos. Tienen una autoridad significativa sobre cómo se utilizan sus modelos de fundación, impactando todo el ecosistema de IA.

Si bien algunos desarrolladores han comenzado a buscar la opinión pública, como realizar encuestas sobre el comportamiento del modelo, esta práctica no es generalizada.

#Las Brechas en las Restricciones de Uso Pueden Facilitar el Uso Indebido

Las políticas de uso aceptable de los desarrolladores difieren enormemente, con algunas carentes de restricciones importantes relacionadas con la política o el consejo médico. Esta inconsistencia puede permitir el uso indebido, complicando la aplicación.

La ausencia de estándares comunes dificulta que los usuarios comprendan lo que es aceptable. Esto podría llevar a un uso indebido accidental, especialmente para aquellos que no están familiarizados con las diferentes políticas de varios modelos de fundación.

#Las PUAs Ayudan a Dar Forma al Mercado de Modelos de Fundación

Las políticas de uso aceptable influyen en el mercado al determinar qué organizaciones pueden usar un modelo y por qué. Pueden prevenir que ciertas industrias utilicen modelos específicos, por ejemplo, impidiendo a los fabricantes de armas generar contenido relacionado.

Al dictar los tipos de actividades permitidas, las PUAs también aseguran que muchas organizaciones no puedan utilizar modelos para aplicaciones comunes, afectando el panorama general del uso de modelos de fundación.

#Áreas para Futuros Trabajos

#Recolección de Datos sobre la Aplicación de PUAs

Los esfuerzos futuros deben centrarse en recopilar información sobre cómo los desarrolladores hacen cumplir las políticas de uso aceptable. Entender los mecanismos de aplicación arrojaría luz sobre su efectividad.

#Moderación de Contenido en Plataformas de IA Generativa

La investigación también debería abordar la moderación de contenido en plataformas de IA, ya que ha sido estudiada extensamente en redes sociales pero está poco explorada para la IA generativa.

#Regulando el Uso Aceptable de Modelos de Fundación

Finalmente, los gobiernos podrían regular el uso aceptable de modelos de fundación de manera más estricta. El éxito de tales regulaciones podría ver más desarrollos en cómo se gobiernan las tecnologías de IA.

En resumen, las políticas de uso aceptable son pautas cruciales que dan forma al uso de modelos de fundación. Crean un marco para lo que es aceptable mientras también presentan desafíos para la aplicación y la claridad. A medida que el panorama evoluciona, es necesario considerar cómo estas políticas pueden adaptarse o mejorar para satisfacer las necesidades de los usuarios, desarrolladores y reguladores por igual.