A Necessidade de Transparência em Modelos de Fundamento

Modelos de fundação são tecnologias importantes que têm um grande impacto na sociedade. Pra garantir que as pessoas saibam como esses modelos são desenvolvidos e usados, a transparência é essencial. Pra isso, sugerimos criar Relatórios de Transparência de Modelos de Fundação, baseados nas práticas de relatórios usadas pelas empresas de redes sociais.

O objetivo desses relatórios é fornecer informações claras e úteis sobre modelos de fundação. Enquanto os relatórios de transparência das redes sociais surgiram em resposta a problemas sociais visíveis, nossa meta é estabelecer práticas semelhantes para modelos de fundação enquanto esse campo ainda tá se desenvolvendo. Identificamos seis princípios orientadores baseados no que funcionou bem ou mal na reportagem de redes sociais.

Pra ajudar a criar esses relatórios, nos referimos ao Índice de Transparência de Modelos de Fundação, que inclui 100 indicadores-chave. Também verificamos como esses indicadores se alinham aos requisitos de transparência em várias políticas governamentais importantes, como o Ato de IA da UE e a Ordem Executiva de IA dos EUA. Relatórios de transparência bons poderiam ajudar as empresas a manter os custos baixos, especialmente já que muitas regulações ao redor do mundo exigem informações semelhantes.

Recomendamos que os desenvolvedores de modelos de fundação publiquem regularmente esses relatórios de transparência, como incentivado por grupos como o G7 e a Casa Branca. Atualmente, o ecossistema de modelos de fundação carece de transparência, com grandes empresas como OpenAI e Google tendo pontuações baixas em termos de responsabilidade pública.

As plataformas de redes sociais enfrentaram desafios semelhantes no passado e começaram a publicar relatórios de transparência. Nos últimos 15 anos, muitas empresas de internet e telecomunicações optaram por lançar esses relatórios públicos, detalhando suas práticas de uso e governança. Isso se tornou uma prática padrão na indústria.

A União Europeia também tornou a transparência uma exigência através da sua Lei de Serviços Digitais, que manda que plataformas online emitam relatórios de transparência regulares. À medida que a indústria de modelos de fundação cresce, os governos estão considerando medidas semelhantes pra melhorar a transparência.

Por exemplo, nos EUA, uma nova legislação está sendo proposta que exigiria relatórios públicos padrão sobre modelos de fundação. Esse projeto enfatiza a necessidade de transparência no uso e impacto das tecnologias de IA.

Da mesma forma, o Ato de IA da UE estabelece requisitos de transparência em áreas como dados de treinamento e gestão de riscos. Outros países, como o Canadá e o Reino Unido, também propuseram medidas para melhorar a transparência nas tecnologias de IA.

Pra abordar as lacunas de transparência no ecossistema de modelos de fundação, propomos a criação de Relatórios de Transparência de Modelos de Fundação padronizados. Esses relatórios forneceriam as informações necessárias sobre modelos de fundação que os desenvolvedores deveriam atualizar regularmente.

Ao padronizar o que as empresas relatam, esses relatórios podem ajudar as partes interessadas a acessar facilmente as informações-chave e comparar diferentes modelos. Nossos relatórios são baseados tanto nas recomendações do G7 quanto nos compromissos feitos pelas empresas pra aumentar a transparência.

Atualmente, a maioria dos desenvolvedores de modelos de fundação não fornece informações claras sobre suas práticas. Isso leva a confusão e dificuldade pra partes interessadas tentando entender essas tecnologias. Nossos relatórios estabeleceriam expectativas claras sobre quais informações estão incluídas e como elas devem ser organizadas.

Mesmo com os requisitos de transparência atuais, vemos que muitas vezes eles carecem de clareza e não especificam precisamente o que os desenvolvedores deveriam relatar. Portanto, nossos relatórios apresentam uma estrutura clara para as informações necessárias, que inclui uma ampla gama de práticas ao longo da cadeia de suprimentos.

Ao olhar como a transparência funciona em outras indústrias, podemos aprender lições valiosas para modelos de fundação. Por exemplo, muitas empresas em diferentes campos já são obrigadas a produzir relatórios que documentam suas operações, e esses relatórios ajudam a garantir a responsabilidade.

Em essência, nossa meta é ajudar os desenvolvedores de modelos de fundação a se tornarem mais transparentes e dar aos governos as ferramentas pra promover a transparência através de políticas.

#Contexto sobre Relatórios de Transparência de Redes Sociais

O sucesso das plataformas de redes sociais nas últimas duas décadas mostra como tecnologias transformadoras podem moldar a sociedade. Conforme as redes sociais se tornaram generalizadas, também enfrentaram inúmeras dificuldades, incluindo desinformação e preocupações com privacidade.

Esses problemas vieram à tona através de escândalos como o Cambridge Analytica e a violência contra a comunidade rohingya em Mianmar. Tais danos sociais sérios destacaram a necessidade de que as empresas de redes sociais fornecessem relatos mais claros sobre como operam e gerenciam os dados dos usuários.

Pra lidar com essas questões, as empresas de redes sociais começaram a emitir relatórios de transparência, que rastreiam várias métricas relacionadas à atividade dos usuários e pedidos legais. Desde 2010, muitas plataformas adotaram essa prática em resposta à pressão pública e como uma forma de tranquilizar os usuários sobre como gerenciam a informação.

Por exemplo, o Google começou a publicar relatórios detalhando quantos pedidos governamentais receberam pra remoção de conteúdo e os motivos por trás desses pedidos. Outras plataformas seguiram o exemplo nos anos que se seguiram, levando a um aumento significativo na reportagem de transparência.

Esses relatórios geralmente se dividem em várias categorias: pedidos de informações de usuários, pedidos de remoção, aplicação de propriedade intelectual e aplicação de políticas. As empresas de redes sociais focam principalmente em preservar a privacidade dos usuários enquanto lidam com preocupações públicas sobre suas práticas.

À medida que mais empresas começaram a produzir relatórios de transparência, surgiram organizações pra avaliar e pontuar esses relatórios com base em sua eficácia e abrangência. Essas avaliações levaram a uma maior atenção sobre como as empresas cumpriam seus compromissos de transparência.

Apesar desses desenvolvimentos, muitas lacunas e inconsistências permanecem em como as empresas relatam suas práticas. Diferentes plataformas de redes sociais podem relatar informações semelhantes de maneiras diferentes, dificultando comparações significativas.

Nos últimos anos, a reportagem de transparência se tornou uma expectativa comum em várias indústrias, impulsionada pela demanda pública por melhor responsabilidade. A Lei de Serviços Digitais da UE é uma regulação marcante que exige que grandes plataformas online apresentem relatórios de transparência claros e detalhados.

A DSA estabelece padrões específicos sobre como as plataformas devem divulgar informações, que vão desde práticas de moderação de conteúdo até os recursos usados em suas operações. Visando a clareza, essa regulação procura informar melhor os usuários e partes interessadas sobre como as plataformas gerenciam suas responsabilidades.

#Design dos Relatórios de Transparência de Modelos de Fundação

Pra criar Relatórios de Transparência de Modelos de Fundação eficazes, focamos em seis princípios-chave. Esses princípios são baseados tanto nas forças quanto nas limitações dos relatórios de transparência das redes sociais.

Primeiro, consolidação e centralização são essenciais. Os relatórios devem reunir informações em um só lugar, facilitando para as partes interessadas encontrarem o que precisam. Os relatórios devem ter uma estrutura clara que destaque as informações essenciais, respondendo a perguntas específicas que os usuários possam ter.

Segundo, os relatórios de transparência devem fornecer contexto pra ajudar uma variedade de partes interessadas a interpretar a informação. Usuários, pesquisadores e desenvolvedores se beneficiarão de entender os métodos e práticas por trás dos dados.

Em seguida, especificação independente é vital. Ao invés de permitir que os desenvolvedores definam o que vai nos relatórios deles, deve haver um conjunto uniforme de indicadores. Isso ajuda a garantir que todos compartilhem as mesmas categorias de informações, tornando mais fácil a comparação.

Padronização é outro princípio importante. Os relatórios devem seguir um formato consistente pra que os usuários possam navegar e analisar facilmente as informações fornecidas. Isso ajudará a facilitar comparações entre diferentes modelos de fundação.

Por último, uma metodologia clara é essencial. Os desenvolvedores devem explicar como calcularam estatísticas ou avaliaram certos fatores. Sem essa clareza, pode ser desafiador pras partes interessadas confiarem nas informações apresentadas nos relatórios.

Ao aplicar esses princípios, esperamos projetar relatórios de transparência que sejam úteis e informativos pra uma ampla variedade de partes interessadas. Esses relatórios devem buscar fornecer uma visão sobre o desenvolvimento, operação e impacto dos modelos de fundação.

#Alinhamento de Políticas

Múltiplas políticas governamentais ao redor do mundo incluem requisitos de transparência pra desenvolvedores de modelos de fundação. Ao examinar essas políticas, podemos determinar o quão bem elas se alinham com os indicadores dos nossos relatórios de transparência.

Identificamos seis políticas principais que contêm requisitos relevantes de transparência. Por exemplo, o Ato de IA da UE delineia regras sobre como os sistemas de IA devem ser documentados, exigindo divulgações específicas sobre transparência e gestão de riscos.

Da mesma forma, a Ordem Executiva de IA dos EUA destaca a importância da transparência na indústria de IA, exigindo que as empresas divulguem suas práticas e riscos em relação aos modelos de fundação. Outros países, como Canadá e Reino Unido, também estão trabalhando em políticas que promovem a transparência na IA.

Estabelecer requisitos de transparência pode ajudar os desenvolvedores de modelos de fundação a alinhar suas práticas com as regulações do governo. Fazendo isso, eles podem não apenas cumprir suas obrigações legais, mas também ganhar a confiança pública sendo mais responsáveis.

Contudo, muitas políticas atualmente carecem da especificidade necessária pra abordar todos os aspectos da transparência. Nosso trabalho visa preencher essas lacunas definindo indicadores claros que os desenvolvedores podem relatar.

#Exemplos de Entradas de Relatórios de Transparência

Pra ajudar os desenvolvedores a entenderem como construir um Relatório de Transparência de Modelos de Fundação, oferecemos exemplos baseados em práticas existentes de empresas líderes de modelos de fundação.

Por exemplo, ao relatar sobre o tamanho dos dados, o modelo BLOOMZ da Hugging Face indica que foi treinado com 363 bilhões de tokens. Além disso, cita ROOTS e xP3 como suas fontes de dados, e direciona os leitores a artigos relevantes pra mais detalhes.

Outro exemplo inclui informações sobre práticas trabalhistas. O GPT-4 da OpenAI detalha seu compromisso de pagar os trabalhadores de forma justa, permitindo que eles optem por não participar de tarefas desagradáveis e estudando o bem-estar dos trabalhadores. Esse nível de transparência pode ajudar a fortalecer a confiança do público.

Em termos de impacto ambiental, o modelo Llama 2 da Meta informa os usuários sobre seu consumo de energia e emissões de carbono. Essas divulgações podem ajudar as partes interessadas a entender as implicações mais amplas do desenvolvimento e implantação de modelos de fundação.

#Conclusão

Com o rápido crescimento dos modelos de fundação e sua crescente influência na sociedade, a importância da transparência não pode ser subestimada. Ao adotar relatórios de transparência padronizados, os desenvolvedores podem fornecer informações críticas às partes interessadas e formuladores de políticas.

Esses relatórios ajudarão a construir confiança em modelos de fundação e garantir responsabilidade à medida que a tecnologia continua a melhorar e evoluir. Aprendendo com experiências passadas em outras indústrias, particularmente nas redes sociais, podemos promover uma cultura de transparência que beneficie todos os envolvidos no ecossistema.