Explorando instituições para governança global de IA

O New White Paper investiga modelos e funções de instituições internacionais que poderiam ajudar a gerenciar oportunidades e mitigar os riscos de IA avançada

A crescente conscientização sobre o impacto global da inteligência artificial avançada (IA) inspirou discussões públicas sobre a necessidade de estruturas de governança internacional para ajudar a gerenciar oportunidades e mitigar os riscos envolvidos.

Muitas discussões se basearam em analogias com o ICAO (Organização Internacional de Aviação Civil) em aviação civil; CERN (Organização Europeia de Pesquisa Nuclear) em Física de Partículas; IAEA (Agência Internacional de Energia Atômica) em tecnologia nuclear; e organizações intergovernamentais e de várias partes interessadas em muitos outros domínios. E, no entanto, embora as analogias possam ser um começo útil, as tecnologias emergentes da IA ​​serão diferentes da aviação, física de partículas ou tecnologia nuclear.

Para ter sucesso com a governança da IA, precisamos entender melhor:

1. Que benefícios e riscos específicos precisamos para gerenciar internacionalmente.
2. Que governança funciona esses benefícios e riscos.
3. O que as organizações podem fornecer melhor essas funções.

Nosso último artigocom colaboradores da Universidade de Oxford, Université de Montreal, Universidade de Toronto, Universidade de Columbia, Universidade de Harvard, Universidade de Stanford e Openai, aborda essas questões e investiga como as instituições internacionais podem ajudar a gerenciar o impacto global do desenvolvimento da Frontier IA e fazer Claro que os benefícios da IA ​​atingem todas as comunidades.

O papel crítico das instituições internacionais e multilaterais

O acesso a certa tecnologia de IA pode aumentar bastante a prosperidade e a estabilidade, mas os benefícios dessas tecnologias podem não ser distribuídos ou focados uniformemente nas maiores necessidades das comunidades sub -representadas ou no mundo em desenvolvimento. O acesso inadequado a serviços de Internet, poder de computação ou disponibilidade de treinamento ou experiência em aprendizado de máquina também pode impedir que certos grupos se beneficiem totalmente dos avanços na IA.

As colaborações internacionais podem ajudar a resolver essas questões, incentivando as organizações a desenvolver sistemas e aplicativos que atendam às necessidades das comunidades carentes e melhorando a educação, a infraestrutura e os obstáculos econômicos a essas comunidades que fazem uso total da tecnologia de IA.

Além disso, os esforços internacionais podem ser necessários para gerenciar os riscos representados por poderosos recursos de IA. Sem salvaguardas adequadas, alguns desses recursos – como desenvolvimento automatizado de software, química e pesquisa de biologia sintética e geração de texto e vídeo – podem ser mal utilizados para causar danos. Os sistemas avançados de IA também podem falhar de maneiras difíceis de antecipar, criando riscos de acidentes com consequências potencialmente internacionais se a tecnologia não for implantada com responsabilidade.

As instituições internacionais e de várias partes interessadas podem ajudar a promover protocolos de desenvolvimento e implantação de IA que minimizem esses riscos. Por exemplo, eles podem facilitar o consenso global sobre as ameaças que diferentes capacidades de IA representam para a sociedade e estabelecer padrões internacionais em torno da identificação e tratamento de modelos com capacidades perigosas. As colaborações internacionais sobre pesquisa de segurança também aumentariam nossa capacidade de tornar os sistemas confiáveis ​​e resistentes ao uso indevido.

Por fim, em situações em que os estados têm incentivos (por exemplo, derivados da competição econômica) para minar os compromissos regulatórios um do outro, as instituições internacionais podem ajudar a apoiar e incentivar as melhores práticas e até monitorar a conformidade com os padrões.

Quatro modelos institucionais em potencial

Exploramos quatro modelos institucionais complementares para apoiar as funções globais de coordenação e governança:

• Um intergovernamental Comissão em Frontier AI poderia construir consenso internacional sobre oportunidades e riscos da IA ​​avançada e como eles podem ser gerenciados. Isso aumentaria a conscientização e a compreensão do público sobre as perspectivas e questões de IA, contribuíram para um relato cientificamente informado sobre o uso e a mitigação de riscos de IA e seria uma fonte de experiência para os formuladores de políticas.
• Um intergovernamental ou multi-participante Organização avançada de governança de IA poderia ajudar a internacionalizar e alinhar os esforços para lidar com os riscos globais de sistemas avançados de IA, definindo normas e padrões de governança e auxiliando em sua implementação. Também pode executar funções de monitoramento de conformidade para qualquer regime de governança internacional.
• UM Frontier AI Collaborative poderia promover o acesso à IA avançada como uma parceria privada internacional. Ao fazer isso, ajudaria as sociedades carentes a se beneficiarem da tecnologia de IA de ponta e a promover o acesso internacional à tecnologia de IA para objetivos de segurança e governança.
• Um Projeto de segurança da IA poderia reunir pesquisadores e engenheiros líderes e fornecer -lhes acesso a recursos de computação e modelos avançados de IA para pesquisas sobre mitigações técnicas dos riscos de IA. Isso promoveria a pesquisa e o desenvolvimento de segurança da IA, aumentando sua escala, recursos e coordenação.

Desafios operacionais

Muitas questões em aberto importantes em torno da viabilidade desses modelos institucionais permanecem. Por exemplo, uma comissão de IA avançada enfrentará desafios científicos significativos, dada a extrema incerteza sobre as trajetórias e capacidades da IA ​​e a pesquisa científica limitada sobre questões avançadas de IA até o momento.

A rápida taxa de progresso da IA ​​e capacidade limitada no setor público em questões de IA da Frontier também podem dificultar a organização avançada de governança da IA ​​para estabelecer padrões que acompanhem o cenário de risco. As muitas dificuldades de coordenação internacional levantam questões sobre como os países serão incentivados a adotar seus padrões ou aceitar seu monitoramento.

Da mesma forma, os muitos obstáculos às sociedades aproveitam totalmente os benefícios dos sistemas avançados de IA (e de outras tecnologias) podem impedir que uma fronteira a AI colaborativa de otimizar seu impacto. Também pode haver uma tensão difícil de gerenciar entre compartilhar os benefícios da IA ​​e impedir a proliferação de sistemas perigosos.

E para o projeto de segurança da IA, será importante considerar cuidadosamente quais elementos da pesquisa de segurança são melhor conduzidos por meio de colaborações versus os esforços individuais das empresas. Além disso, um projeto pode lutar para garantir o acesso adequado aos modelos mais capazes para realizar pesquisas de segurança de todos os desenvolvedores relevantes.

Dadas as imensas oportunidades e desafios globais apresentados pelos sistemas de IA no horizonte, é necessária uma maior discussão entre os governos e outras partes interessadas sobre o papel das instituições internacionais e como suas funções podem promover a governança e a coordenação da IA.

Esperamos que esta pesquisa contribua para crescer conversas dentro da comunidade internacional sobre maneiras de garantir que a IA avançada seja desenvolvida para o benefício da humanidade.