Quatro gigantes da tecnologia – Google, Microsoft, Anthropic e OpenAI – uniram forças para criar o “Frontier Model Forum”. Este fórum pretende promover o desenvolvimento responsável dos modelos de Inteligência Artificial, ou IA, mais sofisticados e minimizar potenciais riscos que estes possam implicar.
O Frontier Model Forum é uma organização profissional que visa combater os riscos da IA. Os membros comprometem-se a partilhar boas práticas para tornar os novos sistemas menos perigosos para a sociedade. A União Europeia (UE) está a ultimar a preparação de um projeto de regulação da IA que deve impor obrigações às empresas do setor, como a transparência com os utilizadores, ou o controlo humano sobre a máquina.
Este fórum é uma resposta à necessidade de regulamentação e segurança no campo da inteligência artificial. Vai avançar na pesquisa de segurança da IA, identificar as melhores práticas e padrões, e facilitar a partilha de informação entre legisladores e indústria. As empresas que desenvolvem modelos de IA e demonstram um forte compromisso com a segurança são incentivadas a juntar-se ao fórum.
O Frontier Model Forum tem como objetivos
- Avançar na pesquisa de segurança de IA para promover o desenvolvimento responsável de modelos de fronteira, minimizar riscos e permitir avaliações independentes e padronizadas de capacidades e segurança;
- Identificar as melhores práticas para o desenvolvimento responsável e implantação de modelos de fronteira, ajudar o público a compreender a natureza, capacidades, limitações e impacto da tecnologia.
- Colaborar com legisladores, académicos, sociedade civil e empresas para partilhar conhecimentos sobre confiança e riscos de segurança.
- Apoiar esforços para desenvolver aplicações que ajudem a enfrentar os maiores desafios da sociedade, como a mitigação e adaptação às mudanças climáticas, deteção e prevenção precoce do cancro e combate a ameaças cibernéticas.
A criação deste fórum é um passo importante para garantir que a IA seja desenvolvida e utilizada de forma segura e responsável. As empresas que criam tecnologia de IA têm a responsabilidade de garantir que ela seja segura, segura e permaneça sob controlo humano. Caso as empresas queiram aderir ao Frontier Model Forum devem:
- Desenvolver e implantar modelos de fronteira (conforme definido pelo Fórum).
- Demonstrar compromisso com a segurança do modelo de fronteira, inclusive por meio de abordagens técnicas e institucionais.
- Estão dispostos a contribuir para o avanço dos esforços do Fórum, inclusive participar em iniciativas conjuntas e apoiar o desenvolvimento e funcionamento da iniciativa.
Nos próximos meses, o Frontier Model Forum vai definir um Conselho Consultivo para orientar a sua estratégia e prioridades. As empresas fundadoras vão estabelecer acordos institucionais, incluindo um estatuto, governança e financiamento com um grupo de trabalho e conselho executivo para liderar os esforços.
Está também planeado uma consulta à sociedade civil e vários governos nas próximas semanas sobre o projeto do Fórum e sobre formas significativas de colaboração entre todas as partes.
