A OpenAI, a Anthropic e a Google DeepMind anunciaram estar a trabalhar na criação de um órgão de supervisão dos riscos associados à Inteligência Artificial (IA), numa iniciativa que pretende reforçar o controlo sobre o desenvolvimento de sistemas avançados de IA.
A proposta surgiu de uma ideia apresentada por Demis Hassabis, director-geral da Google DeepMind, que sugeriu a criação de uma estrutura semelhante à Autoridade Reguladora da Indústria Financeira (FINRA, na sigla inglesa), entidade de auto-regulação do sector financeiro norte-americano. A proposta prevê uma organização financiada pelas próprias empresas de IA, mas dirigida por um conselho constituído por especialistas independentes e representantes de diferentes segmentos da indústria.
De acordo com a proposta, os modelos de IA mais avançados seriam submetidos a avaliações de segurança antes de serem disponibilizados comercialmente. A estrutura poderia ainda coordenar uma eventual redução do ritmo de desenvolvimento da tecnologia caso os mecanismos de avaliação de riscos não acompanhassem a velocidade de evolução dos sistemas.
A iniciativa surge num contexto de crescente debate sobre os riscos associados à Inteligência Artificial. Nas últimas semanas, o sector voltou a estar sob atenção na sequência de incidentes envolvendo modelos de IA e de alertas feitos por investigadores e executivos sobre possíveis riscos relacionados com o desenvolvimento de sistemas cada vez mais avançados.
Apesar da intenção de criar um mecanismo de supervisão dentro da própria indústria, a proposta levanta questões jurídicas. Especialistas citados pela agência de notícias France-Presse alertam que uma entidade deste tipo precisaria de enquadramento legal para evitar acusações de conluio e eventuais violações das regras de concorrência.
A FINRA, utilizada como referência para a proposta, possui autorização legal e funciona sob supervisão da Comissão de Valores Mobiliários dos Estados Unidos da América (SEC, na sigla inglesa). A organização pode estabelecer regras para o sector, mas estas estão sujeitas à aprovação e supervisão da SEC.
A proposta também tem sido alvo de críticas políticas. O senador norte-americano Bernie Sanders defendeu a necessidade de regras internacionais vinculativas para a Inteligência Artificial, enquanto alguns observadores acusaram as grandes empresas tecnológicas de procurarem influenciar a regulação do sector. David Sacks, conselheiro de Donald Trump, alertou para o risco de criação de um eventual “cartel da IA”, argumentando que as empresas deveriam assumir individualmente a responsabilidade pela segurança dos seus sistemas.
A discussão ocorre num momento em que o Governo norte-americano procura definir mecanismos de supervisão para novos modelos de IA. Em Agosto, a Administração Trump lançou um processo de avaliação de novos sistemas que, segundo a informação divulgada, assenta em medidas voluntárias e não dispõe de mecanismos claros de fiscalização.
Fonte: Notícias ao Minuto
