A adopção da Inteligência Artificial (IA) pelas empresas deve ser acompanhada por mecanismos de controlo, governação e gestão de risco, de modo a garantir que os ganhos de eficiência não sejam acompanhados por vulnerabilidades de segurança. A posição foi defendida pela Ernst & Young (EY), durante a sessão “Inteligência Artificial, Risco e Decisão: Simulação de Decisão Executiva Perante Riscos de IA, realizada na manhã desta quinta-feira (10), em Maputo, e que reuniu representantes de diferentes empresas para discutir os desafios e oportunidades associados à tecnologia.
Para Shamein Popat, EY Manager Digital Assurance & Technology, a Inteligência Artificial deixou de ser apenas uma questão tecnológica e passou a fazer parte das decisões de negócio, gestão de risco e confiança. Na sua perspectiva, as organizações devem, por isso, mudar a forma como encaram a tecnologia, evitando limitar a sua utilização à automatização de processos existentes.
“A Inteligência Artificial não serve somente para fazer o mesmo mais depressa. Serve também para repensar o problema”, explicou.
Entre as principais preocupações identificadas durante a sessão estão a segurança e eficiência dos dados, a fiabilidade e precisão das ferramentas, bem como a falta de conhecimento especializado e de competências nas organizações.
Popat alertou igualmente para a crescente dependência destas ferramentas e para o risco de os utilizadores aceitarem os resultados produzidos sem os verificar.
Outras Notícias Para Ler
“Não podemos confiar cegamente na ferramenta. É importante que façamos uma revisão do que a ferramenta produz”, afirmou, referindo-se também às chamadas “alucinações” dos sistemas de IA, que podem gerar respostas incorrectas ou informações inventadas.
Para António Esteves, EY Senior Consultant Assurance Technology Risk, um dos desafios das organizações está em transformar experiências-piloto em soluções efectivamente integradas no negócio.
Segundo o especialista, muitas empresas já experimentam ferramentas de IA, mas encontram dificuldades em avançar para a produção. Entre os principais obstáculos estão uma governação pouco clara, a ausência de responsáveis definidos e a dificuldade em medir o valor gerado pelas soluções.
A necessidade de reforçar a segurança na utilização da IA foi também reconhecida pelos participantes da sessão. Aquiliama Amade, responsável pela área de Segurança Cibernética no Moza Banco, considerou a sessão relevante por abordar uma tecnologia que já está a ser utilizada por algumas pessoas e empresas, embora outras ainda estejam numa fase inicial, sobretudo devido às preocupações relacionadas com a confidencialidade da informação.
“Participar nesta sessão ajudou-me a ter uma visão diferente sobre o uso da Inteligência Artificial, pois percebi que temos de a usar esta com responsabilidade e de forma consciente, por forma a mitigar os vários riscos que pode trazer”.
Já para Denis Zulo, responsável pela área de Risco do BCI, a tecnologia pode contribuir para simplificar tarefas e dinamizar processos, podendo tornar-se útil no desempenho das suas funções na instituição. Defendeu, por isso, que o conhecimento sobre estas ferramentas deve ser mais difundido entre empresas e entidades.
Texto: Ana Mangana
