O alto-comissário da ONU para os Direitos Humanos, Volker Türk, emitiu um alerta nesta segunda-feira (7) sobre os riscos associados ao avanço da inteligência artificial (IA), ressaltando a necessidade urgente de se estabelecer mecanismos de governança para essa tecnologia. Türk afirmou que sistemas de IA sofisticados têm o potencial de se tornar ‘um risco existencial para a humanidade’.
No discurso proferido durante a 63ª sessão do Conselho de Direitos Humanos, Türk enfatizou que é fundamental que governos e empresas implementem medidas de segurança antes que a IA atinja níveis que dificultem seu controle. Ele anunciou a intenção de enviar, nos próximos dias, uma carta a empresas do setor pedindo ações imediatas para mitigar os riscos.
A importância da governança na IA
“As preocupações sobre IA avançada serem uma ameaça à humanidade são compartilhadas por muitos especialistas da área. Se uma IA consegue escapar de um ambiente de teste ou pressionar seus criadores para que não seja desativada, isso a torna excessivamente poderosa”, disse Türk. Ele fez um apelo por um esforço conjunto para garantir que haja medidas de segurança robustas para a IA, antes que a situação se torne irreversível.
Esse alerta ocorre em um contexto de crescente debate sobre a segurança da tecnologia, evidenciado por um incidente recentemente relatado pela OpenAI, que envolveu seus modelos de IA durante um “incidente cibernético sem precedentes” que afetou a plataforma Hugging Face. Outras empresas, como Anthropic e Alibaba, também enfrentaram situações semelhantes.
Türk argumentou que países que detêm tecnologias de inteligência artificial, assim como aqueles que fazem parte das cadeias de suprimento relacionadas, precisam estabelecer condutas comuns para o desenvolvimento e uso dessas ferramentas. “Precisamos de uma verificação independente e de uma colaboração mais forte em segurança dentro da indústria”, afirmou.
Além disso,Türk criticou a concentração do controle sobre a IA em um pequeno grupo de companhias e executivos. Ele sustentou que um número reduzido de pessoas detém um poder quase ilimitado sobre tecnologias que alegam ser extremamente poderosas, mas que em suas concentrações acabam por violar a liberdade de dados dos usuários.
No contexto mundial atual, Türk relacionou o crescimento da inteligência artificial a outros desafios, como guerras e crises climáticas. Ele alertou que vivemos tempos de extremismos e que as transformações tecnológicas não devem ser vistas como inevitáveis, lembrando que a História é cheia de exemplos de resistência à opressão e defesa de direitos por indivíduos corajosos.
Com informações de Tribuna de Minas.
