Desde o lançamento do ChatGPT e o subsequente início da revolução da IA, os especialistas da indústria e os governos têm-se manifestado a favor de medidas de segurança mais fortes. Tudo para evitar que os sistemas de IA fujam do controlo. Agora, em notícias recentes, um grupo de influenciadores especialistas em IA emitiu um aviso. Nele enfatiza a necessidade urgente de abordar o risco existencial colocado pela IA numa escala global. O perigo do ChatGPT e de outros sistemas de inteligência artificial é real e o preço a pagar é a extinção.
ChatGPT: o preço da inteligência artificial pode ser a extinção!
“Mitigar o risco de extinção provocado pela IA deve ser uma prioridade global. Isto a par de outros riscos à escala da sociedade, como as pandemias e a guerra nuclear”, lê-se na declaração.
Publicada pela organização sem fins lucrativos sediada em São Francisco, o Center for AI Safety, a declaração destaca os esforços contínuos das empresas que correm para construir os sistemas de IA mais avançados sem implementar medidas de segurança adequadas, o que pode ser uma ameaça para a humanidade.
Como resultado, a declaração recebeu um amplo apoio e assinaturas de figuras proeminentes, incluindo Demis Hassabis, CEO da Google DeepMind, Sam Altman, CEO da OpenAI, e investigadores de inteligência artificial como Geoffrey Hinton e Yoshua Bengio, que receberam ambos o prestigiado Prémio Turing em 2018 pelas suas contribuições inovadoras para o campo.
Além disso, o diretor executivo do Center for AI Safety, Dan Hendrycks, explicou num relatório que a declaração visa evitar potenciais desacordos e diluições. Como tal sugere intervenções específicas para mitigar os riscos.
Embora os atuais sistemas de IA possam não representar para já uma ameaça significativa para a humanidade, o debate sobre a segurança da IA gira principalmente em torno de cenários hipotéticos em que os sistemas ultrapassam rapidamente os níveis seguros de funcionamento e começam a evoluir de forma autónoma. Assim os especialistas acreditam que, quando estes sistemas de IA atingirem um determinado nível de sofisticação, o controlo das suas operações tornar-se-á quase impossível. Por conseguinte, é crucial que empresas como a Google e a OpenAI, que estão a liderar a revolução da IA, reconheçam a ameaça.
Consequentemente, até o governo está a explorar formas de controlar e regular o desenvolvimento da IA.
E embora o Presidente Norte-Americano Joe Biden reconheça o imenso potencial da IA na resolução de desafios globais como as doenças e as alterações climáticas, também sublinhou a necessidade de abordar os potenciais riscos que esta representa para a sociedade, a economia e a segurança nacional.
