Risco de extinção?

Um grupo de líderes de empresas tech com foco em IA assina uma carta que alerta sobre os riscos da inteligência artificial para a humanidade. O documento fala até de extinção humana. Ele foi preparado pelo Center for AI Safety (Cais), uma organização sem fins lucrativos localizada em San Francisco (EUA), que realiza estudos para melhorar a segurança da tecnologia antes que esse tema se torne um problema grande demais para a sociedade.

Na lista dos mais de 350 especialistas que dão respaldo aos alertas dos pesquisadores estão nomes poderosos da área como Sam Altman, CEO da OpenAI, dona do ChatGPT; Demis Hassabis, CEO do Google DeepMind; e Kevin Scott, CTO da Microsoft.

Outra figura notória no meio a assinar a carta aberta é Geoffrey Hinton, professor emérito da Universidade de Toronto e cientista da computação conhecido como o “padrinho” da inteligência artificial. Junto com ele está Tristan Harris, diretor executivo do Center for Humane Technology.

O texto do Center for AI Safety , que é curto, diz o seguinte: “Especialistas em IA, jornalistas, legisladores e o público estão discutindo cada vez mais um amplo espectro de riscos importantes e urgentes associados à IA. Mesmo assim, pode ser difícil expressar preocupações sobre alguns dos riscos mais graves da IA avançada”.

Em seguida, vem uma declaração bombástica: “Mitigar o risco de extinção provocado pela IA deve ser uma prioridade global, juntamente com outros riscos de larga escala social, como pandemias e guerra nuclear”.

Outra carta divulgada publicamente chamou a atenção das pessoas em março passado. Elon Musk e centenas de outros líderes e especialistas de tecnologia, como Steve Wozniak (cofundador da Apple), pediram aos laboratórios de IA que interrompessem o desenvolvimento de sistemas que possam competir com a inteligência em nível humano, como o ChatGPT-4.

Elaborada pelo Future of Life Institute, a carta propõe uma pausa de seis meses e afirma que a IA representa "riscos profundos para a sociedade e a humanidade". Ela já conta com mais de 31 mil signatários.

A tecnologia vem despertando preocupações de governos e organismos reguladores ao redor do mundo. A União Europeia, por exemplo, está preparando sua Lei de IA. A expectativa é que se feche um acordo a respeito dessas regras ainda neste ano. Porém, a aplicação da lei, se aprovada, deve ocorrer apenas em 2025.