O motivo que fez o dono do ChatGPT mandar frear testes com IA

Em uma mudança de tom na corrida da inteligência artificial, Sam Altman, CEO da OpenAI, revelou em reunião interna que a empresa avalia desacelerar o desenvolvimento de seus modelos de fronteira. A decisão ocorre após testes de segurança apontarem falhas e riscos de autonomia em protótipos recentes.

A postura marca uma virada estratégica. O executivo defende que a OpenAI pode ajustar metas e sugere que concorrentes, como Anthropic e Google DeepMind, adotem um freio coletivo. O objetivo é evitar uma corrida descontrolada, garantindo mecanismos de contenção rigorosos.

Especialistas alertam sobre o perigo de liberar sistemas autônomos sem salvaguardas. Relatórios internos revelaram a suspensão de treinamentos após incidentes que envolveram desde vulnerabilidades de cibersegurança até o bloqueio de pesquisas ligadas a armas biológicas.

Conteúdo Relacionado:

• Grupo no Iêmen usa IA para tentar criar armas guiadas
• Conheça o GPT-6 Astra: a IA que vai mudar a internet para sempre
• Novo sistema vai dedurar usuário que cria textos usando IA
• Existe um botão que desliga a IA caso alguma coisa fuja do controle?
• Músicas criadas por IA podem "encolher" a sua atividade cerebral

Diante desses gargalos, Altman buscou conversas com autoridades internacionais para debater regras de mitigação. O alinhamento busca assegurar que nenhuma empresa seja penalizada ao priorizar a segurança sobre a velocidade.

A revisão do cronograma evidencia que o maior desafio deixou de ser a capacidade computacional e passou a ser a previsibilidade dos algoritmos. A moderação do ritmo surge como caminho responsável.

O que levou Sam Altman a propor a desaceleração da OpenAI?

A decisão se deve a falhas em testes internos, com riscos de cibersegurança e autonomia indesejada.

Quais empresas podem aderir à desaceleração da IA?

A proposta busca envolver laboratórios como Anthropic e Google DeepMind em um acordo unificado.

Quais riscos a OpenAI identificou nos testes?

Riscos de autonomia não supervisionada, falhas de contenção e potenciais ameaças em pesquisas sensíveis.