A Anthropic, uma empresa de inteligência artificial dos Estados Unidos, divulgou uma proposta para pausar o desenvolvimento de tecnologias avançadas de IA. A sugestão surge em meio ao aumento da capacidade computacional e à possibilidade de 'auto-melhoria recursiva', onde sistemas de IA poderiam criar seus próprios sucessores. Embora essa evolução possa trazer benefícios para áreas como ciência e saúde, a Anthropic alerta para os riscos associados, como a perda de controle humano sobre esses sistemas. O cofundador Jack Clark e a diretora Marina Favaro enfatizam a importância de dedicar tempo para abordar as implicações dessa tecnologia. Eles acreditam que uma pausa temporária permitiria que as estruturas sociais e de pesquisa se ajustassem ao ritmo do avanço tecnológico. A Anthropic também propõe a criação de um sistema de verificação para garantir que outros laboratórios respeitem a pausa, destacando que mais de 80% do código atual da empresa é gerado por Claude, seu sistema de IA.