Estou surpreso que a OpenAI Comms aprove isso: GPT-5 "prenuncia um loop recursivo de autoaperfeiçoamento" Na Estrutura de Preparação da OpenAI, o autoaperfeiçoamento recursivo é um risco crítico (se a uma certa taxa), que exigiria "interromper o desenvolvimento"

A OpenAI afirma ter introduzido um novo recurso de segurança para GPT-5, mas a OpenAI tem esse recurso desde 2021 Estou triste que a OpenAI esteja insinuando que eles criaram isso para o GPT-5, o que eles não fizeram. É difícil confiar nos System Cards das empresas de IA quando há incentivo para exagerar. (fio)

É bom ouvir isso!

Uma ótima análise da @Kantrowitz e @mgsiegler hoje sobre a "Cláusula AGI" da OpenAI-Microsoft e como a 'proibição de buscar a AGI' da MSFT provavelmente afetou as mensagens que ambas as empresas usam, a diluição das palavras de IA, etc

A OpenAI deve dizer isso de forma clara e pública: às vezes, os lucros entram em conflito com a missão sem fins lucrativos à qual a OpenAI se compromete legalmente. A OpenAI será obrigada a colocar a missão em primeiro lugar ou sua reestruturação removerá essa obrigação?

Isso é meio hilário se for verdade Um bilhão de dólares não é legal. Você sabe o que é legal? Otimizando o Instagram Reels para ser cada vez mais atraente para os olhos

Assinando os códigos completos: Microsoft, OpenAI, Anthropic, Google, Mistral, Cohere Assinando apenas 'Segurança', não 'Direitos autorais' ou 'Transparência': xAI Assinatura nenhuma: Meta

Mark parece pensar que é importante se a Meta *direciona* a superinteligência para a automação em massa do trabalho Isso não está correto; Se você "trouxer superinteligência pessoal para todos" (incluindo empresários), eles escolherão pessoalmente automatizar o trabalho dos outros, se puderem

Mark Zuckerberg dando vibrações de Gentle Singularity

Louco para refletir sobre as três competições globais de IA que estão acontecendo agora: - 1. A liderança política dos EUA fez da IA uma corrida de prestígio, ecoando a corrida espacial. É legal, importante e estratégico, e eles vão vencer. - 2. Para a liderança chinesa, a IA faz parte da força econômica, soft power e influência. A tecnologia é compartilhada, as economias em desenvolvimento serão construídas com base na tecnologia fundamental chinesa, a economia chinesa e as relações comerciais crescerão. Enfraquecer a confiança em um EUA caprichoso é uma oportunidade fácil de aproveitar. - 3. As empresas AGI estão competindo com algo que eles acham que vai superar os humanos em geral, que eles ainda não sabem como controlar e acham que pode literalmente matar todos. O mais assustador de tudo é que não está claro para os tomadores de decisão que essas três coisas estão acontecendo em paralelo. Eles pensam que estão jogando o mesmo jogo, mas não estão.