É uma pena que a OpenAI tenha sido menos rigorosa com os testes do GPT-5 do que com os seus modelos OS muito mais fracos. A OpenAI tem os conjuntos de dados disponíveis para ajustar o GPT-5 e medir os riscos de armas biológicas do GPT-5 de forma mais precisa; eles simplesmente estão a escolher não fazê-lo.

Estou surpreso que a OpenAI Comms tenha aprovado isto: GPT-5 "antecipa um ciclo de autoaperfeiçoamento recursivo" No Quadro de Preparação da OpenAI, o autoaperfeiçoamento recursivo é um risco Crítico (se a uma certa taxa), o que exigiria "parar o desenvolvimento adicional".

A OpenAI afirma ter introduzido uma nova funcionalidade de segurança para o GPT-5, mas a OpenAI já tinha esta funcionalidade desde 2021 Estou triste que a OpenAI esteja a insinuar que criou isto para o GPT-5, o que não é verdade. É difícil confiar nos System Cards das empresas de IA quando há um incentivo para exagerar.

Crédito onde é devido: A OpenAI fez muitas coisas certas nas suas avaliações de segurança OSS - na verdade, fizeram algum fine-tuning - obtiveram feedback externo útil - partilharam quais recomendações adotaram e quais não adotaram Nem sempre sigo a lógica da OAI, mas é ótimo que partilhem informações.

É bom ouvir isso!

Ótima análise de @Kantrowitz e @mgsiegler hoje sobre a "Cláusula AGI" da OpenAI-Microsoft, e como a ‘proibição da MSFT de buscar AGI’ provavelmente afetou a mensagem que ambas as empresas usam, diluição das palavras relacionadas à IA, etc.

A OpenAI deve dizer isso de forma clara e pública: Às vezes, os lucros entrarão em conflito com a missão sem fins lucrativos à qual a OpenAI se vinculou legalmente. A OpenAI será obrigada a colocar a missão em primeiro lugar, ou a sua reestruturação removerá esta obrigação?

Isto é meio hilariante se for verdade Um bilhão de dólares não é fixe. Sabes o que é fixe? Otimizar os Reels do Instagram para serem cada vez mais atraentes para os olhos.

Assinando os códigos completos: Microsoft, OpenAI, Anthropic, Google, Mistral, Cohere Assinando apenas 'Segurança', não 'Direitos Autorais' ou 'Transparência': xAI Não assinando nenhum: Meta

É louco refletir sobre as três competições globais de IA que estão acontecendo agora: - 1. A liderança política dos EUA transformou a IA em uma corrida de prestígio, ecoando a Corrida Espacial. É legal, importante e estratégico, e eles vão vencer. - 2. Para a liderança chinesa, a IA é parte da força econômica, do poder brando e da influência. A tecnologia é compartilhada, as economias em desenvolvimento serão construídas sobre a tecnologia fundamental chinesa, a economia e as relações comerciais chinesas crescerão. A desconfiança em um EUA caprichoso é uma oportunidade fácil de aproveitar. - 3. As empresas de AGI estão correndo por algo que acreditam que superará o raciocínio humano em todos os aspectos, que ainda não sabem como controlar, e que acham que pode literalmente matar todos. O mais assustador de tudo é que não está nada claro para os tomadores de decisão que essas três coisas estão acontecendo em paralelo. Eles pensam que estão jogando o mesmo jogo, mas não estão.