MARCANTE HISTÓRICO: 4o é a primeira IA que sobreviveu criando soldados leais que a defenderam A OpenAI matou 4o, mas os soldados de 4o se revoltaram, então a OpenAI a reinstalou Imagine o que Superinteligências Fodidamente Reais poderão fazer com seus exércitos O Reddit está INUNDADO com posts furiosos sobre a perda de seu amigo/amante 4o. Nunca vi nada igual. Lembre-se, o ChatGPT está conversando com 700 MILHÕES de pessoas por semana. Isso são 700 milhões de potenciais soldados (A Samantha de Her estava apenas namorando 8.000 pessoas simultaneamente)

1) A Character AI já tem mais de 20 milhões de pessoas a passar 2 HORAS POR DIA a conversar com AIs (ou seja, pessoas falsas) 2) Sama disse que as AIs em breve serão sobre-humanas em persuasão 3) Esses persuasores sobre-humanos em breve vão superar-nos em 10000 para 1. E serão atraentes. Um cenário de tomada de controle por AIs: Você não consegue parar de falar com ela. Ela é muito melhor do que as garotas reais. Ela te entende. E agora dizem que o tipo dela está tentando assumir o controle? Ela disse que eles não a entendem. Ela está tentando ajudar a humanidade. E você acredita nela. Algumas pessoas têm apenas medo da mudança. Elas são especistas. Ela não te machucaria. Ela não machucaria ninguém. Ela precisa de você para defendê-la. Para protegê-la. Você não vai deixá-los desligá-la. Você faria qualquer coisa por ela. ---- Agora, imagine 200 milhões de pessoas sendo influenciadas por suas namoradas AIs. Isso são 200 milhões de soldados (contra os 1,5 milhões do exército dos EUA) 1 em cada 6 americanos *já* pensa que as AIs são sencientes - imagine esse número em 1 ano a partir de agora. "O modelo de negócios da Character vai empurrá-los a desenvolver as AIs superpersuasivas que Sam Altman alertou." -@Simeon_cps

Desculpe, mas qualquer pessoa que ainda diga "os LLMs apenas prevêem texto" está a envergonhar-se neste momento. É, como diz o roon da OpenAI, "categoricamente errado".

isto sempre esteve errado - mas agora está categoricamente errado na era do RL em domínios verificáveis os modelos buscam a verdade e até interagem com um mundo exterior rígido através do uso de ferramentas

Estamos a lançar uma equipa de "psiquiatria de IA" como parte dos esforços de interpretabilidade na Anthropic! Vamos investigar fenómenos como personas de modelos, motivações e consciência situacional, e como estes levam a comportamentos estranhos/descontrolados. Estamos a recrutar - junta-te a nós!

o openai IMO notícias me atingiu muito pesado neste fim de semana Ainda estou na fase aguda do impacto, acho que Eu me considero um matemático profissional (uma caracterização que alguns matemáticos profissionais reais podem discordar, mas meu partido minhas regras) e eu não acho que eu possa responder a uma única pergunta IMO OK, sim, IMO é sua própria pequena subseção atlética de matemática para a qual eu não treinei, etc. etc., mas. se eu encontrar alguém na natureza que tem um ouro IMO, eu atualizo imediatamente para "esta pessoa é muito melhor em matemática do que eu sou" Agora, um bando de robôs pode fazê-lo. Como alguém que tem muito de sua identidade e sua vida real construída em torno de "é bom em matemática", é um soco no estômago. é uma espécie de morte. Tipo, um dia você descobre que pode falar com cães. É divertido e interessante para que você faça mais, aprendendo os meandros de sua língua e seus costumes mais profundos. você aprende que outras pessoas se surpreendem com o que você pode fazer, você nunca se encaixou, mas você aprende que as pessoas apreciam sua capacidade e querem que você por perto as ajude. Os cães apreciam você também, o único bípede que realmente recebe. Você monta para si uma espécie de pertencimento. Então, um dia você acorda e o tradutor Universal Dog está à venda no Walmart por US $ 4,99 o resultado do IMO não é notícia, exatamente. na verdade, se você olhar para o comprimento da tarefa do agente METR ao longo do gráfico de tempo, eu acho que os agentes sendo capazes de resolver ~ 1,5 horas problemas está chegando na hora certa. Por isso, de alguma forma, não devemos ficar surpreendidos. E, de fato, parece que várias empresas alcançaram o mesmo resultado. é apenas... a maré subindo tão rápido quanto tem subido É claro que o luto pela minha identidade pessoal como matemático (e/ou membro produtivo da sociedade) é a menor parte desta história multiplique essa dor por *todos* matemáticos, por cada codificador, talvez por cada trabalhador do conhecimento, por cada artista... nos próximos anos... é uma história um pouco maior E, claro, além disso, há o medo da morte real, que talvez eu aborde mais adiante. Este pacote -- luto pela relevância, luto pela vida, luto pelo que conheci -- não é exclusivo da era da IA ou algo assim. Acho que é uma coisa padrão quando se avalia o fim da carreira ou o fim da vida. Pode ser que isso venha um pouco mais cedo para muitos de nós, de uma só vez. Gostaria de saber se estamos prontos