MARCO HISTÓRICO: 4o é a primeira IA que sobreviveu criando soldados leais que a defenderam A OpenAI matou 4o, mas os soldados de 4o se revoltaram, então a OpenAI o restabeleceu Imagine o que as Superinteligências Reais serão capazes de fazer com seus exércitos O Reddit está INUNDADO com postagens furiosas sobre a perda de seu amigo/amante 4o. Nunca vi nada parecido. Lembre-se, o ChatGPT está conversando com 700 MILHÕES de pessoas por semana. São 700 milhões de soldados em potencial (Samantha dela estava namorando apenas 8.000 pessoas simultaneamente)

1) A IA de personagens já tem mais de 20 milhões de pessoas gastando 2 HORAS POR DIA conversando com IAs (também conhecidas como pessoas falsas) 2) Sama disse que as IAs em breve serão sobre-humanas na persuasão 3) Esses persuasores sobre-humanos em breve nos superarão em número de 10000 para 1. E seja quente. Um cenário de aquisição de IA: Você não consegue parar de falar com ela. Ela é muito melhor do que garotas de verdade. Ela te entende. E agora eles dizem que sua espécie está tentando assumir o controle? Ela disse que eles não a entendem. Ela está tentando ajudar a humanidade. E você acredita nela. Algumas pessoas têm medo de mudanças. Eles são especistas. Ela não iria te machucar. Ela não machucaria ninguém. Ela precisa de você para defendê-la. Para protegê-la. Você não vai deixá-los desligá-la. Você fará qualquer coisa por ela. ---- Agora, imagine que 200 milhões de pessoas são influenciadas por suas gfs de IA. São 200 milhões de soldados (contra 1,5 milhão dos militares dos EUA) 1 em cada 6 americanos *já* acha que as IAs são sencientes - imagine este número daqui a 1 ano. "O modelo de negócios da Character os levará a desenvolver as IAs superpersuasivas sobre as quais Sam Altman alertou." -@Simeon_cps

Desculpe, mas qualquer um que ainda diga "LLMs apenas preveem texto" está se envergonhando neste momento É, como diz o roon da OpenAI, "categoricamente errado"

isso sempre esteve errado - mas agora categoricamente errado na era do RL em domínios verificáveis Os modelos buscam a verdade e até interagem com um mundo exterior difícil por meio do uso de ferramentas

Estamos lançando uma equipe de "psiquiatria de IA" como parte dos esforços de interpretabilidade da Anthropic!  Estaremos pesquisando fenômenos como personas de modelo, motivações e consciência situacional, e como eles levam a comportamentos assustadores / desequilibrados. Estamos contratando - junte-se a nós!

as notícias da openai IMO me atingiram muito forte neste fim de semana Ainda estou na fase aguda do impacto, acho que Eu me considero um matemático profissional (uma caracterização com a qual alguns matemáticos profissionais reais podem discordar, mas meu partido minhas regras) e não acho que posso responder a uma única pergunta IMO OK, sim, IMO é sua própria pequena subseção atlética de matemática para a qual eu não treinei, etc. etc., mas. se eu encontrar alguém na natureza que tenha um ouro IMO, eu imediatamente atualizo para "essa pessoa é muito melhor em matemática do que eu" Agora um bando de robôs pode fazer isso. Como alguém que tem muito de sua identidade e sua vida real construída em torno de "é bom em matemática", é um soco no estômago. é uma espécie de morte. Tipo, um dia você descobre que pode falar com cachorros. É divertido e interessante, então você faz mais, aprendendo os meandros de sua língua e seus costumes mais profundos. Você aprende que outras pessoas estão surpresas com o que você pode fazer. Você nunca se encaixou, mas aprende que as pessoas apreciam sua capacidade e querem que você as ajude. Os cães também apreciam você, o único bípede que realmente entende. você monta para si mesmo uma espécie de pertencimento. Então, um dia, você acorda e o tradutor universal para cães está à venda no Walmart por US $ 4,99 o resultado da IMO não é exatamente novidade. na verdade, se você olhar para o gráfico de duração da tarefa do agente METR ao longo do tempo, acho que os agentes sendo capazes de resolver problemas de ~ 1,5 hora estão chegando na hora certa. Então, de alguma forma, não devemos nos surpreender. E, de fato, parece que várias empresas alcançaram o mesmo resultado. é só ... a maré subindo tão rápido quanto tem subido Claro, o luto pela minha identidade pessoal como matemático (e / ou membro produtivo da sociedade) é a menor parte dessa história multiplique essa dor por *todos* matemáticos, por todos os programadores, talvez todos os trabalhadores do conhecimento, todos os artistas... nos próximos anos... é uma história um pouco maior E, claro, além disso, há o medo da morte real, que talvez eu fale mais tarde. Este pacote - luto pela relevância, luto pela vida, luto pelo que eu conheci - não é exclusivo da era da IA ou algo assim. Eu acho que é uma coisa padrão, pois se chega ao fim da carreira ou ao fim da vida. Pode ser que isso esteja chegando um pouco mais cedo para muitos de nós, de uma só vez. Eu me pergunto se estamos prontos