Dario Amodei e John Collison sobre o "problema de interface de IA" John: Não parece que não temos interfaces de IA no momento? Como se ainda inserissemos texto em caixas de texto. Ainda falamos em modos de companheiro de voz que são acionados manualmente, que é o mesmo que o pré-transformador Siri" Dario: Sim, há algo não muito certo nisso. Eu concordo com você. Isso me lembra dos primeiros dias da Internet, as pessoas faziam sites que pareciam ser do mundo físico. Esqueumorfismo Parece que há um pouco disso acontecendo aqui. Uma coisa que eu diria é que, à medida que avançamos mais em direção aos agentes, estaremos em um mundo onde o modelo de IA pode fazer algo de ponta a ponta Como se estivéssemos quase lá com Claude. Ele pode fazer algo de ponta a ponta e acertar na maioria das vezes. E o principal trabalho de um humano é verificar (o trabalho da IA). Mas, curiosamente, verificar muitas vezes significa entrar realmente nos detalhes do que aconteceu E então há algum tipo de incompatibilidade de impedância aqui para a qual algum produto ou interface (futuro) é a solução. Você quer algo que seja o mais liso possível e simplesmente saia e faça alguma coisa. E você não quer ter que prestar atenção na maior parte do tempo. Mas quando algo está errado, você pode realmente precisar se envolver bastante. Não sinto que nenhum produto ou interface opere com esse princípio ou lide com esse problema agora
vale a pena ouvir o pod completo
John Collison
John Collison6 de ago., 22:34
A Anthropic é uma das empresas que mais crescem de todos os tempos. @DarioAmodei e eu conversamos sobre ultrapassar US$ 5 bilhões em ARR, o foco da Anthropic em B2B, economia de retorno de modelos individuais, guerras de talentos, estrutura de mercado de IA e muito mais. E todos vocês disseram que todos querem episódios mais longos, então isso é uma hora! Timestamps 00:00 Introdução 00:51 Como é começar uma empresa com seu irmão? 01:43 Construindo a Anthropic com 7 cofundadores 02:53 US$ 5 bilhões em ARR; Aplicações verticais 07:18 Desenvolvendo uma empresa que prioriza a plataforma 10:09 Trabalhando com o DoD 11:13 Provando que os céticos estão errados sobre as projeções de receita 13:14 Impulsos capitalistas de modelos de IA 15:44 Estrutura de mercado e participantes da IA 16:56 Modelos de IA como P&Ls autônomos 20:48 A parede de dados e os estilos de aprendizagem 22:20 Guerras de talentos de IA 26:04 Lançando o negócio de API da Anthropic para investidores 27:49 Provedores de nuvem x laboratórios de IA 29:06 Personalização de IA e Claude para empresas 33:01 A opinião de Dwarkesh sobre as limitações 36:12 Noção de vitalismo do século 19 37:28 IA na medicina, atendimento ao cliente e impostos 41:00 Como resolver alucinações 42:41 O padrão duplo para erros de IA 44:14 Evoluindo de pesquisador para CEO 46:59 Projetando produtos com pílulas de AGI 47:57 IUs nativas de IA 50:10 Progresso do modelo e produtos de construção 52:23 Modelos de software livre 54:43 Mantendo Anthropic AGI-pilled 57:11 Avanços da IA versus regulamentos de segurança 01:02:04 Como Dario usa IA
635