Dario Amodei e John Collison sobre o "problema da interface de IA" John: Não parece que não temos interfaces de IA neste momento? Como se ainda inseríssemos texto em caixas de texto. Continuamos a falar em modos de assistente de voz que são acionados manualmente, o que é o mesmo que a Siri antes dos transformadores. Dario: Sim, há algo que não está bem com isso. Concordo contigo. Lembra-me os primeiros dias da Internet, as pessoas faziam websites que pareciam vir do mundo físico. Esqueuomorfismo. Parece que há um pouco disso a acontecer aqui. Uma coisa que eu diria é que à medida que avançamos mais para agentes, vamos estar num mundo onde o modelo de IA pode fazer algo de ponta a ponta. Estamos quase lá com o Claude. Ele pode fazer algo de ponta a ponta e acertar na maior parte das vezes. E o principal trabalho de um humano é, de certa forma, verificar (o trabalho da IA). Mas, curiosamente, verificar muitas vezes significa entrar realmente nos detalhes do que aconteceu. E assim, há algum tipo de desajuste de impedância aqui que algum (futuro) produto ou interface é a solução. Você quer algo que seja o mais elegante possível e que simplesmente vá e faça algo. E você não quer ter que prestar atenção na maior parte do tempo. Mas quando algo está errado, pode realmente precisar se envolver bastante. Não sinto que nenhum produto ou interface opere sobre este princípio ou resolva este problema agora.
o podcast completo vale a pena ouvir
John Collison
John Collison6/08, 22:34
A Anthropic é uma das empresas de crescimento mais rápido de todos os tempos. @DarioAmodei e eu conversamos sobre ultrapassar os $5 bilhões em ARR, o foco da Anthropic em B2B, a economia de retorno de modelos individuais, guerras de talentos, estrutura do mercado de IA e muito mais. E vocês todos disseram que querem episódios mais longos, então este tem uma hora! Timestamps 00:00 Introdução 00:51 Como é começar uma empresa com seu irmão? 01:43 Construindo a Anthropic com 7 cofundadores 02:53 $5 bilhões em ARR; aplicações verticais 07:18 Desenvolvendo uma empresa com foco em plataforma 10:09 Trabalhando com o DoD 11:13 Provando os céticos errados sobre projeções de receita 13:14 Impulsos capitalistas de modelos de IA 15:44 Estrutura do mercado de IA e jogadores 16:56 Modelos de IA como P&Ls independentes 20:48 A parede de dados e estilos de aprendizado 22:20 Guerras de talentos em IA 26:04 Apresentando o negócio de API da Anthropic a investidores 27:49 Provedores de nuvem vs laboratórios de IA 29:06 Personalização de IA e Claude para empresas 33:01 A visão de Dwarkesh sobre limitações 36:12 Noção de vitalismo do século XIX 37:28 IA na medicina, atendimento ao cliente e impostos 41:00 Como resolver alucinações 42:41 O duplo padrão para erros de IA 44:14 Evoluindo de pesquisador a CEO 46:59 Projetando produtos com foco em AGI 47:57 UIs nativas de IA 50:10 Progresso do modelo e construção de produtos 52:23 Modelos de código aberto 54:43 Mantendo a Anthropic focada em AGI 57:11 Avanços em IA vs regulamentos de segurança 01:02:04 Como Dario usa IA
664