J'ai donné une conférence mercredi au Bay Area AI Security Meetup sur l'injection de prompts, la sécurité MCP et le trifecta létal. Voici les diapositives annotées de ma présentation, y compris des notes sur mon étrange hobby qui consiste à essayer de créer ou d'amplifier de nouveaux termes techniques.

Apparemment, la position officielle de @cursor_ai sur MCP est : "Les serveurs MCP, en particulier ceux qui se connectent à des sources de données non fiables, présentent un risque sérieux pour les utilisateurs. Nous recommandons toujours aux utilisateurs de passer en revue chaque serveur MCP avant l'installation et de se limiter à ceux qui accèdent à du contenu de confiance."

"J'ai un tout-petit. Ma plus grande préoccupation est qu'il ne mange pas des pierres par terre et vous me parlez de psychose ChatGPT ? Pourquoi avons-nous même cela ? Pourquoi avons-nous inventé une nouvelle forme de folie et ensuite ils facturent les gens pour ça ?"

J'ai envoyé la dernière édition de ma newsletter, c'est-à-dire tout ce que j'ai écrit sur mon blog au cours des 7 derniers jours, copié-collé dans un e-mail.

Vérification rapide de la terminologie : que diriez-vous qui se rapproche le plus de la définition correcte de "hallucination" lorsqu'on parle des LLMs ?

Nous avons invité @simonw, @clairevo, @theo, @swyx et @benhylak dans nos bureaux sans aucun contexte. Puis nous leur avons donné GPT-5. Voici ce qui s'est passé :

J'ai eu un accès anticipé à GPT-5 pendant quelques semaines, donc j'ai beaucoup à en dire. Voici mon premier post, se concentrant uniquement sur les caractéristiques principales, les prix (il est TRÈS compétitif) et des détails intéressants provenant de la carte système de GPT-5.

Voici un nouveau terme que j'aime : agents de codage asynchrones, pour décrire la catégorie de logiciels qui inclut OpenAI Codex et Gemini Jules - des outils basés sur le cloud où vous soumettez une invite et ils examinent votre dépôt, itèrent sur une solution et terminent en soumettant une demande de tirage.

Voici la section de conclusion de mon article sur les nouveaux modèles de poids ouverts d'OpenAI - ils sont vraiment impressionnants, et je pense qu'ils se défendent bien (voire surpassent) les modèles que nous avons vus sortir des différents laboratoires d'IA chinois au cours des derniers mois.

Suggestion de stratégie de contenu pour @AnthropicAI ou @OpenAI ou tout autre laboratoire d'IA expédiant des systèmes avec des prompts système épiques... J'aimerais voir un article détaillé sur la façon dont vous itérez, testez et évaluez ces prompts. Ce serait d'une grande aide pour vos clients qui construisent sur vos modèles.