Ich hielt am Mittwoch einen Vortrag beim Bay Area AI Security Meetup über Prompt Injection, MCP-Sicherheit und das tödliche Trifecta. Hier sind die annotierten Folien meiner Präsentation, einschließlich Notizen zu meinem seltsamen Hobby, neue Fachbegriffe zu prägen oder zu verstärken.

"Ich habe ein Kleinkind. Meine größte Sorge ist, dass er keine Steine vom Boden isst, und du redest mit mir über ChatGPT-Psychose? Warum haben wir das überhaupt? Warum haben wir eine neue Form von Wahnsinn erfunden und verlangen dann Geld dafür?"

Die neueste Ausgabe meines Newsletters verschickt, also alles, was ich in den letzten 7 Tagen auf meinem Blog geschrieben habe, kopiert und in eine E-Mail eingefügt.

Schnelle Terminologieüberprüfung: Was würden Sie sagen, ist die nächstgelegene korrekte Definition von "Halluzination", wenn man über LLMs spricht?

Wir haben @simonw, @clairevo, @theo, @swyx und @benhylak ohne jeglichen Kontext in unser Büro eingeladen. Dann haben wir ihnen GPT-5 gegeben. Hier ist, was passiert ist:

Ich hatte für ein paar Wochen Vorschauzugang zu GPT-5, also habe ich viel darüber zu sagen. Hier ist mein erster Beitrag, der sich nur auf die Kernmerkmale, die Preisgestaltung (es ist SEHR wettbewerbsfähig bepreist) und interessante Details aus der GPT-5-Systemkarte konzentriert.

Hier ist ein neuer Fachbegriff, den ich mag: asynchrone Codierungsagenten, um die Kategorie von Software zu beschreiben, die OpenAI Codex und Gemini Jules umfasst - cloudbasierte Tools, bei denen Sie einen Prompt einreichen und sie Ihr Repository überprüfen, an einer Lösung iterieren und schließlich einen Pull-Request einreichen.

Hier ist der abschließende Abschnitt meines Berichts über die neuen OpenAI Open Weights Modelle - sie sind wirklich beeindruckend, und ich denke, sie können mit den Modellen, die in den letzten Monaten aus den verschiedenen chinesischen KI-Labors hervorgekommen sind, mithalten (oder sie sogar übertreffen).

Vorschlag für eine Content-Strategie für @AnthropicAI oder @OpenAI oder jedes andere KI-Labor, das Systeme mit epischen Systemaufforderungen ausliefert... Ich würde mich freuen, eine detaillierte Beschreibung zu sehen, wie ihr diese Aufforderungen iteriert, testet und evaluiert. Das wäre eine große Hilfe für eure Kunden, die auf euren Modellen aufbauen.

Mein aktualisierter Beitrag über den ChatGPT-Agenten und wie er seine Identität durch HTTP-Header offenbart - ich hatte ursprünglich gedacht, dass er auch Crawls von Yandex und Bingbot auslöst, aber das stellte sich als meine eigene Cloudflare-Konfiguration heraus, die völlig unabhängig von ChatGPT ist.