Ho tenuto un intervento mercoledì al Bay Area AI Security Meetup riguardo all'iniezione di prompt, alla sicurezza MCP e al letale trifecta. Ecco le diapositive annotate della mia presentazione, comprese le note sul mio strano hobby di cercare di coniare o amplificare nuovi termini tecnici.

"Ho un bambino piccolo. La mia preoccupazione più grande è che non mangi sassi per terra e tu mi parli di psicosi da ChatGPT? Perché abbiamo anche questa cosa? Perché abbiamo inventato una nuova forma di follia e poi fanno pagare le persone per questo?"

Ho inviato l'ultima edizione della mia newsletter, ovvero tutto ciò che ho scritto sul mio blog negli ultimi 7 giorni copiato e incollato in un'email.

Controllo rapido della terminologia: cosa diresti sia la definizione più vicina a "allucinazione" quando si parla di LLM?

Abbiamo invitato @simonw, @clairevo, @theo, @swyx e @benhylak nel nostro ufficio senza alcun contesto. Poi abbiamo dato loro GPT-5. Ecco cosa è successo:

Ho avuto accesso in anteprima a GPT-5 per un paio di settimane, quindi ho molto da dire al riguardo. Ecco il mio primo post, che si concentra solo sulle caratteristiche principali, sui prezzi (è molto competitivamente prezzato) e su dettagli interessanti dalla scheda del sistema GPT-5.

Ecco un nuovo termine che mi piace: agenti di codifica asincroni, per descrivere la categoria di software che include OpenAI Codex e Gemini Jules - strumenti basati su cloud dove invii un prompt e controllano il tuo repository, iterano su una soluzione e finiscono inviando una richiesta di pull.

Ecco la sezione conclusiva del mio scritto sui nuovi modelli open weights di OpenAI - sono davvero impressionanti e penso che si difendano bene (o addirittura superino) i modelli che abbiamo visto emergere dai vari laboratori di intelligenza artificiale cinesi negli ultimi mesi.

Suggerimento per la strategia dei contenuti per @AnthropicAI o @OpenAI o qualsiasi altro laboratorio di intelligenza artificiale che sviluppa sistemi con prompt di sistema epici... Mi piacerebbe vedere un'analisi dettagliata su come iterate, testate e valutate quei prompt. Sarebbe di grande aiuto per i vostri clienti che stanno costruendo sui vostri modelli.

Il mio post aggiornato riguardo all'agente ChatGPT e a come espone la sua identità attraverso gli header HTTP - inizialmente pensavo che attivasse anche le scansioni da parte di Yandex e Bingbot, ma si è rivelato essere un problema della mia configurazione di Cloudflare, del tutto non correlato a ChatGPT.