Ve středu jsem na Bay Area AI Security Meetup přednesl přednášku o rychlé injekci, bezpečnosti MCP a smrtící trojici. Zde jsou komentované snímky z mé prezentace, včetně poznámek o mém podivném koníčku pokoušet se razit nebo rozšiřovat nové umělecké termíny

Oficiální postoj @cursor_ai k MCP je zjevně "MCP servery, zejména ty, které se připojují k nedůvěryhodným zdrojům dat, představují pro uživatele vážné riziko. Vždy doporučujeme uživatelům před instalací zkontrolovat každý MCP server a omezit jej na ty, které přistupují k důvěryhodnému obsahu."

"Mám batole. Moje největší obava je, že nejí kameny ze země a vy se mnou mluvíte o psychóze ChatGPT? Proč to vůbec máme? Proč jsme vymysleli novou formu šílenství a oni za to pak účtují lidem?"

Rozeslal jsem nejnovější vydání svého newsletteru, neboli vše, co jsem za posledních 7 dní napsal na svůj blog, zkopírované a vložené do e-mailu

Rychlá kontrola terminologie: co byste řekl, že je nejblíže správné definici "halucinace", když mluvíme o LLM?

Pozvali jsme @simonw, @clairevo, @theo, @swyx a @benhylak do naší kanceláře bez jakéhokoli kontextu. Pak jsme jim dali GPT-5. Stalo se toto:

Už pár týdnů mám náhledový přístup k GPT-5, takže k tomu mám hodně co říct. Zde je můj první příspěvek, který se zaměřuje pouze na základní charakteristiky, ceny (je to VELMI konkurenceschopné ceny) a zajímavé detaily ze systémové karty GPT-5

Zde je nový umělecký termín, který se mi líbí: asynchronní kódovací agenti, abych popsal kategorii softwaru, která zahrnuje OpenAI Codex a Gemini Jules - cloudové nástroje, kde odešlete výzvu a oni si prohlédnou vaše repo, iterují řešení a dokončí odesláním žádosti o přijetí změn

Zde je závěrečná část mého zápisu nových modelů OpenAI s otevřenými váhami - jsou opravdu působivé a myslím, že obstojí (nebo dokonce porazí) modely, které jsme viděli vyjít z různých čínských laboratoří umělé inteligence v posledních několika měsících

Návrh obsahové strategie pro @AnthropicAI nebo @OpenAI nebo jakékoli jiné přepravní systémy AI Lab s epickými systémovými výzvami... Rád bych viděl podrobný zápis toho, jak tyto výzvy iterujete, testujete a vyhodnocujete Byla by to obrovská pomoc pro vaše zákazníky, kteří staví na vašich modelech