Jsem překvapen, že OpenAI Comms to schválila: GPT-5 "předznamenává rekurzivní smyčku sebezdokonalování" V rámci připravenosti OpenAI je rekurzivní sebezdokonalování kritickým rizikem (i když v určité míře), které by volalo po "zastavení dalšího vývoje"

OpenAI tvrdí, že zavedla novou bezpečnostní funkci pro GPT-5, ale OpenAI má tuto funkci od roku 2021 Je mi líto, že OpenAI naznačuje, že to vytvořili pro GPT-5, což nevytvořili. Je těžké spoléhat se na systémové karty společností zabývajících se umělou inteligencí, když existuje motivace k přehnaným nárokům. (vlákno)

To je dobré slyšet!

Skvělá analýza od @Kantrowitz a @mgsiegler dnes se týká "klauzule AGI" OpenAI-Microsoft a toho, jak "zákaz sledování AGI" společnosti MSFT pravděpodobně ovlivnil sdělení, které obě společnosti používají, ředění slov AI atd.

OpenAI by to měla říci jasně a veřejně: Někdy jsou zisky v rozporu s neziskovým posláním, ke kterému se OpenAI právně zavázala. Bude OpenAI muset klást na první místo misi, nebo její restrukturalizace tuto povinnost odstraní?

To je docela k popukání, pokud je to pravda Miliarda dolarů není cool. Víte, co je cool? Optimalizace Instagram Reels, aby byly ještě lákavější pro oči

Podepisování úplných kódů: Microsoft, OpenAI, Anthropic, Google, Mistral, Cohere Podepisuje se pouze "Bezpečnost", nikoli "Autorská práva" nebo "Transparentnost": xAI Nepodepisování žádné: Meta

Zdá se, že Mark si myslí, že je důležité, zda Meta *nasměruje* superinteligenci k masové automatizaci práce To není správné; Pokud "přinesete osobní superinteligenci všem" (včetně majitelů firem), oni se osobně rozhodnou automatizovat práci ostatních, pokud to mohou

Mark Zuckerberg dodává jemné vibrace singularity

Je šílené zamyslet se nad třemi globálními soutěžemi v oblasti umělé inteligence, které právě probíhají: - 1. Američtí političtí vůdci udělali z umělé inteligence prestižní závod, což je ozvěna vesmírných závodů. Je to skvělé, důležité a strategické a oni vyhrají. - 2. Pro čínské vedení je umělá inteligence součástí ekonomické síly, měkké síly a vlivu. Technologie jsou sdílené, rozvojové ekonomiky budou postaveny na čínských základních technologiích, čínská ekonomika a obchodní vztahy porostou. Oslabení důvěry v vrtošivé USA je snadná příležitost, kterou lze využít. - 3. AGI společnosti závodí s něčím, o čem si myslí, že překoná lidi ve všech oblastech, o čem zatím nevědí, jak to ovládat, a myslí si, že by to mohlo doslova zabít každého. Nejděsivější ze všeho je, že těm, kdo rozhodují, není vůbec jasné, že se tyto tři věci dějí paralelně. Myslí si, že hrají stejnou hru, ale není tomu tak.