Ik ben verrast dat OpenAI Comms dit zou goedkeuren: GPT-5 "voorspelt een recursieve zelfverbeteringslus" In OpenAI's Voorbereidingskader is recursieve zelfverbetering een Kritiek risico (als het op een bepaald tempo gebeurt), wat zou oproepen tot "stopzetting van verdere ontwikkeling".

OpenAI beweert een nieuwe veiligheidsfunctie voor GPT-5 te hebben geïntroduceerd, maar OpenAI heeft deze functie al sinds 2021. Ik ben verdrietig dat OpenAI suggereert dat ze dit voor GPT-5 hebben gemaakt, wat ze niet hebben gedaan. Het is moeilijk om op de systeemkaarten van AI-bedrijven te vertrouwen wanneer er een prikkel is om te overdrijven. (draad)

Dit is goed om te horen!

Geweldige analyse van @Kantrowitz en @mgsiegler vandaag over de OpenAI-Microsoft "AGI Clausule", en hoe de 'verbod op het nastreven van AGI' van MSFT waarschijnlijk de boodschap van beide bedrijven heeft beïnvloed, verdunning van AI-woorden, enz.

OpenAI zou dit duidelijk en publiekelijk moeten zeggen: Soms zullen winsten in conflict komen met de non-profit missie waaraan OpenAI zich wettelijk heeft verbonden. Zal OpenAI verplicht zijn om de missie voorop te stellen, of zal de herstructurering deze verplichting wegnemen?

Dit is soort van hilarisch als het waar is Een miljard dollar is niet cool. Weet je wat cool is? Het optimaliseren van Instagram Reels om nog aantrekkelijker te zijn voor de kijkers.

Ondertekening van de volledige codes: Microsoft, OpenAI, Anthropic, Google, Mistral, Cohere Ondertekening van alleen 'Veiligheid', niet 'Auteursrecht' of 'Transparantie': xAI Geen ondertekening: Meta

Mark lijkt te denken dat het belangrijk is of Meta *superintelligentie* richt op massale automatisering van werk. Dit is niet correct; als je "persoonlijke superintelligentie naar iedereen brengt" (inclusief bedrijfsleiders), zullen zij persoonlijk kiezen om het werk van anderen te automatiseren, als ze dat kunnen.

Mark Zuckerberg geeft een gevoel van Zachte Singulariteit

Het is gek om na te denken over de drie wereldwijde AI-competities die momenteel plaatsvinden: - 1. De politieke leiderschap in de VS heeft AI tot een prestige-race gemaakt, die doet denken aan de ruimtewedloop. Het is cool, belangrijk en strategisch, en ze gaan winnen. - 2. Voor de Chinese leiderschap is AI een onderdeel van economische kracht, zachte macht en invloed. Technologie wordt gedeeld, ontwikkelende economieën zullen gebouwd worden op Chinese fundamentele technologie, de Chinese economie en handelsrelaties zullen groeien. Het verzwakken van het vertrouwen in een grillige VS is een gemakkelijke kans om van te profiteren. - 3. De AGI-bedrijven racen naar iets waarvan ze denken dat het mensen op alle fronten zal overtreffen, dat ze nog niet weten hoe ze moeten beheersen, en waarvan ze denken dat het letterlijk iedereen kan doden. Het engste van alles is dat het voor besluitvormers helemaal niet duidelijk is dat deze drie dingen parallel plaatsvinden. Ze denken dat ze hetzelfde spel spelen, maar dat doen ze niet.