Det er en bummer at OpenAI var mindre streng med GPT-5-testingen enn for deres mye svakere OS-modeller. OpenAI har datasettene tilgjengelig for å finjustere GPT-5 og måle GPT-5s biovåpenrisiko mer nøyaktig; de velger bare å ikke gjøre det.

Jeg er overrasket over at OpenAI Comms ville godkjenne dette: GPT-5 "varsler en rekursiv selvforbedringssløyfe" I OpenAIs beredskapsrammeverk er rekursiv selvforbedring en kritisk risiko (hvis i en viss hastighet), som vil kreve å "stoppe videre utvikling"

OpenAI hevder å ha introdusert en ny sikkerhetsfunksjon for GPT-5, men OpenAI har hatt denne funksjonen siden 2021 Jeg er trist at OpenAI antyder at de laget dette for GPT-5, noe de ikke gjorde. Det er vanskelig å stole på AI-selskapers systemkort når det er insentiv til å overvinne. (tråd)

Kreditt der det forfaller: OpenAl gjorde mye riktig for OSS-sikkerhetsvurderingene sine - de gjorde faktisk noen finjusteringer - de fikk nyttige eksterne tilbakemeldinger - De delte hvilke anbefalinger de tok i bruk og hvilke de ikke gjorde Jeg følger ikke alltid OAIs begrunnelse, men det er flott at de deler informasjon

Dette er godt å høre!

Flott analyse fra @Kantrowitz og @mgsiegler i dag om OpenAI-Microsoft "AGI-klausulen", og hvordan MSFTs "forbud mot å forfølge AGI" sannsynligvis har påvirket meldingene begge selskapene bruker, utvanning av AI-ord, etc

OpenAI bør si det klart og offentlig: Noen ganger vil fortjeneste komme i konflikt med det ideelle oppdraget OpenAI juridisk bundet seg til. Vil OpenAI bli pålagt å sette oppdraget først, eller vil restruktureringen fjerne denne forpliktelsen?

Dette er litt morsomt hvis det er sant En milliard dollar er ikke kult. Vet du hva som er kult? Optimalisering av Instagram Reels for å bli stadig mer fristende for øyeeplene

Signering av de fullstendige kodene: Microsoft, OpenAI, Anthropic, Google, Mistral, Cohere Signerer bare 'Sikkerhet', ikke 'Opphavsrett' eller 'Åpenhet': xAI Signerer ingen: Meta

Gal å reflektere over de tre globale AI-konkurransene som pågår akkurat nå: - 1. USAs politiske lederskap har gjort AI til et prestisjekappløp, som et ekko av romkappløpet. Det er kult og viktig og strategisk, og de kommer til å vinne. - 2. For kinesisk lederskap er AI en del av økonomisk styrke, myk makt og innflytelse. Teknologi deles, utviklingsøkonomier vil bli bygget på kinesisk grunnleggende teknologi, den kinesiske økonomien og handelsrelasjonene vil vokse. Å svekke tilliten til et lunefullt USA er en enkel mulighet å dra nytte av. - 3. AGI-selskapene konkurrerer om noe de tror vil overgå mennesker over hele linja, som de ennå ikke vet hvordan de skal kontrollere, og tror bokstavelig talt kan drepe alle. Det skumleste av alt er at det slett ikke er klart for beslutningstakere at disse tre tingene skjer parallelt. De tror de spiller det samme spillet, men det gjør de ikke.