Szkoda, że OpenAI był mniej rygorystyczny w testach GPT-5 niż w przypadku swoich znacznie słabszych modeli OS. OpenAI ma dostępne zbiory danych, aby dostosować GPT-5 i dokładniej ocenić ryzyko broni biologicznej związane z GPT-5; po prostu decydują się tego nie robić.

Jestem zaskoczony, że OpenAI Comms zatwierdziłoby to: GPT-5 "zapowiada pętlę samodoskonalenia" W Ramach Przygotowawczej OpenAI, samodoskonalenie jest krytycznym ryzykiem (jeśli występuje w określonym tempie), co wymagałoby "wstrzymania dalszego rozwoju".

OpenAI twierdzi, że wprowadziło nową funkcję bezpieczeństwa dla GPT-5, ale OpenAI miało tę funkcję już od 2021 roku. Jest mi smutno, że OpenAI sugeruje, iż stworzyło to dla GPT-5, co nie jest prawdą. Trudno polegać na Kartach Systemowych firm AI, gdy istnieje zachęta do przesady. (wątek)

Zasługują na uznanie: OpenAI zrobiło wiele dobrego w swoich ocenach bezpieczeństwa OSS - faktycznie przeprowadzili pewne dostosowania - otrzymali przydatne opinie zewnętrzne - podzielili się informacjami, które zalecenia przyjęli, a które odrzucili Nie zawsze rozumiem racjonalność OAI, ale świetnie, że dzielą się informacjami.

To dobrze słyszeć!

Świetna analiza od @Kantrowitz i @mgsiegler dzisiaj dotycząca "Klauzuli AGI" OpenAI-Microsoft oraz tego, jak zakaz MSFT na dążenie do AGI prawdopodobnie wpłynął na komunikację obu firm, rozmycie słów związanych z AI itd.

OpenAI powinno to jasno i publicznie powiedzieć: Czasami zyski będą w konflikcie z misją non-profit, do której OpenAI prawnie się zobowiązało. Czy OpenAI będzie zobowiązane do stawiania misji na pierwszym miejscu, czy też jego restrukturyzacja usunie ten obowiązek?

To jest dość zabawne, jeśli to prawda Miliard dolarów nie jest fajny. Wiesz, co jest fajne? Optymalizacja Instagram Reels, aby były coraz bardziej kuszące dla oczu.

Podpisanie pełnych kodów: Microsoft, OpenAI, Anthropic, Google, Mistral, Cohere Podpisanie tylko 'Bezpieczeństwa', a nie 'Prawa autorskie' lub 'Przejrzystość': xAI Brak podpisu: Meta

Szalone jest to, że można pomyśleć o trzech globalnych konkursach AI, które odbywają się teraz: - 1. Przywódcy polityczni USA uczynili z AI wyścig prestiżowy, przypominający wyścig kosmiczny. To jest fajne, ważne i strategiczne, i zamierzają Wygrać. - 2. Dla chińskich przywódców AI jest częścią siły ekonomicznej, miękkiej władzy i wpływów. Technologia jest dzielona, rozwijające się gospodarki będą oparte na chińskiej technologii fundamentalnej, chińska gospodarka i relacje handlowe będą się rozwijać. Osłabienie zaufania do kapryśnych USA to łatwa okazja do wykorzystania. - 3. Firmy AGI ścigają coś, co myślą, że przewyższy ludzi w każdej dziedzinie, czego jeszcze nie wiedzą, jak kontrolować, i myślą, że może dosłownie zabić wszystkich. Najbardziej przerażające jest to, że decydenci wcale nie są pewni, że te trzy rzeczy dzieją się równolegle. Myślą, że grają w tę samą grę, ale tak nie jest.