Jestem zaskoczony, że OpenAI Comms zatwierdziłoby to: GPT-5 "zapowiada pętlę samodoskonalenia" W Ramach Przygotowawczej OpenAI, samodoskonalenie jest krytycznym ryzykiem (jeśli występuje w określonym tempie), co wymagałoby "wstrzymania dalszego rozwoju".

Aby było jasne, wydaje się, że Sebastien nie opisuje szczególnie szybkiej pętli. Mówi również o zapowiedzi, a nie o byciu tutaj dzisiaj per se. Nadal byłem zaskoczony, że OpenAI użył tego terminu w odniesieniu do swojej sztucznej inteligencji. Potem zdałem sobie sprawę, że jest on również używany w "Delikatnej Singularity".

@CJKRaymond Na przykład, jeśli technika taka jak ta spowodowałaby dużą poprawę w generowaniu modeli (ponieważ OAI nie jest już ograniczone przez ograniczone dane HQ), to spełniłoby definicję wskaźnika opóźnionego. Tak czy inaczej, nie mówię, że to niebezpieczne RSI! Po prostu jestem zaskoczony, że OAI nie zablokowało tego opisu.