Teď, když je GPT-5 venku, jak si myslíte, že jsem si vedl? Byly mé předpovědi pro model správné?
Matt Shumer
Matt Shumer15. 4. 2024
Moje předpovědi schopností GPT-5: Od nejméně zajímavého po nejzajímavější: - výrazně delší délka kontextu + daleko větší schopnost jej efektivně používat (tj. schopnost uvažovat přes jehly v rámci testů kupky sena) - mnohem více multimodální (jak z hlediska # modalit, tak z hlediska toho, jak "hluboko" každá z nich jde) - multimodální výstupy, i když bych tipoval, že některé modality budou při spuštění vypnuty (bezpečnost atd. atd.) - představte si, že mluvíte přímo s GPT-5 a on vám odpoví, aniž by používal Whisper nebo Voice Engine - Průlom v uvažování Q* - Dva režimy: uvažování + normální – Q* může vyžadovat značné odvození času/nákladů, takže pokud nedojde k průlomu v efektivitě, mohou také nabídnout režim normální odezvy, jak to vidíme dnes - Podobně GPT-5 může mít pokročilejší formu adaptivního využití výpočetních prostředků/Q*... Čím těžší je dotaz, tím více síly za sebou vkládá, aby poskytl skvělé řešení - 10x lepší agentické schopnosti... Jednodušší/omezení agenti budou většinou vyřešeni a dostaneme se mnohem blíže k reálným, generalistickým agentům - schopnost couvat – kromě reflexe bude GPT-5 schopen rozpoznat chyby, když odpovídá, a opravit kurz - šílená úroveň koherence napříč dlouhodobými daty... Začneme méně přemýšlet o používání samostatných systémů pro povolení paměti a více o pouhém vložení všech pamětí do výzvy... To také posune agenty vpřed - s těmito posledními třemi body budete moci nechat GPT-5 na pokoji a nechat ho složité úkoly za vás a věřit, že je skutečně zvládne, aniž byste museli kontrolovat jeho práci - trénováno na OOM více dat než předchozí modely, z nichž velká část je shromažďována z ChatGPT, vyčištěna, vylepšena, přetypována do jiných modalit atd. - post-trénovaný na mnohem *lepších* datech než současné přední modely - Začneme vidět záblesky schopností daleko za hranicemi toho, o čem dnes mluvíme – například bude mít blíže použitelné schopnosti pro vědecký výzkum O co jsem přišel? Jak to myslíš? Odpovězte a dejte mi vědět.
6,43K