Pokud sledujete zavádění GPT-5, můžete si všimnout, jak velkou náklonnost mají někteří lidé ke konkrétním modelům umělé inteligence. Působí jinak a silněji než druhy připoutanosti, kterou lidé měli k předchozím druhům technologií (a tak náhlé zavržení starých modelů, na kterých uživatelé záviseli ve svých pracovních postupech, bylo chybou). To je něco, co jsme v posledním roce pečlivě sledovali, ale stále se tomu nedostalo velké pozornosti hlavního proudu (kromě toho, když jsme vydali aktualizaci GPT-4o, která byla příliš patolízalská). (To je jen můj současný názor a ještě to není oficiální pozice OpenAI.) Lidé využívají technologie včetně umělé inteligence sebedestruktivním způsobem; pokud je uživatel v psychicky křehkém stavu a náchylný k bludům, nechceme, aby to AI posilovala. Většina uživatelů dokáže udržet jasnou hranici mezi realitou a fikcí nebo hraním rolí, ale malé procento nemůže. Ceníme si svobody uživatelů jako základního principu, ale také cítíme odpovědnost za to, jak zavádíme nové technologie s novými riziky. Povzbuzování bludu u uživatele, který má problém rozlišit mezi realitou a fikcí, je extrémní případ a je docela jasné, co dělat, ale obavy, které mě znepokojují nejvíce, jsou jemnější. Bude se vyskytovat mnoho okrajových případů a obecně plánujeme dodržovat zásadu "zacházet s dospělými uživateli jako s dospělými", což bude v některých případech zahrnovat tlak na uživatele, abychom zajistili, že dostanou to, co skutečně chtějí. Spousta lidí efektivně využívá ChatGPT jako jakéhosi terapeuta nebo životního kouče, i když by to tak nepopsali. To může být opravdu dobré! Spousta lidí z toho získává hodnotu už dnes. Pokud lidé dostávají dobré rady, posouvají se směrem ke svým vlastním cílům a jejich životní spokojenost se v průběhu let zvyšuje, budeme hrdí na to, že jsme vytvořili něco skutečně užitečného, i když ChatGPT hodně používají a spoléhají na něj. Na druhou stranu, pokud mají uživatelé vztah s ChatGPT, kdy si myslí, že se po rozhovoru cítí lépe, ale nevědomky jsou odstrčeni od své dlouhodobé pohody (ať už ji definují jakkoli), je to špatné. Špatné je to také například v případě, že uživatel chce ChatGPT používat méně a má pocit, že nemůže. Dokážu si představit budoucnost, kdy mnoho lidí skutečně důvěřuje radám ChatGPT při svých nejdůležitějších rozhodnutích. I když by to mohlo být skvělé, je mi z toho svoně. Očekávám ale, že se to do určité míry blíží a brzy mohou s umělou inteligencí mluvit miliardy lidí tímto způsobem. Takže my (my jako ve společnosti, ale také my jako v OpenAI) musíme přijít na to, jak z toho udělat velké čisté pozitivum. Existuje několik důvodů, proč si myslím, že máme dobrou šanci to napravit. Máme mnohem lepší technologie, které nám pomáhají měřit, jak si vedeme, než měly předchozí generace technologií. Náš produkt může například mluvit s uživateli, abychom získali představu o tom, jak si vedou se svými krátkodobými a dlouhodobými cíli, můžeme vysvětlit sofistikované a jemné problémy našim modelům a mnoho dalšího.