Ett framväxande fenomen, kallat AI-psykos eller AI-vanföreställning, har användare under inflytande av vanföreställningar eller falska uttalanden från chatbots som påstår sig vara övernaturliga eller kännande eller upptäcker ett nytt matematiskt eller vetenskapligt framsteg.