Et fremvoksende fenomen, kalt AI-psykose eller AI-vrangforestilling, har brukere under påvirkning av vrangforestillinger eller falske uttalelser fra chatbots som hevder å være overnaturlige eller følende eller oppdager et nytt matematisk eller vitenskapelig fremskritt.