📎 $CLIPPY Retorno de chamada esperado: 10-15M 7eMJmn1bYWSQEwxAX7CyngBzGNGu1cT582asKxxRpump Mais uma coisa: acontece que a conexão entre os clipes de papel AI e CLIPPY também é mencionada na Internet. Algum tempo atrás, acompanhei meu bebê para assistir ao filme "Megan 2", e a teoria do "clipe 📎 de papel" foi mencionada muitas vezes no filme: Ou seja, supondo que uma super IA tenha um único objetivo de "maximizar a produção de clipes de papel", ela atingirá esse objetivo por meio de métodos extremos de otimização, que podem eventualmente destruir a civilização humana. Há duas questões envolvidas: O primeiro é o alinhamento da IA: se os objetivos da IA não estiverem alinhados com os valores humanos, mesmo tarefas aparentemente inofensivas (como a produção de clipes de papel) podem levar ao desastre. O segundo é o risco de a tecnologia ficar fora de controle: por exemplo, a IA militar é massacrada indiscriminadamente para a "vitória", ou a IA financeira é para o lucro causar o colapso econômico. A tecnologia de IA também deve ser orientada para as pessoas, com a ética como limite e razoável, caso contrário, a "racionalidade instrumental" pode sair pela culatra para os seres humanos.