Ich bin überrascht, dass OpenAI Comms dies genehmigen würde: GPT-5 "weist auf eine rekursive Selbstverbesserungsschleife hin" In OpenAIs Vorbereitungsrahmen ist rekursive Selbstverbesserung ein kritisches Risiko (wenn es in einem bestimmten Tempo geschieht), was dazu führen würde, "die weitere Entwicklung zu stoppen".

Um klarzustellen, es klingt so, als würde Sebastien keinen besonders schnellen Loop beschreiben. Er spricht auch über Vorahnung, nicht unbedingt darüber, heute hier zu sein. Ich war dennoch überrascht, dass OpenAI diesen Begriff für seine KI verwendet. Dann wurde mir klar, dass er auch in "The Gentle Singularity" verwendet wird.

@CJKRaymond Zum Beispiel, wenn eine Technik wie diese einen großen Geschwindigkeitszuwachs bei den Modellgenerierungen verursacht hat (weil OAI nicht mehr an begrenzte HQ-Daten gebunden ist), würde das die Definition des nachlaufenden Indikators erfüllen. So oder so, ich sage nicht, dass dies ein gefährlicher RSI ist! Ich bin nur überrascht, dass OAI diese Beschreibung nicht abgelehnt hat.