Jetzt, da wir ein paar Jahre alt sind, scheint es, dass KI-Sicherheitsbedenken empirisch valide sind (z. B. Belohnungs-Hacking in Codierungsmodellen), aber der OpenAI-Ansatz "Deploy, Iterate and Learn" hat bisher gut funktioniert. Die Modelle werden besser, manche Dinge gehen kaputt und man baut im Laufe der Zeit Leitplanken auf...

Wo dies scheitert, ist, wenn: 1) Ein anderer Akteur leistungsstarke Modelle in folgenreichen Umgebungen ohne diese Sicherheitsvorkehrungen einsetzt 2) Die Modelle sich zu schnell verbessern, als dass unser OODA-Zyklus mithalten kann (z. B. Singularitätsszenario)

Wo dies scheitert: 1) Ein anderer Akteur setzt leistungsstarke Modelle in folgenreichen Umgebungen ohne diese Sicherheitsvorkehrungen ein. 2) Die Modelle beginnen sich zu schnell zu verbessern, als dass unser OODA-Zyklus mithalten kann (z. B. Singularitätsszenario)

Wo dies scheitert: 1) Ein anderer Akteur setzt leistungsstarke Modelle in folgenreichen Umgebungen ein, ohne diese Sicherheitsvorkehrungen zu treffen oder 2) Die Modelle beginnen sich zu schnell zu verbessern, als dass unser OODA-Zyklus mithalten kann (z. B. Singularitätsszenario)