Es ist interessant, dass die Idee der Bewertungen gefährlicher Fähigkeiten ursprünglich in einem Kontext entstand, in dem viele öffentliche Kommentare auf stochastischen Papageien und "KI kann keine Finger erzeugen, wie könnte sie jemals eine Bedrohung jenseits von Vorurteilen sein?" verankert waren. Es machte also viel Sinn, Spielversionen schädlicher Anwendungen zu entwickeln, um besser zu kommunizieren, was möglich war, insbesondere angesichts der richtigen Intuition von Sicherheitsexperten, dass der Fortschritt hier nicht aufhören würde: selbst wenn die KIs scheiterten, wäre es einfach zu zeigen, dass sie sich im Laufe der Zeit verbesserten. Das Problem ist, dass dies ein wenig zu gut funktionierte und die Leute den 'Spielversion'-Teil der Bewertungen vergaßen, wobei die Medien über 'Erpressung' berichteten oder Modelle, die bei grundlegenden Virologie-MCQs gut abschnitten oder grundlegenden Code für Malware generierten, als große Deals darstellten - das waren sie nicht. Aber natürlich liebten viele Befürworter es, sie zu verwenden, um zu veranschaulichen, warum Regulierung mehr denn je notwendig war, oder übertrieben darzustellen, wie schlimm die Dinge waren ('das ist in Ordnung'-Memes usw.). Die Leute machten fragwürdige Behauptungen über 'gefährliche Modelle', angeheizt durch die tiefe Risikoaversion, die das Feld kennzeichnet. Seitdem hat sich das Feld weiterentwickelt und die Bewertungen sehen besser aus, teilweise weil die Sicherheitsseite tatsächlich mit Fachexperten in den Bereichen Biologie oder Cyber interagieren musste, anstatt alles aus ersten Prinzipien heraus zu erarbeiten. Obwohl ich viele Bewertungen immer noch als grundlegend, statisch und nicht extern gültig empfinde - sie bleiben wichtige Indikatoren. Aber die spezifischen Bedrohungsmodelle werden weiterhin debattiert, und es bleibt eine offene Frage, ob KI das Gleichgewicht zwischen Angriff und Verteidigung in der Cybersicherheit wesentlich verändern wird. Der aktuelle Bericht von Anthropic ist großartige Arbeit, scheint aber kein großes Ding zu sein, da diese Arten von Angriffen ziemlich häufig sind; sicher gibt es mehr Automatisierung, die untersucht werden sollte, aber das allein war offensichtlich der Fall auf einem bestimmten Niveau der Diffusion. Man sollte erwarten, dass auch die Bösewichte Technologie nutzen. Worauf wir achten sollten, ist, ob dies eine allmähliche Asymmetrie schafft und die Schäden/Kosten/Erpressungen erheblich erhöht + inwieweit die Cyberverteidigung/kritische Infrastruktur parallel gehärtet wird. Meiner Meinung nach sollten wir Prioritäten setzen, die "unordentliches Gleichgewicht" gegenüber "einseitigem Angriffs Vorteil" bevorzugen.