Bây giờ chúng ta đã được vài năm, có vẻ như các mối quan tâm về an toàn AI là hợp lệ về mặt kinh nghiệm (ví dụ: hack phần thưởng trong các mô hình mã hóa), nhưng cách tiếp cận 'triển khai lặp lại và học hỏi' của OpenAI đã hoạt động tốt cho đến nay. Các mô hình trở nên tốt hơn, một số thứ bị hỏng, và bạn xây dựng lan can khi bạn đi...

Nơi mà điều này gặp vấn đề là nếu: 1) Một tác nhân khác triển khai các mô hình mạnh mẽ trong các bối cảnh quan trọng mà không có những rào cản này được thiết lập 2) Các mô hình bắt đầu cải thiện quá nhanh để OODA loop của chúng ta có thể theo kịp (ví dụ: kịch bản điểm kỳ dị)

Nơi mà điều này bị phá vỡ: 1) Một diễn viên khác triển khai các mô hình mạnh mẽ trong các bối cảnh quan trọng mà không có những rào cản này 2) Các mô hình bắt đầu cải thiện quá nhanh để vòng lặp OODA của chúng ta có thể theo kịp (ví dụ: kịch bản điểm kỳ dị)

Nơi mà điều này bị phá vỡ: 1) Một diễn viên khác triển khai các mô hình mạnh mẽ trong các bối cảnh quan trọng mà không có những rào cản này ở vị trí hoặc 2) Các mô hình bắt đầu cải thiện quá nhanh để vòng lặp OODA của chúng ta có thể theo kịp (ví dụ: kịch bản điểm kỳ dị)