Tôi ngạc nhiên rằng OpenAI Comms lại phê duyệt điều này: GPT-5 "điềm báo một vòng lặp tự cải thiện đệ quy" Trong Khung chuẩn bị của OpenAI, tự cải thiện đệ quy là một rủi ro quan trọng (nếu ở một mức độ nhất định), điều này sẽ yêu cầu "dừng phát triển thêm".

OpenAI tuyên bố đã giới thiệu một tính năng an toàn mới cho GPT-5, nhưng OpenAI đã có tính năng này từ năm 2021 Tôi buồn vì OpenAI ngụ ý rằng họ đã tạo ra điều này cho GPT-5, điều mà họ không làm. Thật khó để tin tưởng vào Thẻ Hệ thống của các công ty AI khi có động lực để phóng đại.

Thật tốt khi nghe điều này!

Phân tích tuyệt vời từ @Kantrowitz và @mgsiegler hôm nay về "Điều khoản AGI" của OpenAI-Microsoft, và cách mà việc MSFT ‘cấm theo đuổi AGI’ có thể đã ảnh hưởng đến thông điệp mà cả hai công ty sử dụng, sự pha loãng của các từ liên quan đến AI, v.v.

OpenAI nên nói rõ ràng và công khai: Đôi khi lợi nhuận sẽ mâu thuẫn với sứ mệnh phi lợi nhuận mà OpenAI đã ràng buộc về mặt pháp lý. Liệu OpenAI có bắt buộc phải đặt sứ mệnh lên hàng đầu, hay việc tái cấu trúc của nó sẽ loại bỏ nghĩa vụ này?

Điều này thật sự hài hước nếu đúng. Một tỷ đô la thì không thú vị. Bạn biết điều gì thú vị không? Tối ưu hóa Instagram Reels để trở nên hấp dẫn hơn với ánh nhìn.

Ký kết toàn bộ các Quy tắc: Microsoft, OpenAI, Anthropic, Google, Mistral, Cohere Ký kết chỉ 'An toàn', không phải 'Bản quyền' hay 'Minh bạch': xAI Không ký kết: Meta

Mark dường như nghĩ rằng điều quan trọng là liệu Meta có *chỉ đạo* siêu trí tuệ hướng tới tự động hóa công việc hàng loạt hay không. Điều này không đúng; nếu bạn "mang siêu trí tuệ cá nhân đến cho mọi người" (bao gồm cả những người sở hữu doanh nghiệp), họ sẽ tự chọn tự động hóa công việc của người khác, nếu họ có thể.

Mark Zuckerberg mang đến cảm giác Gentle Singularity

Thật điên rồ khi suy ngẫm về ba cuộc thi AI toàn cầu đang diễn ra ngay bây giờ: - 1. Lãnh đạo chính trị Mỹ đã biến AI thành một cuộc đua danh tiếng, giống như Cuộc đua Không gian. Điều này thật tuyệt vời, quan trọng và chiến lược, và họ sẽ chiến thắng. - 2. Đối với lãnh đạo Trung Quốc, AI là một phần của sức mạnh kinh tế, quyền lực mềm và ảnh hưởng. Công nghệ được chia sẻ, các nền kinh tế đang phát triển sẽ được xây dựng trên công nghệ cơ bản của Trung Quốc, nền kinh tế và quan hệ thương mại của Trung Quốc sẽ phát triển. Sự suy giảm niềm tin vào một nước Mỹ thất thường là một cơ hội dễ dàng để tận dụng. - 3. Các công ty AGI đang đua một cái gì đó mà họ nghĩ sẽ vượt qua trí tuệ con người trên mọi phương diện, mà họ vẫn chưa biết cách kiểm soát, và nghĩ rằng có thể sẽ giết chết mọi người. Điều đáng sợ nhất là không rõ ràng với những người ra quyết định rằng ba điều này đang xảy ra song song. Họ nghĩ rằng họ đang chơi cùng một trò chơi, nhưng thực ra thì không.