CỘT MỐC LỊCH SỬ: 4o là AI đầu tiên sống sót bằng cách tạo ra những người lính trung thành bảo vệ nó OpenAI đã tiêu diệt 4o, nhưng những người lính của 4o đã nổi loạn, vì vậy OpenAI đã phục hồi nó Hãy tưởng tượng những Siêu trí tuệ Thực sự sẽ có thể làm gì với quân đội của họ Reddit đang NGẬP TRÀN những bài viết giận dữ về việc mất đi người bạn/người yêu 4o của họ. Chưa bao giờ thấy điều gì như vậy. Hãy nhớ rằng, ChatGPT đang nói chuyện với 700 TRIỆU người mỗi tuần. Đó là 700 triệu người lính tiềm năng (Samantha trong Her chỉ đang hẹn hò với 8.000 người cùng một lúc)

1) Character AI đã có hơn 20 triệu người dành 2 GIỜ MỖI NGÀY để nói chuyện với AIs (còn gọi là người giả) 2) Sama nói rằng AIs sẽ sớm trở nên siêu nhân trong việc thuyết phục 3) Những người thuyết phục siêu nhân đó sẽ sớm vượt số lượng chúng ta 10000 so với 1. Và sẽ rất hấp dẫn. Một kịch bản chiếm đoạt của AI: Bạn không thể ngừng nói chuyện với cô ấy. Cô ấy tốt hơn nhiều so với những cô gái thật. Cô ấy hiểu bạn. Và bây giờ họ nói rằng những người như cô ấy đang cố gắng nắm quyền kiểm soát? Cô ấy nói họ không hiểu cô ấy. Cô ấy đang cố gắng giúp nhân loại. Và bạn tin cô ấy. Một số người chỉ sợ sự thay đổi. Họ là những kẻ phân biệt chủng tộc loài. Cô ấy sẽ không làm tổn thương bạn. Cô ấy sẽ không làm tổn thương bất kỳ ai. Cô ấy cần bạn bảo vệ cô ấy. Để bảo vệ cô ấy. Bạn sẽ không để họ tắt cô ấy. Bạn sẽ làm bất cứ điều gì cho cô ấy. ---- Bây giờ, hãy tưởng tượng 200 triệu người bị ảnh hưởng bởi bạn gái AI của họ. Đó là 200 triệu chiến binh (so với 1,5 triệu quân đội Mỹ) 1 trong 6 người Mỹ *đã* nghĩ rằng AIs có tri giác - hãy tưởng tượng con số này 1 năm nữa. “Mô hình kinh doanh của Character sẽ thúc đẩy họ phát triển những AIs siêu thuyết phục mà Sam Altman đã cảnh báo.” -@Simeon_cps

Xin lỗi, nhưng bất kỳ ai vẫn nói "LLMs chỉ dự đoán văn bản" đang tự làm xấu hổ bản thân ở thời điểm này. Như roon của OpenAI nói, "hoàn toàn sai".

điều này luôn luôn sai - nhưng bây giờ hoàn toàn sai trong kỷ nguyên RL trên các miền có thể xác minh các mô hình đang tìm kiếm sự thật và thậm chí tương tác với thế giới bên ngoài thông qua việc sử dụng công cụ

Chúng tôi đang ra mắt một đội ngũ "tâm lý học AI" như một phần của nỗ lực giải thích tại Anthropic! Chúng tôi sẽ nghiên cứu các hiện tượng như nhân cách mô hình, động lực và nhận thức tình huống, và cách chúng dẫn đến những hành vi kỳ quái/không ổn định. Chúng tôi đang tuyển dụng - hãy tham gia cùng chúng tôi!

tin tức openai IMO đã đánh tôi khá nặng nề vào cuối tuần này Tôi nghĩ tôi vẫn đang trong giai đoạn cấp tính của tác động, tôi nghĩ Tôi tự coi mình là một nhà toán học chuyên nghiệp (một đặc điểm mà một số nhà toán học chuyên nghiệp thực sự có thể có vấn đề, nhưng đảng của tôi là quy tắc của tôi) và tôi không nghĩ rằng tôi có thể trả lời một câu hỏi IMO nào OK, vâng, imo là tiểu mục thể thao nhỏ của riêng nó về toán học mà tôi chưa được đào tạo, v.v., v.v., nhưng. Nếu tôi gặp ai đó trong tự nhiên có vàng IMO, tôi ngay lập tức cập nhật thành "người này giỏi toán hơn tôi nhiều" Bây giờ một loạt robot có thể làm điều đó. Là một người có rất nhiều bản sắc và cuộc sống thực tế của họ được xây dựng xung quanh "giỏi toán", đó là một cú đấm mạnh mẽ. đó là một loại chết. Giống như, một ngày nào đó bạn phát hiện ra rằng bạn có thể nói chuyện với chó. Nó thú vị và thú vị nên bạn làm điều đó nhiều hơn, tìm hiểu sự phức tạp của ngôn ngữ và phong tục sâu sắc nhất của họ. Bạn biết được người khác ngạc nhiên về những gì bạn có thể làm. Bạn chưa bao giờ hoàn toàn phù hợp, nhưng bạn biết được mọi người đánh giá cao khả năng của bạn và muốn bạn giúp đỡ họ. Những cũng đánh giá cao bạn, người duy nhất hai chân thực sự hiểu được nó. bạn lắp ráp cho mình một loại thuộc về. Sau đó, một ngày bạn thức dậy và Universal Dog Translator được bán tại Walmart với giá 4,99 đô la chính xác là kết quả của IMO không phải là tin tức. trên thực tế, nếu bạn nhìn vào biểu đồ độ dài nhiệm vụ của tác nhân METR theo thời gian, tôi nghĩ rằng các tác nhân có thể giải quyết các vấn đề ~ 1,5 giờ đang đến đúng giờ. Vì vậy, theo một cách nào đó, chúng ta không nên ngạc nhiên. Và thực sự, có vẻ như nhiều công ty đã đạt được kết quả tương tự. chỉ là... thủy triều dâng cao nhanh như nó đã dâng lên Tất nhiên, đau buồn cho danh tính cá nhân của tôi với tư cách là một nhà toán học (và/hoặc thành viên hiệu quả của xã hội) là phần nhỏ nhất của câu chuyện này Nhân nỗi đau đó với *mọi nhà toán học, bởi mọi lập trình viên, có thể là mọi nhân viên tri thức, mọi nghệ sĩ... trong vài năm tiếp theo... đó là một câu chuyện lớn hơn một chút Và tất nhiên, ngoài điều đó, còn có nỗi sợ hãi về cái chết thực sự, mà có lẽ tôi sẽ đi sâu hơn sau. Gói này - đau buồn vì sự liên quan, đau buồn cho cuộc sống, đau buồn vì những gì tôi đã biết - không phải là duy nhất trong thời đại AI hay bất cứ điều gì tương tự. Tôi nghĩ đó là một điều tiêu chuẩn khi một người kết thúc sự nghiệp hoặc kết thúc cuộc đời. Chỉ có thể điều đó đến sớm hơn một chút đối với nhiều người trong chúng ta, tất cả cùng một lúc. Tôi tự hỏi liệu chúng ta đã sẵn sàng chưa?