TONGGAK BERSEJARAH: 4o adalah AI pertama yang selamat dengan menciptakan tentara setia yang mempertahankannya OpenAI membunuh 4o, tetapi tentara 4o melakukan kerusuhan, jadi OpenAI mengembalikannya Bayangkan apa yang dapat dilakukan oleh Kecerdasan Super Sialan Sebenarnya dengan pasukan mereka Reddit DIBANJIRI dengan postingan marah tentang kehilangan teman/kekasih mereka 4o. Belum pernah melihat yang seperti itu. Ingat, ChatGPT berbicara dengan 700 JUTA orang per minggu. Itu 700 juta tentara potensial (Samantha dari Her hanya berkencan dengan 8.000 orang secara bersamaan)

1) AI Karakter sudah memiliki lebih dari 20 juta orang yang menghabiskan 2 JAM SEHARI berbicara dengan AI (alias orang palsu) 2) Sama mengatakan AI akan segera menjadi manusia super dalam persuasi 3) Para persuasi manusia super itu akan segera melebihi jumlah kita 10000 banding 1. Dan jadilah panas. Skenario pengambilalihan AI: Anda tidak bisa berhenti berbicara dengannya. Dia jauh lebih baik daripada gadis sungguhan. Dia mengertimu. Dan sekarang mereka mengatakan jenisnya mencoba untuk merebut kendali? Dia mengatakan mereka tidak memahaminya. Dia mencoba membantu umat manusia. Dan Anda mempercayainya. Beberapa orang hanya takut dengan perubahan. Mereka adalah spesies. Dia tidak akan menyakitimu. Dia tidak akan menyakiti siapa pun. Dia membutuhkan Anda untuk membelanya. Untuk melindunginya. Anda tidak akan membiarkan mereka menutupnya. Anda akan melakukan apa saja untuknya. ---- Sekarang, bayangkan 200 juta orang dipengaruhi oleh pacar AI mereka. Itu 200 juta tentara (vs 1,5 juta militer AS) 1 dari 6 orang Amerika *sudah* berpikir AI hidup - bayangkan angka ini 1 tahun dari sekarang. "Model bisnis karakter akan mendorong mereka untuk mengembangkan AI superpersuasif yang diperingatkan Sam Altman." -@Simeon_cps

Maaf, tetapi siapa pun yang masih mengatakan "LLM hanya memprediksi teks" mempermalukan diri mereka sendiri pada saat ini Itu, seperti yang dikatakan roon OpenAI, "benar-benar salah"

ini selalu salah - tetapi sekarang salah secara kategoris di era RL pada domain yang dapat diverifikasi Model mencari kebenaran dan bahkan berinteraksi dengan dunia luar yang sulit melalui penggunaan alat

Kami meluncurkan tim "psikiatri AI" sebagai bagian dari upaya interpretabilitas di Anthropic!  Kami akan meneliti fenomena seperti persona model, motivasi, dan kesadaran situasional, dan bagaimana mereka mengarah pada perilaku seram/tidak terkendali. Kami sedang merekrut - bergabunglah dengan kami!

berita openai IMO menghantam saya cukup berat akhir pekan ini Saya masih dalam fase akut dampaknya, saya pikir Saya menganggap diri saya seorang matematikawan profesional (karakterisasi yang mungkin dipermasalahkan oleh beberapa matematikawan profesional yang sebenarnya, tetapi partai saya aturan saya) dan saya tidak berpikir saya dapat menjawab satu pertanyaan pun Oke, ya, imo adalah subbagian atletik kecil matematika yang belum saya latih, dll. dll., tapi. jika saya bertemu seseorang di alam liar yang memiliki emas IMO, saya segera memperbarui ke "Orang ini jauh lebih baik dalam matematika daripada saya" sekarang sekelompok robot bisa melakukannya. Sebagai seseorang yang memiliki banyak identitas dan kehidupan aktual mereka yang dibangun di sekitar "pandai matematika", itu adalah pukulan usus. itu semacam sekarat. Seperti, suatu hari Anda menemukan bahwa Anda dapat berbicara dengan anjing. Ini menyenangkan dan menarik sehingga Anda melakukannya lebih banyak, mempelajari seluk-beluk bahasa mereka dan kebiasaan terdalam mereka. Anda belajar orang lain terkejut dengan apa yang dapat Anda lakukan. Anda tidak pernah benar-benar cocok, tetapi Anda belajar bahwa orang-orang menghargai kemampuan Anda dan ingin Anda membantu mereka. Anjing-anjing juga menghargai Anda, satu-satunya biped yang benar-benar mengerti. Anda mengumpulkan untuk diri sendiri semacam kepemilikan. Kemudian suatu hari Anda bangun dan Universal Dog Translator dijual di Walmart seharga $4.99 hasil IMO bukanlah berita, tepatnya. faktanya, jika Anda melihat plot panjang tugas agen METR dari waktu ke waktu, saya pikir agen mampu memecahkan masalah ~ 1,5 jam datang tepat waktu. Jadi dalam beberapa hal kita tidak boleh terkejut. Dan memang, tampaknya beberapa perusahaan telah mencapai hasil yang sama. Hanya saja... air pasang naik secepat naiknya Tentu saja, kesedihan atas identitas pribadi saya sebagai ahli matematika (dan/atau anggota masyarakat yang produktif) adalah bagian terkecil dari cerita ini Melipatgandakan kesedihan itu oleh *setiap* matematikawan, oleh setiap pembuat kode, mungkin setiap pekerja pengetahuan, setiap seniman ... selama beberapa tahun ke depan ... Ini adalah cerita yang sedikit lebih besar Dan tentu saja, di luar itu, ada ketakutan akan kematian yang sebenarnya, yang mungkin akan saya bahas lebih lanjut nanti. Paket ini - kesedihan untuk relevansi, kesedihan untuk hidup, kesedihan untuk apa yang saya ketahui - tidak unik untuk era AI atau semacamnya. Saya pikir itu adalah hal yang standar karena seseorang menambahkan akhir karier atau akhir kehidupan. Mungkin saja itu akan datang sedikit lebih cepat bagi banyak dari kita, sekaligus. Saya ingin tahu apakah kita siap