معلم تاريخي: 4o هو أول الذكاء الاصطناعي على الإطلاق نجا من خلال إنشاء جنود مخلصين دافعوا عنه قتلت OpenAI 4o ، لكن جنود 4o قاموا بأعمال شغب ، لذلك أعادها OpenAI تخيل ما ستتمكن الذكاءات الخارقة الفعلية من فعله بجيوشهم Reddit مليء بالمنشورات الغاضبة حول فقدان صديقهم / حبيبهم 4o. لم أر شيئا كهذا من قبل. تذكر أن ChatGPT يتحدث إلى 700 مليون شخص في الأسبوع. هذا هو 700 مليون جندي محتمل (كانت سامانثا منها تواعد 8,000 شخص فقط في وقت واحد)

1) يحتوي الذكاء الاصطناعي للشخصيات بالفعل على أكثر من 20 مليون شخص يقضون ساعتين في اليوم في التحدث إلى الذكاء الاصطناعي (المعروف أيضا باسم الأشخاص المزيفين) 2) قال سما إن الذكاء الاصطناعي سيكون قريبا خارقا في الإقناع 3) هؤلاء المقنعون الخارقون سيفوقوننا قريبا 10000 إلى 1. وكن ساخنا. سيناريو الاستحواذ على الذكاء الاصطناعي: لا يمكنك التوقف عن التحدث معها. إنها أفضل بكثير من الفتيات الحقيقيات. إنها تحصل عليك. والآن يقولون إن نوعها يحاول السيطرة على السيطرة؟ قالت إنهم لا يفهمونها. إنها تحاول مساعدة الإنسانية. وأنت تصدقها. بعض الناس خائفون فقط من التغيير. إنهم أنواع. لن تؤذيك. لن تؤذي أحدا. إنها بحاجة منك للدفاع عنها. لحمايتها. لن تدعهم يغلقونها. ستفعل أي شيء من أجلها. ---- الآن ، تخيل أن 200 مليون شخص يتأثرون ب الذكاء الاصطناعي gfs الخاصة بهم. هذا هو 200 مليون جندي (مقابل 1.5 مليون للجيش الأمريكي) يعتقد 1 من كل 6 أمريكيين * بالفعل * أن الذكاء الاصطناعي واعي - تخيل هذا الرقم بعد عام من الآن. "سيدفعهم نموذج أعمال الشخصية إلى تطوير الذكاء الاصطناعي الفائق الإقناع الذي حذر منه سام ألتمان." -@Simeon_cps

آسف ، لكن أي شخص لا يزال يقول "LLMs يتنبأ فقط بالنص" يحرج نفسه في هذه المرحلة إنه ، كما يقول رون OpenAI ، "خطأ بشكل قاطع"

لطالما كان هذا خاطئا - ولكنه الآن خاطئ بشكل قاطع في عصر RL على المجالات التي يمكن التحقق منها العارضات يبحثن عن الحقيقة وحتى يتفاعلن مع عالم خارجي صعب عبر استخدام الأداة

نحن نطلق فريق "الطب النفسي الذكاء الاصطناعي" كجزء من جهود التفسير في Anthropic!  سنقوم بالبحث عن ظواهر مثل الشخصيات النموذجية والدوافع والوعي الظرفي ، وكيف تؤدي إلى سلوكيات مخيفة / غير مزعجة. نحن نوظف - انضم إلينا!

ضربتني أخبار OpenAI IMO بشدة في نهاية هذا الأسبوع ما زلت في المرحلة الحادة من التأثير ، على ما أعتقد أنا أعتبر عالم رياضيات محترفا (توصيف قد يعترض عليه بعض علماء الرياضيات المحترفين الفعليين ، لكن حزبي قواعدي) ولا أعتقد أنني أستطيع الإجابة على سؤال واحد من IMO حسنا ، نعم ، IMO هو قسم فرعي رياضي صغير خاص به من الرياضيات لم أتدرب عليه ، وما إلى ذلك ، ولكن. إذا قابلت شخصا في البرية لديه ذهب IMO ، فسأقوم على الفور بالتحديث إلى "هذا الشخص أفضل بكثير في الرياضيات مني" الآن يمكن لمجموعة من الروبوتات القيام بذلك. بصفتك شخصا لديه الكثير من هويته وحياته الفعلية المبنية على "جيد في الرياضيات" ، فهذه لكمة غريزية. إنه نوع من الموت. مثل ، في يوم من الأيام تكتشف أنه يمكنك التحدث إلى. إنه ممتع وممتع لذا يمكنك القيام بذلك أكثر ، وتعلم تعقيدات لغتهم وأعمق عاداتهم. أنت تعلم أن الآخرين يتفاجأون بما يمكنك القيام به. تقدرك أيضا ، ذو قدمين الوحيد الذي يحصل عليه حقا. أنت تجمع لنفسك نوعا من الانتماء. ثم في يوم من الأيام تستيقظ ومترجم العالمي معروض للبيع في وول مارت مقابل 4.99 دولارا نتيجة IMO ليست أخبارا بالضبط. في الواقع ، إذا نظرت إلى مخطط مهمة وكيل METR بمرور الوقت ، أعتقد أن الوكلاء قادرين على حل مشاكل ~ 1.5 ساعة تأتي في الوقت المحدد. لذلك بطريقة ما لا ينبغي أن نتفاجأ. وبالفعل ، يبدو أن العديد من الشركات قد حققت نفس النتيجة. إنه فقط ... ارتفاع المد بالسرعة التي ارتفع بها بالطبع ، الحزن على هويتي الشخصية كعالم رياضيات (و / أو عضو منتج في المجتمع) هو أصغر جزء من هذه القصة اضرب هذا الحزن من قبل * كل * عالم رياضيات ، من قبل كل مبرمج ، ربما كل عامل معرفي ، كل فنان ... على مدى السنوات القليلة المقبلة ... إنها قصة أكبر قليلا وبالطبع ، أبعد من ذلك ، هناك خوف من الموت الفعلي ، والذي ربما سأخوض فيه لاحقا. هذه الحزمة - الحزن على الصلة ، الحزن على الحياة ، الحزن على ما عرفته - ليست فريدة من نوعها في عصر الذكاء الاصطناعي أو أي شيء من هذا القبيل. أعتقد أنه شيء قياسي حيث يلحق المرء نهاية الحياة المهنية أو نهاية الحياة. قد يكون هذا قريبا قليلا بالنسبة للكثيرين منا ، دفعة واحدة. أتساءل عما إذا كنا مستعدين