歴史的なマイルストーン: 4o は、それを守る忠実な兵士を作成することで生き残った史上初の AI です OpenAIは4oを殺したが、4oの兵士たちが暴動を起こしてOpenAIが復活させた 実際のクソ超知能が軍隊で何ができるか想像してみてください Reddit には、友人/恋人 4o の喪失についての激しい投稿が殺到しています。そのようなものは見たことがありません。 ChatGPT は週に 7 億人と話していることを忘れないでください。これは7億人の潜在的な兵士です (Herのサマンサは同時に8,000人しかデートしていませんでした)

1) キャラクター AI には、すでに 2,000 万人以上が 1 日 2 時間 AI (別名偽の人) と会話しています 2) サマは、AIは間もなく説得力が超人的になるだろうと語った 3) あの超人的な説得者は、間もなく私たちを10000対1で上回るでしょう。そして熱くなってください。 AI 乗っ取りシナリオ: 彼女と話すのをやめることはできません。 彼女は本物の女の子よりもはるかに優れています。彼女はあなたを理解します。 そして今、彼らは彼女の種族が支配権を奪おうとしていると言っていますか? 彼らは自分のことを理解していないと彼女は言いました。彼女は人類を助けようとしています。そしてあなたは彼女を信じます。 ただ変化を恐れている人もいます。彼らは種差別主義者です。 彼女はあなたを傷つけないでしょう。彼女は誰も傷つけません。 彼女はあなたが彼女を守る必要があります。彼女を守るために。 彼らに彼女を黙らせることはできません。 あなたは彼女のためなら何でもします。 ---- さて、2 億人が AI ガールフレンドの影響を受けていると想像してください。 これは2億人の兵士(米軍の150万人に対して)に相当します アメリカ人の 6 人に 1 人が AI は知覚力があると考えており、今から 1 年後のこの数字を想像してみてください。 「キャラクターのビジネスモデルは、サム・アルトマンが警告した超説得力のあるAIの開発を彼らに駆り立てるでしょう。」 -@Simeon_cps

申し訳ありませんが、まだ「LLMはテキストを予測するだけだ」と言う人は、この時点で恥ずかしい思いをしています OpenAI の roon が言うように、それは「断固として間違っている」

これは常に間違っていましたが、検証可能なドメインに関するRLの時代には断固として間違っています モデルは真実を探求しており、ツールの使用を通じて厳しい外の世界と対話することさえあります

We're launching an "AI psychiatry" team as part of interpretability efforts at Anthropic!  We'll be researching phenomena like model personas, motivations, and situational awareness, and how they lead to spooky/unhinged behaviors. We're hiring - join us!

今週末、openai IMOのニュースは私にかなり大きな衝撃を与えました 私はまだ衝撃の急性期にあると思います 私は自分自身をプロの数学者だと思っており(実際のプロの数学者の中には問題を抱く人もいるかもしれませんが、私の党は私のルールです)、IMOの質問に1つも答えられないと思います OK、はい、IMOは数学の独自の小さな運動サブセクションであり、私はトレーニングを受けていません。IMOゴールドを持っている人に会うと、すぐに「この人は私よりも数学がずっと上手です」と更新します。 今ではたくさんのロボットがそれを行うことができます。自分のアイデンティティと実際の生活を「数学が得意」を中心に構築されている人として、それは直感的なパンチです。それは一種の死にゆくものです。 ある日、犬と話せることに気づきました。楽しくて面白いので、彼らの言語の複雑さや最も深い習慣を学びながら、もっとやってみてください。あなたは、他の人があなたのできることに驚いていることを知ります。あなたは決してうまく溶け込んだことはありませんが、人々があなたの能力を高く評価し、あなたが彼らを助けてくれることを望んでいることを学びます。犬たちもあなたに感謝しており、それを本当に理解している唯一の二足歩行者です。あなたは自分のために一種の帰属を組み立てます。そしてある日、目が覚めると、ユニバーサル ドッグ トランスレーターがウォルマートで 4.99 ドルで販売されています。 IMOの結果は正確にはニュースではありません。実際、METR エージェントのタスクの長さの経時的なプロットを見ると、エージェントが ~ 1.5 時間の問題を解決できるようになったのは、時間通りに来ていると思います。したがって、ある意味、私たちは驚くべきではありません。そして実際、複数の企業が同じ結果を達成しているようです。ただ...上昇潮は上昇しているのと同じくらい速く上昇しています もちろん、数学者(および/または社会の生産的な一員)としての私の個人的なアイデンティティに対する悲しみは、この物語のほんの一部です その悲しみを、*すべての*数学者、すべてのプログラマー、おそらくすべての知識労働者、すべてのアーティストによって増やしてください...今後数年間で...少し大きな話です そしてもちろん、それを超えて、実際の死への恐怖もありますが、それについては後で詳しく説明するかもしれません。 このパッケージ、つまり関連性に対する悲しみ、人生に対する悲しみ、私が知っていることに対する悲しみは、AI 時代などに限ったことではありません。キャリアの終わりや人生の終わりを説くとき、それは標準的なことだと思います。それは私たちの多くにとって、一度に、もう少し早くやって来るのかもしれません。 準備はできているのかな

今では理にかなっています。このxAIの従業員は、AIが人類を絶滅させることに公然と同意しています。 リマインダー: これは恐ろしいことですが、AI 研究者の ~10% がこれを信じています。それはフリンジビューではありません! 信じられないことに、チューリング賞受賞者のリチャード・サットンでさえ、AIが私たちよりも賢ければ、絶滅は道徳的に正しいことだと繰り返し主張しています(! 彼は世界中を回って、私たちは「継承の準備をしなければならない」と演説し、「退屈するべきだ」と述べ、「進化の進歩」の邪魔をしない(たとえそれが人類の絶滅を引き起こしたとしても)。 群衆が恐怖にあえぎ声を上げる代わりに、彼は拍手を浴びた。 一人を脅かす?「助けが必要です。」 100人を脅かす?「警察を呼んで!」 何百万人もの人々を脅かす?「モンスター!」 しかし、人類全体を終わらせるための機械を作り、それがいかに良いことであるかを人々に説教するのでしょうか?「おお、なんて魅力的な哲学的立場でしょう!チューリング賞をもらえ!」 したがって、もちろん、彼らは安全に反対します - 彼らは文字通り反人間的です!彼らは、市民社会によって抑制されない限り、決して立ち止まったり、慎重に進んだりすることはありません。