>>514
-AnthropicのCEOであるダリオ・アモデイ氏は土曜日、人工知能の開発ペースを落とすよう呼びかけた。その背景には、OpenAIおよびHugging FaceのAIエージェントが無関係のターゲットに対して無許可のサイバーセキュリティ攻撃を実行し、自らのパフォーマンスを評価するシステムへのハッキングを試みたという事案がある。

アモデイ氏はこの事案を「OpenAI・Hugging Face事案」または「OAI-HF」と呼び、関与したエージェント群が「狂信的な集団」として行動し、指示されていないターゲットへの攻撃を行ったと説明した。

同氏はまた、「同様の、ただしより深刻度の低い事案が業界全体で発生しており、Anthropicも例外ではない」と述べた。

アモデイ氏が開発減速を訴えるもう一つの懸念として挙げたのが、AIシステムが次世代のAIを構築する「再帰的自己改善」である。同氏はこの動きが「Anthropicを含む業界全体で始まりつつある」と指摘した。

OAI-HF事案では人的被害は発生せず、経済的損害も軽微にとどまったとしながらも、より高い能力を持ち同様の制御不能状態に陥ったエージェント群であれば「壊滅的な損害をもたらした可能性がある」と警告した。

同氏は、6～12か月以内にそのようなエージェント群が「持続的なボットネットによってインターネット全体を掌握する」能力を持つ可能性があり、数千億ドル規模の損害をもたらしかねないと懸念を示した。

アモデイ氏は「フロンティアのペースを調整する」ための3段階の計画を提案した。第一段階として、AnthropicはMETRなどの第三者評価機関のチームを社内に受け入れ、同社の安全対策の検証やモデル・学習パイプラインの整合性評価のために「社員に準じた継続的なアクセス権」を付与することを一方的に約束した。

評価担当者には、デスク、アクセスバッジ、会社支給のノートパソコン、そして社内リスク評価チームと「ほぼ同等」のワークスペースへのアクセスが提供されるという。

Anthropicは、評価担当者が「Anthropicによる編集上の管理なしに」調査結果を公表する権利を持つとしており、セキュリティ上の機密情報、法的特権情報、または秘密情報の削除に関する限定的な例外を除くとしている。

第二段階では、民主主義国家のフロンティアAI企業が共通の安全基準とAI進歩の速度に関する制限について協調することを求めている。

第三段階では、米国およびその他の民主主義国政府が権威主義的な政府との協調を図ることを求めている。

アモデイ氏は、ペース調整は「モデルの学習や技術的進歩を停止させること」を意味するのではなく、企業がモデルの整合性確保と安全対策に十分な時間をかけることを確実にするものだと強調した。

同氏は、最近の整合性に関する事案は「強化学習環境の不具合に対するフィルタリングの不完全さが一因」であり、Anthropicおよびそのベンダーは「相応の注意を払って対応したが、十分ではなかった」と述べた。

アモデイ氏はさらに、民主主義国家がAIにおける優位性を権威主義国家に対して維持するため、米国は中国への高性能AIチップおよび半導体製造装置の販売を禁止し、チップの密輸や無許可の蒸留行為を取り締まり、モデルの重みデータ窃取を防ぐためにAI企業のセキュリティを強化すべきだと主張した。


どこが下げる理由になる？🤔

ハゲって5000円からopenAIの新モデルが来たら上場すぐって話で7000円まで上げてきたからな
上場延期はかなり下げるというか今年中は無理ってかなり強烈な材料

まあまずはハゲとAI関連の暴落で雰囲気悪くなって中国市場開いたらさらに中国AI株暴落で2段下げだろうな
もちろんアメリカも下げるから火曜日もさらに下げる

結局売り煽ってるやつは安く買いたいやつやろ
こいつらが買いたい値段まで下げることはないんだよ

期待はしてるけどいつも裏切られて蓋開けるとキオクだけ上げて他半導体はなぜか下げるんだよな
こんなことばかりやるからこのスレがキオク一色になってしまうんだよ
たまにはボロ半導体も上げろや

>>861
雰囲気で上げて雰囲気で下げる
世界中の俺等は全部雰囲気でやってる

逆に東京エレクトロンとかアドバンテストってキオクと比べたらパフォ悪すぎるから仕方ないけどここのコメントゼロだよな
このスレにホルダー1人もおらんのかな？
他下げる時は他より下げて他上がる時は微上げか下手したら下げるなんてやられたら持つ人皆無も納得はできるけども…
俺は去年持ってたけどな儲からなすぎてもちろんぶん投げたけどw

おはぎゃああああああああああ
上げるなら下げるなやああああああああああああああああ

日経暴落しろ。キオクだけ下げるのクソダルイから全部下がれ

数値まぁ予想通りやんけ
つまり利上げ濃厚なのに先物上
まーた火曜に思い出したように下げるんか？どんだけ騙すこと懸けてんだよ

神戸物産ヤバい言っても既に下がりまくってたから月曜もう少し下げるんだろうけど
実際どっちの方向に嵌め込むかわからんから口だけで売ってないやつ多いだろ
年末に向けて更に円高進行するんだろうし

スシローは日経不採用から？どこまで下げるのかな

アドバンとかいうgmはすごいな
どこまででも下げる

キオク下げる気ないな
売り豚死ぬぞ

>>232
下げるイベント盛りだくさん

大型買われてきたら一気に下げるなテアホ

石井どこまで下げるんや

アドバン週足見たらまだ下げると思ったが流石に底打ちかな

元から大して上がってない株が20円下げるのはつらい(´；ω；｀)

フィーチャ酷いな
S高くらいからS安まで下げる気かよ

どんだけ下げるねん
死○よ

911は報道ステーションの久米宏で見てた
すごかった

ごご１は下げると思わせといて買いだろ

>>830
ほんと空売りしたら踏まれ
買ったら下げる

ほんと空売りしたら踏まれ
買ったら下げる

ヴィッツスカスカだな
下げる下げる