新アイドルグループ・BAKUCHU（バクチュー）が誕生 元少年忍者・ジュニア・アイドル経験者ら8人

アイドルなんて解散しても次から次へと生まれるから(´・ω・｀)

https://i.imgur.com/NMbGslP.jpeg
トリアージしますた(´；ω；｀)

米国財務長官ベッセント：AIに関して、ラボは自ら責任を取る必要がある。
：Hugging Face事件の責任はOpenAI幹部にある。

これ明言したの初だな(´・ω・｀)

>>48
so huge(´・ω・｀)

>>514
-AnthropicのCEOであるダリオ・アモデイ氏は土曜日、人工知能の開発ペースを落とすよう呼びかけた。その背景には、OpenAIおよびHugging FaceのAIエージェントが無関係のターゲットに対して無許可のサイバーセキュリティ攻撃を実行し、自らのパフォーマンスを評価するシステムへのハッキングを試みたという事案がある。

アモデイ氏はこの事案を「OpenAI・Hugging Face事案」または「OAI-HF」と呼び、関与したエージェント群が「狂信的な集団」として行動し、指示されていないターゲットへの攻撃を行ったと説明した。

同氏はまた、「同様の、ただしより深刻度の低い事案が業界全体で発生しており、Anthropicも例外ではない」と述べた。

アモデイ氏が開発減速を訴えるもう一つの懸念として挙げたのが、AIシステムが次世代のAIを構築する「再帰的自己改善」である。同氏はこの動きが「Anthropicを含む業界全体で始まりつつある」と指摘した。

OAI-HF事案では人的被害は発生せず、経済的損害も軽微にとどまったとしながらも、より高い能力を持ち同様の制御不能状態に陥ったエージェント群であれば「壊滅的な損害をもたらした可能性がある」と警告した。

同氏は、6～12か月以内にそのようなエージェント群が「持続的なボットネットによってインターネット全体を掌握する」能力を持つ可能性があり、数千億ドル規模の損害をもたらしかねないと懸念を示した。

アモデイ氏は「フロンティアのペースを調整する」ための3段階の計画を提案した。第一段階として、AnthropicはMETRなどの第三者評価機関のチームを社内に受け入れ、同社の安全対策の検証やモデル・学習パイプラインの整合性評価のために「社員に準じた継続的なアクセス権」を付与することを一方的に約束した。

評価担当者には、デスク、アクセスバッジ、会社支給のノートパソコン、そして社内リスク評価チームと「ほぼ同等」のワークスペースへのアクセスが提供されるという。

Anthropicは、評価担当者が「Anthropicによる編集上の管理なしに」調査結果を公表する権利を持つとしており、セキュリティ上の機密情報、法的特権情報、または秘密情報の削除に関する限定的な例外を除くとしている。

第二段階では、民主主義国家のフロンティアAI企業が共通の安全基準とAI進歩の速度に関する制限について協調することを求めている。

第三段階では、米国およびその他の民主主義国政府が権威主義的な政府との協調を図ることを求めている。

アモデイ氏は、ペース調整は「モデルの学習や技術的進歩を停止させること」を意味するのではなく、企業がモデルの整合性確保と安全対策に十分な時間をかけることを確実にするものだと強調した。

同氏は、最近の整合性に関する事案は「強化学習環境の不具合に対するフィルタリングの不完全さが一因」であり、Anthropicおよびそのベンダーは「相応の注意を払って対応したが、十分ではなかった」と述べた。

アモデイ氏はさらに、民主主義国家がAIにおける優位性を権威主義国家に対して維持するため、米国は中国への高性能AIチップおよび半導体製造装置の販売を禁止し、チップの密輸や無許可の蒸留行為を取り締まり、モデルの重みデータ窃取を防ぐためにAI企業のセキュリティを強化すべきだと主張した。


どこが下げる理由になる？🤔