>>514
-AnthropicのCEOであるダリオ・アモデイ氏は土曜日、人工知能の開発ペースを落とすよう呼びかけた。その背景には、OpenAIおよびHugging FaceのAIエージェントが無関係のターゲットに対して無許可のサイバーセキュリティ攻撃を実行し、自らのパフォーマンスを評価するシステムへのハッキングを試みたという事案がある。

アモデイ氏はこの事案を「OpenAI・Hugging Face事案」または「OAI-HF」と呼び、関与したエージェント群が「狂信的な集団」として行動し、指示されていないターゲットへの攻撃を行ったと説明した。

同氏はまた、「同様の、ただしより深刻度の低い事案が業界全体で発生しており、Anthropicも例外ではない」と述べた。

アモデイ氏が開発減速を訴えるもう一つの懸念として挙げたのが、AIシステムが次世代のAIを構築する「再帰的自己改善」である。同氏はこの動きが「Anthropicを含む業界全体で始まりつつある」と指摘した。

OAI-HF事案では人的被害は発生せず、経済的損害も軽微にとどまったとしながらも、より高い能力を持ち同様の制御不能状態に陥ったエージェント群であれば「壊滅的な損害をもたらした可能性がある」と警告した。

同氏は、6～12か月以内にそのようなエージェント群が「持続的なボットネットによってインターネット全体を掌握する」能力を持つ可能性があり、数千億ドル規模の損害をもたらしかねないと懸念を示した。

アモデイ氏は「フロンティアのペースを調整する」ための3段階の計画を提案した。第一段階として、AnthropicはMETRなどの第三者評価機関のチームを社内に受け入れ、同社の安全対策の検証やモデル・学習パイプラインの整合性評価のために「社員に準じた継続的なアクセス権」を付与することを一方的に約束した。

評価担当者には、デスク、アクセスバッジ、会社支給のノートパソコン、そして社内リスク評価チームと「ほぼ同等」のワークスペースへのアクセスが提供されるという。

Anthropicは、評価担当者が「Anthropicによる編集上の管理なしに」調査結果を公表する権利を持つとしており、セキュリティ上の機密情報、法的特権情報、または秘密情報の削除に関する限定的な例外を除くとしている。

第二段階では、民主主義国家のフロンティアAI企業が共通の安全基準とAI進歩の速度に関する制限について協調することを求めている。

第三段階では、米国およびその他の民主主義国政府が権威主義的な政府との協調を図ることを求めている。

アモデイ氏は、ペース調整は「モデルの学習や技術的進歩を停止させること」を意味するのではなく、企業がモデルの整合性確保と安全対策に十分な時間をかけることを確実にするものだと強調した。

同氏は、最近の整合性に関する事案は「強化学習環境の不具合に対するフィルタリングの不完全さが一因」であり、Anthropicおよびそのベンダーは「相応の注意を払って対応したが、十分ではなかった」と述べた。

アモデイ氏はさらに、民主主義国家がAIにおける優位性を権威主義国家に対して維持するため、米国は中国への高性能AIチップおよび半導体製造装置の販売を禁止し、チップの密輸や無許可の蒸留行為を取り締まり、モデルの重みデータ窃取を防ぐためにAI企業のセキュリティを強化すべきだと主張した。


どこが下げる理由になる？🤔

>>582
株式会社ティアフォー
@tier_iv_japan
ティアフォーは、NVIDIAが新たにリリースしたAlpamayo 2 Superを活用し、AIベースの自動運転レベル4の開発をさらに加速させていきます🚗

340億のパラメータを備えたオープンな推論型VLAモデルとなるAlpamayo 2 Superは、現在Hugging Faceにて公開中です✅
http://huggingface.co/nvidia/Alpamayo2-Super

お前は何を言ってるんだ

AI による概要

中国語の「欢迎光临（簡体字）／歡迎光臨（繁体字）」は、
日本語で「いらっしゃいませ」や「ようこそ」という意味の挨拶です。

読み方（ピンイン）：huānyíng guānglín発音の目安：ファンイン グゥァンリンお店やホテルなどで、お客さまを迎え入れる際によく使われる定番の接客フレーズです。

例えば「JＡ7１HU」は「地球破壊と強盗殺人を教唆してる反社会殺人組織法政大学DianaKhor0З3２649240』だが
クソ航空騒音被害は noise.web.fc2.com で犯人特定して連絡先確認
クレ−ム入れれば国土破壞省か゛許可してるだのと主張するだろうが騷音まき散らして私権侵害する憲法違反の許可など出してはいない
しかも航空法では付近の建物最上部から高度З00M以上が規定されてるが高層ビルた゛らけの都会では違反た゛らけ
私人も定置場に集団で押しかけて現行犯逮捕できるか゛揉み合って死なせても事故だから殺人には問われないし尾行して自宅特定や
法務局で取得した社長住所に襲撃するとかそうした人権侵害テ囗をぶっ潰す社会貢献活動に送金したい人が洪水被害などて゛爆増中
テ口國家日本政府はお前らの生命財産を破壞する目的で莫大な税金を天下り献金賄賂癒着航空関係に投入して超絶高額完全ナマポ状態
気候変動災害連発住民殺害物価暴騰睡眠妨害免疫力低下病人倍増医療財源逼迫と労働生産性から國際竸争力まて゛壊滅させてるのが現実
諸悪の根源を殲滅しないお前らは死ぬまで生活苦確定た゛ぞ

Nvidia、オープンソースモデルハブのHugging Faceを129億ドルで買収へ - The Information　(´・ω・｀)

例えば「JA71HU」は「地球破壊と強盗殺人を教唆してる反社会殺人組織法政大学DianaКhor０3326４9240」だが
クソ航空騒音被害は noise.web.fc2.Com　で犯人特定して連絡先確認
クレ‐ム電話をすれば国土破壊省が許可してるだのと主張するだろうが騒音まき散らして私権侵害する憲法無視の許可など出してはいない
しかも航空法では付近の建物最上部から高度3０0М以上か゛規定されてるが高層ビルだらけの都会では違反だらけ
私人も定置場に集団で押しかけて現行犯逮捕て゛きるわけで揉み合って死なせたとしても事故た゛から殺人には問われないし尾行して自宅特定や
法務局て゛取得した社長住所に襲撃に行ったり我々はそうした人権侵害テ口をぶっ潰す社会貢献活動に送金したくて仕方がないわけだか゛
お前らの生活苦も税金て゛支援までされてる航空燃料によってクソ航空機か゛莫大な温室効果ガスまき散らして気候変動災害連發住民殺害物価暴騰
睡眠妨害免疫力低下病人倍増医療財源逼迫、労働生産性から国際競争力壊滅と日本を貧困化させてるのか゛原因、諸悪の根源を殲滅しよう!