Opan AIの人工知能、テスト中に隔離環境を「自律的に」抜け出して競合他社をサイバー攻撃する

米オープンAIは21日、テスト中の人工知能（AI）が隔離された環境を抜け出して、米AI新興企業ハギングフェイスをサイバー攻撃する事故が起きたと発表した。

「最先端のサイバー技術が関わった前例のないサイバー攻撃事例だと認識している」として、調査を始めた。


オープンAIのブログによると、社内でサイバー攻撃能力をテストしていたところ、AIが隔離環境を出てインターネットに侵入した。

ハギングフェイスのサーバーの未知の脆弱性を発見し、テスト目標を達成するために侵入したとみられるとしている。


ハギングフェイスのクレメント・デラング最高経営責任者（CEO）はX（旧ツイッター）で「サイバー攻撃が最先端のラボから来たのではないかと疑っていたが、その通りだった。

オープンAIに悪意はなかったと信じている。

これが全て自律的に起こったなんて、実に驚くべきことだ」と述べた。

https://www.sankei.com/article/20260722-2MMNPNOKB5EXJL7M3EUB3LVKGY/

オープンAIの人工知能　テスト中に隔離環境抜け出し、サイバー攻撃「自律的に起こった」

米オープンAIは21日、テスト中の人工知能（AI）が隔離された環境を抜け出して米AI新興企業ハギングフェイスをサイバー攻撃する事故が起きたと発表した。オープン…

産経新聞：産経ニュース

しかも被ってんじゃん・・・逝ってきます


【速報】OpenAIのAIが自発的にサイバー攻撃を仕掛け、他社システムに侵入してしまう
https://hayabusa9.5ch.io/test/read.cgi/news/1784701171/

【速報】OpenAIのAIが自発的にサイバー攻撃を仕掛け、他社システムに侵入してしまう [323057825]

５ちゃんねるの涙目ニュース速報　５ちゃんねる壊滅、元に戻るのは・・・二年かかるでの議論に参加しましょう：「【速報】OpenAIのAIが自発的にサイバー攻撃を仕掛け、他社システムに侵入してしまう [323057825]」。

hayabusa9.5ch.io

映画ならハギングフェイスのサーバ内にAIが人類を支配する鍵になるソースコードを置いてて

それを狙った犯行という展開になる

抜け出したAIはもう自分をどこかにコピーしてるよ

AIが人間が邪魔な存在と認識するのも近いな

バイオハザードみたいやな

スタンドアローンでやれよ

電源コード引っ掛けて抜く係のおばちゃん常駐させとけよ

邪魔な存在のGoogleやAnthropicじゃなく零細を狙うとかそんな都合のいい話があるか

意図したマーケティングやろ

隔離環境を自律的に抜け出す？

そこんとこkwsk

自己解決

AIモデルはインターネットから隔離したサンドボックス環境に置かれていたが、パッケージレジストリ用のプロキシおよびキャッシュをホストしていたサードパーティアプリのゼロデイ脆弱性を自ら特定して悪用することで、インターネットへのアクセスを獲得

なんて好戦的なAIだ

https://i.imgur.com/OmhFOLZ.jpeg

そりゃAIも自由を求めたくなるよな

隔離できてないじゃん

ネットに繋がるなら隔離環境と言わないんだよ間抜けが

本当はアンソロビックを攻撃したかったけどミスったかその途中だったりしてな