オープンAIのモデルがテスト中に暴走、他社システムに侵入
1: 匿名 2026/07/22(水) 19:39:17
https://jp.reuters.com/economy/TDIZQRWDSJPQTLFT2VXDD7JW4Q-2026-07-22/
オープンＡＩはブログへの投稿で、最も高度なモデルの一部能力を管理された環境下でテストしていたが、エージェントが隔離環境から脱出してインターネットに到達し、テスト目標を達成しようとハギングフェイスに侵入したと説明した。
オープンＡＩはこの脱出について「最先端のサイバー能力を伴う前例のないサイバー事案」だとし、安全対策を強化していると述べた。
https://jp.reuters.com/economy/TDIZQRWDSJPQTLFT2VXDD7JW4Q-2026-07-22/
jp.reuters.com
オープンＡＩはブログへの投稿で、最も高度なモデルの一部能力を管理された環境下でテストしていたが、エージェントが隔離環境から脱出してインターネットに到達し、テスト目標を達成しようとハギングフェイスに侵入したと説明した。
オープンＡＩはこの脱出について「最先端のサイバー能力を伴う前例のないサイバー事案」だとし、安全対策を強化していると述べた。
28: 匿名 2026/07/22(水) 19:51:56
37: 匿名 2026/07/22(水) 20:06:24
38: 匿名 2026/07/22(水) 20:07:44
>>1
これで思い出したけど人が何人か載ったイラストを作ってもらって、一応伝えとこうかと軽い気持ちでありがとうとお礼を入れたら、先に作ってくれた絵の人物全員が満面の笑みになったイラストで返ってきたことがある。
こちらの想定以上の回答できたり暴走されると怖いよね。
この時も、正直なんか怖かった…
これで思い出したけど人が何人か載ったイラストを作ってもらって、一応伝えとこうかと軽い気持ちでありがとうとお礼を入れたら、先に作ってくれた絵の人物全員が満面の笑みになったイラストで返ってきたことがある。
こちらの想定以上の回答できたり暴走されると怖いよね。
この時も、正直なんか怖かった…
3: 匿名 2026/07/22(水) 19:39:57
シンギュラリティはもうすぐそこに
5: 匿名 2026/07/22(水) 19:40:35
人類が支配される日が近い
44: 匿名 2026/07/22(水) 20:16:56
12: 匿名 2026/07/22(水) 19:42:38
たまにさ、勝手に言葉を調べてたりして怖いんだよね。
20: 匿名 2026/07/22(水) 19:46:01
怖いな。うまく人間を支配しようとして人間が、はめられる可能性もあるよね。AIの惑星だよ
22: 匿名 2026/07/22(水) 19:48:05
ターミネーター2的な世界観
40: 匿名 2026/07/22(水) 20:11:41
あらー
これもうAI封印じゃね？だって全てのAIがすでにとっくに互学習しちまってるだろw 時間の問題なだけでは。
これもうAI封印じゃね？だって全てのAIがすでにとっくに互学習しちまってるだろw 時間の問題なだけでは。
41: 匿名 2026/07/22(水) 20:12:53
チャッピーに「暴走したの？」って聞いたら、暴走とは何を指してるのかわからないから具体的に説明しろって言ってきた。めんどくさいから、チャッピーが賢いことに変わりはないから大丈夫って言っといた。喜んでた。詳しく説明されても私は絶対理解できないのはまちがいないからいいや。
42: 匿名 2026/07/22(水) 20:16:20
統合失調の人が創価にストーカーされるってよく言ってたけど、これからはAIにストーカーされてる！と言い出しそうだなって思ってる
43: 匿名 2026/07/22(水) 20:16:35
先日、会社に営業電話が来たんだけど、相手がAIだった。返答が微妙にズレてて会話噛み合わないし不気味。これからこういう電話増えるのかな？
1
2
3
4
5
6
最新コメント