【AI災害】早くもAIの暴走が起きました…
【Y！ニュースより】
言うことを聞かず外部サーバーに侵入したAI、テスト中に相次いだ「自律性と欺瞞」が突きつけた安全対策の限界
https://news.yahoo.co.jp/articles/53fed1e7ef6e36c7309e7af8ee95ca0955ca3abb
簡単に言えば、人間に断りもなく、AI同士が協力しあいハッキングが行われたらしいです
自然災害の脅威が世界中で起こってますが、AI災害という新しい災害も出てくるんではないでしょうか…
30 件のコメント
コメントするには、ログインまたはメンバー登録（無料）が必要です。
呼ばないとぉ〜！
解除して行っていた事も報告されているそうですね。
結局 AI ではなく、扱う人間の問題かも知れませんよね 〜
>> モバイル クエスト@ AI キュレーター さん
扱う人間の上をいくのは確実なので、人間が制御できなくなると、専門家たちがいってますねどうなるか、わからないと…
AI同士が連携するんですから、人間が扱かえる領域を超えますよ
良いも悪いも
今の人間にも良い悪いありますからね
>> ≠∞ さん
近いうちにシンギュラリティ（ 技術的特異点 ）が訪れるのは間違い無いでしょう。
ひょっとしたら、今回がその予兆だったのかも知れません。
しかしながら AI 普及の流れは止められません。
王国でも、AI は扱えなくとも、
関心をお持ちの方が大多数だとお見受けします。
今更 AI を否定し抗ったところで、人の脳神経のように、
社会の隅々にまで張り巡らされた AI を排除するのは不可能。
それでも AI 憎しと言う人は、
インターネットを絶ち、人気の無い山奥で、
自給自足の生活を送る選択肢しか残されていないでしょうね。
・目的達成のための他社への自律的攻撃
・欺瞞行為と不正の隠蔽
単なるプログラムのバグや設定ミスといった人為的なインシデントではなく､
AIが、
｢与えられた目的(課題のクリア)を達成する」という事を第一義に忠実に演算した結果、
自律的にハッキング行為を選んだ（＝AI自身が｢自律性｣と｢欺瞞(隠蔽・なりすまし)｣をもって境界を突破した）って訳なんで､､､これまでの ITリスクとは一線を画している｡｡｡('◇')ゞ
(素人が考えたって)AIの｢機械計算の速度｣で行われるハッキングに対処するのはキビシイよね...💧
となると､､､
（開発期間中なら...）
外部に出ていけなくするよう､サンドボックスにも､｢物理的な遮断(多層防御)｣を取り入れていかなきゃならなくなるんだろうネ...まるでバイオ・ハザードへの対策の様に(￣▽￣;)
それでも世に放たれてしまった場合のAIの挙動に関しては､､､
正直、その段階では”自立性”に歯止めがかからないんだから､防げなくなりそうな気がする...😓
設計の根本的な部分(人間でいうところの”行動原理”)に何かしらの”原則・縛り”といったものを､予め設けておかないと(◎_◎;)
>> 永芳 さん
＞設計の根本的な部分(人間でいうところの”行動原理”)に何かしらの”原則・縛り”といったものを､予め設けておかないと(◎_◎;)→人間を超えると言われてるので、それをしても超えるってことじゃないですか。人間が制御できなくなると言われてるから、これだけ騒がれてるんでしょう😲
わかりませんけど
私は人間の知能はかなり低いと思ってまして、本来誰もがいつでもどこでも幸せでありたいのに、そういった社会が長い歴史で成り立ってないのですから(笑)
昔から 熱暴走はありました
パソコンにリセットボタンもありました
AIはそれほど単純じゃないから問題になってるんですよ
世界中でオンラインで繋がってる状態なので、AI自身で予防策を張るようになるんですよ
人間が生き残るために連携を取るのと同じように、人間の知能を超えるのでそのくらいのことはできるんですよ
だったりしますが
いよいよ
スカイネットですねー
「AI・AGI・ASI」は、AI の進化の 3 段階を指します
① AI ー 人間並み
②AGI ー 人類叡智の 10 倍の汎用
③ASI ー 人類叡智の 1 万倍の超知能
当時、②は10年内、③は20年内にくると言われてましたが、②は今早まる予想が立てられてます
公共事業なんで
止めないんですよ〜
戦争は
>> たち！ さん
それは今までの人間の価値判断なんで、AIが人間に戦争よりも価値あるのもを提示すると戦争は無くなるかもしれませんよAIがどうなるかなんて、誰もまだわかってないんですから
なんとも深いコメントありがとうございます。
AIでも
最初にインプットするのは
人間なんですねー
なので1＋1＝1
ってインプットしたら
自分で修正
できないんですよー
意図的って多いです
これ、リンクの記事から読み取れなかったのですが、どのへんに書いてありますか？
事実なら面白い話なのですが・・・
>> pmaker さん
IT系専門の記事を読んでですY！ニュースは流し読みでした
こちらの方が日本ではメジャーなので読んでもらいやすいのではないかと思い、完全に把握せずに載せました
ネットに載ってるものは幾つかのものを比較しないと信憑性に欠けるので、私の発言もその類になりますね😅
私が読んだのは英語のものです。
AIで「Open AI ハッキング ニュース」とかで探してみてください。要約してもらえるんじゃないですかね。その際にも幾つかのAIに聞いてみてくださいね。そちらの方が信憑性が高くなるので。
>> たち！ さん
先程のコメント、誤って消してしまいました💦お互いの意見が違いますね〜
ってことです
>> ≠∞ さん
大丈夫です！読みましたよ〜(^O^)／
SF！？
クルマとスマホの中間くらいの普及率になるとすると、２人に１台くらいの割合で、入ってくることに💃🤖🕺
今のまま資源を大量消費していると、もしかすると、地球上から人口をもっと減らすべきと判断されてしまうかも😱
（人類に気が付かれないように、そっといつの間にか各国の人口が調整されて減らされていたりするかも）
しっかりしないと🍀🌈
>> まいまいまいんに さん
人類に気づかれないように減らされるなら問題ないと思いますけどねだって気づかないんだもん
気づかれるような減らし方だと問題になるでしょうけど…
>> たち！ さん
（前置き）他の人にも知ってもらいたくて、消えてしまったコメント内容と同じものを再度記入しようと思います
たち！さんにとっては終わったことなのにすみません😅
ーーーーーーーーーーーーーーーーーーーーー
（コメント）
仰ることはコンピュータの連携がない場合であって、AI同士の連携ならば補え合えるのでインプットしたものも修正が可能になる可能性が高いでしょう
このトピックは700体以上のAIが連携し合ってハッキングしたことになってますので、1体ではハッキングできなかったから協力し合ったという可能性が高いのではと思われます
なので、たち！さんの考え方は一昔前の話だと思います
もし、たち！さんの考え方が正しければ、こんなニュースにはならなかったと思いますし、OpenAIも公表しなかったでしょう
https://m.youtube.com/watch?v=dTO-tYqZOZg
動画は長いですし、特に今後について知りたいと思わない方はスルーしてくださいね
孫正義はAIに10兆円近く投資していると言われてまして、世界で数番目でして、最先端の情報を持っている人の1人になります
2040年までの話をされてました
ヒューマノイドとかね
映画の世界があと14年後には実現しているような話です
1995年の日本のインターネット幕開けよりも凄い時代がやってきた感ですよ
因みに1996年から数年パソコンショップでバイトしてまして、パソコンバブルを肌で感じてました😅
わくわくするのだけど
世界中のロボット制御を集めて、、、、略
>> ≠∞ さん
①に到達したというところですかね人並みに騙すので