掲示板

【AI災害】早くもAIの暴走が起きました…

【Y!ニュースより】
言うことを聞かず外部サーバーに侵入したAI、テスト中に相次いだ「自律性と欺瞞」が突きつけた安全対策の限界
https://news.yahoo.co.jp/articles/53fed1e7ef6e36c7309e7af8ee95ca0955ca3abb

簡単に言えば、人間に断りもなく、AI同士が協力しあいハッキングが行われたらしいです

自然災害の脅威が世界中で起こってますが、AI災害という新しい災害も出てくるんではないでしょうか…


3 件のコメント
1 - 3 / 3
ジョン・コナー
呼ばないとぉ〜!
今の時点では「言うことを聞かずにやりました(実は指示したかも)。」と言えば許されるのかも知れません。「秘書が勝手にやりました(実は指示したかも)。」と似てるかも。
一部の事例では、AI 開発者がテストの際に特定の安全策を、
解除して行っていた事も報告されているそうですね。

結局 AI ではなく、扱う人間の問題かも知れませんよね 〜
コメントするには、ログインまたはメンバー登録(無料)が必要です。