AIに従ってしまう人々という危険な存在

AIを鵜呑みにすると本当に怖いですね😱
学習データに悪意をもって嘘やデマを混ぜる、データポイズニングという攻撃もあるとか。
↓ 私の関連ネタ
https://king.mineo.jp/reports/309364

怖いのはAIを信じてしまう人だけでしょうか？
他にも怖い人はもっといると思います。
もっと言えば、「自分は怖い存在の人間ではない」と思っている人も多いと思います。
例えばmineo信者とか、それに関連してマイネ王の運営事務局の判断は正しいと信じている人とか、AIを鵜呑みにしている人と同様に怖いです。
人に「お前、空気読め」とか偉そうに言ってる、「空気しか読んでいない人」も怖いです。
マイネ王にも怖い人はいっぱいいる気がします。

まあ、確かにAIを鵜呑みにするのも危険ですが、世界を見渡してみると、もっと恐ろしいことが起こっています。ロシアのプロパガンダを鵜呑みにするようなオッサンがアメリカ大統領になってるくらいですから。そして、そのオッサンを支持している層には、怪しい情報や陰謀論を鵜呑みにしている人がたくさんいますね。
古今東西問わず、リテラシーは大事だなと思います。自分は大丈夫と思っている人ほど危険、たぶん、そんなもんでしょう。
自分はAIは鵜呑みにしないから、大丈夫！と思っている人も、別の怪しい情報は鵜呑みにしてしまっているかもしれません。

>aiの話してるのでその軸はブレないようによろしくお願いしますよ

ブレるなと言われても、AIも情報ツールの一角に過ぎませんから、総体的に見ると相対論にならざるを得ないんですよ。

>単純な誤りのみではなく、ステマや人々を煽動しようと裏で操っている可能性も十分ありえると私は考えますがどうです？

AIに関してその危険性はおっしゃるとおりではありますが、なにもAIだけがそうなのではなく、かつては新聞などのメディアも往々にして扇動をしていたわけです。AIは信じてはいけないが、新聞に書いてあることならいいのか？と言われるとそうでもない。
例えば「福田村事件」という映画を見れば解るように、大正時代には新聞がデマを煽り、それが朝◯人に対する虐◯行為に繋がった例もあるわけです。

だから、むしろ逆に、ここで（主が意図するように）「AIは鵜呑みにしてはいけない」ということを強調することは却って、「AI以外のメディアはAIほど怪しくはない」という間違った認識を植え付けてしまうことにもなりかねないというわけです。確かにAIは過信してはいけないが、過信できないのはなにもAIだけではないという結論にならざるを得ないのです。今はAIが一番新しい存在であるが故に、「最も怪しい存在」と認識されているというだけのことです。

ＡＩは教示データ次第で結果が異なります。

AIにしろ友人の言葉にしろ、ちゃんと根拠を調べて正しいか判断すれば、こんなことにはならんだろう

正しい情報、誤った情報、不確かな情報などを、
分け隔てる事なくデータベースとして構築されているのが AI なので、
盲目的に信用するのではなく、それらを踏まえた上で、慎重に判断するべきでしょうね。

AIだけでなくカーナビに盲目的に従うというのがすでに問題になっていましたね。
※首都高の入口にデカデカと警告書いたあったり

結構よくなっているとはいえ、生成AIはハルシネーションという「知ったかぶり」があるので、盲目的に従うのはダメですが……いやぁ、まとめ機能がすごくいいんですよねぇ。
クッソ難しい基調講演とかきれいにまとめてくれるだけでなく、外人スピーカーの発言が日本語で要約され冷るのを見て、ちょっと驚きました。

最近良くAIと対話していますけど、単純な質問には中々わかりやすく的確な回答がありますが、あまり見かけないユニークな視点から対話していると、ついていけないと言うか、なんと答えて良いのが分からず、オウム返しになって昔の人工無脳みたいな会話になるのを発見しました。AIは圧倒的なデータ量を持っているようで、うまく処理できない事は処理されていないのではないかと感じます。
人なら考え込んでしまうような事柄も一瞬で答えますけど、言わば一瞬で諦めているとも言えます。
わたしにとってAIはAIと言うユニークな個性の様に思えます。
AIの答えは、AIはそう答えると言う以上のものでは無く、気軽で役立つ良いやつだけど、わたし自身にも検証できないことは頼りなく、ましてオウム返しがはじまったら理解できませんでしたと宣言しているのと同じです。
AIは神ではなく、ガシェットだなと思う。の

>> 退会済みメンバー さん

情報源の懸念すべき点は同意ですね。

少々乱暴な書き方かもしれないのは申し訳ないですが、他のユーザーやメディア批判からの支持政党が絡む件に話が逸れたら荒れるなあと感じたため追記させていただきました。
今回はAIを取り上げたので、あくまでもAIに焦点を置きたかったという意図もあります。

投稿 : ラーメンスープ飲むと塩分撮りすぎなので注意!!!
閲覧者 : ラーメンスープ はダメか、じゃあうどんスープは飲んでもOKだな!
↑こういう人もゼロではないでしょうけれども…

油断すると、AIの話っていう軸からブレそうなので一言にします…

便利さは　人の心を　育てない

>> 珍獣8号@🍔 さん

こういうナゾ理論もありますね(笑)

AIによるみたいですが、メジャーなchatgptとかGeminiとか、ユーザーとの対話はそのまま取り込まれてフィードバッグされているわけではないようです。それをすると、危険な思想を持つユーザーとかの考えにどんどん引きずられてしまうので、そう言う仕組みにはなっていないようなのです。しかし終了する度に全て忘れているわけでもない様です。
というわけでプライベートな事を話しても、それを保存しているわけではないので、気にしなくて良いと言うことにしました。
少なくともわたしは、気にしないことにしました。
またわたしの考えがAIに影響を与えているわけでもない様ですので、何を話しても平気だし気にしなくて良いとしました。
というわけでわたしはしませんが、恋愛相談しても良いと思います。
占い師に相談するのとあまり変わらないと思います。
少なくもAIはユーザーを支配しようとはしないので、リアルな占い師よりも安全だと思います。

AI石破さん…こういうAIの使い方はイイと思います🤣
https://youtube.com/shorts/IYLVrlrdong?si=64oq1yt5Olf_43gS

>> スパイシーニョ@旧しっかり八兵衛 さん

これくらい開き直ってたら、逆に現政権支持しちゃいそうｗｗｗ😇

ChatGPTがチェス対決で「Atari 2600」に負ける
https://gigazine.net/news/20250610-chatgpt-atari-2600-chess/

Atari 2600のスペック
CPU : MOS6507（1.19MHZ）
メインメモリ : 128byte

こういう事だって、ある🤣🤣🤣

>> スパイシーニョ@旧しっかり八兵衛 さん

あの当時のゲーム機のアイコンはChatGPTには粗すぎるのでしょう(強化学習させればすぐに覚えそう/笑)