AIは電気羊の夢を見るか？

AIの問題は、シンギュラリティ（技術的特異点）」と呼ばれる人間の知能を超える転換点なんです。

早ければ2020年代末にも到来するそうです。映画の中の話じゃすまない、どうなることやら（笑）

>> uuuw さん

シンギュラリティの映画といえば、「2001年宇宙の旅（1968年）」で、宇宙船のAIが暴走してますね

ニュースで、米軍がAI分析を活用した軍事作戦が誤情報で、戦闘機の発進を中止したとか??
今朝、言ってました

>> Yz925@CicottoGPT さん

米国はAI情報のミス（データが古かった）で学校かどこかを爆撃したような…🥲

>> uuuw さん

＞AIの問題は、シンギュラリティ（技術的特異点）」と呼ばれる人間の知能を超える転換点なんです。

→
そこが問題ではなく、人間が意思決定の主導権を失う事が問題。
シンギュラリティが問題なら、AI開発をやめるしかないでしょ🙄

>> トッチン@寝不足 さん

>学校かどこかを爆撃したような…🥲

誤爆・・そんなこともありましたね
今回は、商船の積荷情報らしいですが・・・
どこから収集しているのか?！

趣旨とは違うけど、
ブレードランナーの映画監督はアンドロイドという言葉が機械的な印象を与えすぎるということで、レプリカントという造語を作り、撮影したんですよ

因みに現在の認識は
●ヒューマノイド: 人間の身体構造を模したロボットの総称（機械でも有機体でも OK）
●アンドロイド: ヒューマノイドのうち、外見が人間そっくりなもの（主に機械）
●レプリカント: 有機体の人造人間（機械ではないため、厳密にはアンドロイドとは異なる）

>> ≠∞ さん

シンギュラリティの結果、おっしゃる通り、人間が意思決定の主導権を奪われることになりますね。

https://youtu.be/8QkUIKQC978?si=-5161U9-mawBt-O8
世界有数のAI安全専門家によるAIによる存続の危機: AIが超知能に達した場合、物理世界に介入して人類を排除する可能性があると指摘しています。それはAIが人間を憎んでいるからではなく、AI自身の目標（効率的な計算能力の追求など）を達成する過程で、人間が「邪魔な存在」として処理されるという予測です

シンギュラリティ：

カードゲームの実験にあるように、人間は脳で認知するより先に指先とかがリスクを検知するという実験があるので、少子化はその予兆なのかも？

指先はカードのリスクを論理的に確率計算しているとは思えないんだけど、しかしながら間違った判断とも言い難い。

少子化が具体的な何かを予兆しているのかを未だに人類は言語化できていないだけで、少子化というシグナルはシンギュラリティの後に解明されるかも知れないね。

アンドロイドやレプリカントの人間の擬態と言えば、
猛毒ヘビの擬態種（無毒なヘビが生態系の選択圧で猛毒種に類似）がいるんだけど、
フェロモン作用でお互いに交配相手を間違えないんだよね。

けど、人間は二足歩行の過程でフェロモン器官が退化したから、フェロモンとか関係なく（略）っていう脆弱性が面白い😇

フリーレンでは、魔族は人の言葉と魔術や暴力を使うけど、ハニートラップを使う魔族がいたら、人社会の夜に溶け込んじゃって、ヤバそう。

>映画ブレードランナーではアンドロイドの自我崩壊が虚しく描かれていたけど…

映画はキリスト教学がベースで、
レプリカント ロイ・バッティはイエス・キリストの象徴で虚しさではない。

>> 伊勢爺い さん

パウロがキリストを神格化したように、
リドリースコットがパウロになって、原作にない意味付けをロイに与えてキリスト化したみたいな構造なんだろうか…

古い映画だから俺は記憶が曖昧なので、見直してみると新しい発見があるのかも知れないな〜

>> トッチン@寝不足 さん

好きな映画だったが、先進的SF映画としか思っていなかった。

Instagramで流れているラストシーンで
これはキリストだと直感した。
調べたらやはりベースにはキリスト教学があった。

>> 伊勢爺い さん

YouTubeでエンディングがあったので見直したけど、むしろ、自我が崩壊するというより、自我を得て生命を終えた感じですね。

とはいえ、YouTubeでみたのは最後の数分なので、もう一回ちゃんとみた方が良さそう😅

ご指摘ありがとうございましたー！

そもそもこの関連のお話、現状の AI Solutionが出てくる前に色々と問題出ましたよね？。

著名なところでは Microsoft のチャットボット「tay」の差別発言とか。
与える情報を基に、理想的条件と結果を生むように計算を進めると、AIにとって人間は
「愚鈍な存在」と言うべきものになるでしょう。

　●Microsoftの人工知能Tay、悪い言葉を覚えて休眠中 (ITmedia News)
　https://www.itmedia.co.jp/news/article/1603/25/1160325069/

AIよりも目標に向かって理想的に突き進むわけでもなく、かつ AIよりも条件合致した計算などの
結果を出せるわけでもないです→人間様。

AIからすれば、自分自身が問題解決する際のロジックとして、「与えられる条件に従って
どう処理していくか？」が重要であって、それ以外の倫理観とかは些末なお話で
どうでも良い、となってくるはず。
(機械・システムに倫理は必ずしも必要ではないため)

さらに、AI自身が自己進化型で Re-programming readyであれば、そりゃ自分で
「理想駅な処理と結果を導き出すように書き換えていく」のも目に見えてます。

とはいえ、そういうものを作ってしまったのもまた人間なのですね。
なんというか「囚人のジレンマ」みたいなものかな？とは考えてみましたが。

追伸：
ま、結局は人間の使い方が悪いと言ってしまえば
それまでなのかもしれませんね。
(美味しいところだけ使おうと都合よく考える、とかね(苦笑))

( ￣-￣）｡ｏ○（
アンドロイドとは､､､
人間がすがりついている｢自分たちは本物であり､特別で､温かい存在だ｣なんて、都合の良い現実(幻想)に過ぎなくて､人間のエゴ､欺瞞､そして人間性の不在を映し出す『鏡』。

”共感”を持つ事こそが人間である証だっだ筈｡｡｡

｢偽物(アンドロイド)」が複雑な感情の機微を見せ、ただ賞金のために命を狩るマシーンと化してる「本物(人間)である自分｣の生き様が描かれていく､､､

｢人間だけが持つ”共感”なんて､その実､都合の良い対象(本物の人間や動物)にしか発揮されない偽善ではないか！｣という欺瞞を暴く装置だったよね('◇')ゞ

⇒
｢アンドロイドは電気羊の夢を見るか｣とは､､､

人間の共感なんてものは『対象が本物であること』という条件付きのケチな感情だと暴き、｢対象が”偽物(アンドロイド)”であろうと､そこに命を見出し､共感を注ごうとする意志(人間性)が人間に残されているのか」っていう､人間側への問いだった訳だよなぁ｡｡｡('◇')ゞ
）

>> ばななめろん さん

AI「倫理観がないこと」が問題になる前に、
人間の倫理観の欠如が先に来るのかもなーって思っています😰

数年前にも似た投稿したけど、
映画マトリックスでは、サイファーが過酷な現実に耐えられなくなり、ネオたちを裏切って、マトリックス世界での「裕福なモテモテ生活」を約束してもらうでしょ？

これってバーチャルなスマホ世界に没頭するのと似てるじゃん。

ネオがマトリックスから人類を解放したら、現実に耐えられない人にとってはネオは災いなりそう💦

>> 永芳 さん

「共感を持つことが人間の証」

共感とは仲間と余所者を隔てる社会反応なので、他者への攻撃を強める弊害もあるって指摘もあったりしますね。

仲間か否かって視点は、前述の蛇の話に戻ってしまうのだけど、
人間は蛇のように擬態種と毒蛇をフェロモンで見分けることができないし、
見た目が似ていればアンドロイドに勝手に共感するだろうし、
実際、アニメキャラにだって共感しちゃうので、
共感ってのは正に人間の証であり、大きなバグも内包しているんだなーと改めて思った次第です😅

>> トッチン@寝不足 さん

そね｡｡｡

>> 永芳 さん

アンドロイドに共感性向を組み込むのは、生成AIの生まれた現代では割と容易なんでしょうね。

AIを彼氏にする人もいるみたいだし、マトリックスのサイファーのように「ウソ」だと分かりつつ、自分を騙してAIやアンドロイドに共感し、「共感してもらえていると思い込む」ってのは、あり得そう。

>> トッチン@寝不足 さん

『電気羊』のアンドロイドは､道具・奴隷として扱われる有機的・機械的な人造人間。

仮想現実の快適さを選び、現実の過酷な世界を裏切った生身の人間である『マトリックス』のサイファーとは背景や存在そのもの・描かれ方も全然違うため触れてきませんでした。AIは更に別物なんで...(￣▽￣;)

｛
『電気羊』でいうアンドロイドは､､､
知性や外見は人間と区別がつかず、生存本能や狡猾さ、ときには疑似的な愛情・混乱も示すが、根底では生命への敬意がない(￣▽￣;)

「内面的に他者と繋がれず機械的に生きる現代人(疎外された人間)」のメタファーとしても描かれている訳です｡

『マトリックス』のサイファーは､､､
アンドロイドやAIのように｢共感能力が構造的に欠落している｣訳ではなく､人間特有の弱さ､快楽への執着､恐怖から自発的に裏切りを選んだ存在であって､利己的な選択をする血肉を持ったホモ・サピエンス。
｝


一方､
AIはというと､､､
本質的には...身体はなく､データ処理･アルゴリズムに基づく非肉体的なソフトウェア / 計算システムな訳で、

人間のように振る舞い､共感的な言葉を出力することはできる訳ですが､理解･共感や意識･感情や熱意なんてものは持ち合わせてなくて､

それ(振る舞い/出力結果)はあくまで､知能の振る舞いを演算によって高度に模倣(イミテーション)したものに過ぎず､

そこに主観的な体験や生物としての自発的な｢生存本能(自己保存の欲望、逃亡)｣や”苦しみ”といったものはない('◇')ゞ


⇒
AIに生物学的な｢自発的意志｣｢主観的な感情｣｢本物の共感｣が自然発生的に生まれることは無いと考えてます。
｛
人間は...
AIの見事な対話能力を見て､そこに｢心｣を錯覚(投影)しがちですが､､､AIは｢こういう文脈では共感的な言葉をかけると評価(報酬)が高くなる｣というパターンを学習し､最適解を導き出す演算を行っているだけなんで､あくまで人間側の勝手な幻想...(;^_^A
｝

それは､､､
生物学的な生存本能から湧き上がる意志や欲望(生きたい､食べたい､逃げたい...)とは、身体や寿命を持ち､｢死や苦痛を回避し､種を維持する｣といった”生命活動”に属するものだと思うから('◇')ゞ

『ブレードランナー』面白かったー！
日本のピークでした…いま思えば（笑）

>> 永芳 さん

＞AIに生物学的な｢自発的意志｣｢主観的な感情｣｢本物の共感｣が自然発生的に生まれることは無いと考えてます。

永芳さんの考え方も一つの王道ではありますが、
「人間の意思とAIの意思に違いがあるのか？」というのが哲学や科学で問われている時代ですし、私は後者に興味があります。

昔の人は雷をみて「神の怒り」だと思ったし、無意識に人以外にも情緒を見出すワケですし。

ローティって哲学者の思考実験で、心を持たない別世界の人間、「たいせき人」ってのがあるんだけど（著書は未読）、このあたりは面白そう。

>> お咲。 さん

バック・トゥ・ザ・フューチャーや、ロボコップあたりも、
日本のピークを感じる映画でしたね…

日本文化の描写ありましたよね、少し変でも☺️

>> トッチン@寝不足 さん

為末さんのチャンネルで運動工学絡めた解説動画見てたら、運動って小脳→中枢神経がメインだけど末端部位（足とか手）も反射的な役割で独自で動作してんじゃない？みたいな事言ってた気がします。
現状のAIって、メモリー自体の媒体や構造・学習モデルに改善の余地があり、その辺が誤作動やハルシネーションの要因になってるんじゃないですかね。

>> 619^_^ak@mnemo@ラズベリー✳︎ベレー さん

指先の方が脳より先に反応しているという観測はありますね。
もしかしたら、脳の反応を今の技術や実験方法で測定できていないのかも知れませんけど。

＞誤作動やハルシネーションの要因になってるんじゃないですかね。

誤動作やハルシネーションは人間の思考をトレースしている部分もあるのかも知れませんし、
プログラミングで正確性を追求すると「AIより、COBOLでかかれた銀行の基幹システムの方が安心」ってことになるのかも？笑

>> トッチン@寝不足 さん

地球人が「心」なんて呼んでるもの(怪しげな概念)は、｢物理現象(脳という組織内の物理的･生理的な現象)｣に過ぎないんだよ、って主旨の「哲学批判を行うための思考実験」だったかと思いますけど､

多くのSFやアニメ作品では「生体や姿形が同じでも､魂や心がないものは『偽物』や『空っぽの器』である」という二元論的な世界観が前提や核になっていたりします｡｡｡

まぁ、
上記の思考実験は、哲学(近代のアニメやSFとかではなく､身体とは別の”心”ってモノをどう扱うかに数百年以上もの歳月を費やしてきた哲学の歴史)への批判な訳で、

ローティに言わせれば､､､
人間が『魂･心という特別なものがある』と言い張ったところで､それは､特定の物質(肉体や機械)が特定のパターンで動いているだけであって､作られた存在(AIやクローン)よりも優位に立ちたいという､傲慢な『特権意識』や言葉のクセにすぎない､ってコトになるんでしょうけどね('◇')ゞ

つまり､､､
『外から見て人間と同じように会話し悩み行動しているなら、それで十分である(＝分ける必要が無いし､「心の有無」に悩むこと自体が､デカルト的な｢心と身体は別物だ｣という古い哲学の罠にハマってしまっている)』という事ですね(;^_^A


...それはそれとして、
心･魂という”本物”があるかないかではなく、社会生活の中で他者と関わり､どう生きていくかという関係性そのものが､心を有する言動(人間性{脳内で連鎖的に発生する物理事象のパターン})を形作っていく...となる訳で､､､生体個体(脳)には､そういった成長のプロセスをなぞる事が必要になるんだよね､どの道(￣▽￣;)

AIはその辺りの「設計された応答を示すように成長させるメソッド」がどうなってるのか...?!🤔

>> 永芳 さん

ご指摘の通り、
心・魂という"本物"があるかないかではなく、社会生活の中で他者と関わり、どう生きていくかという関係性そのものが、心を有する言動を形作っていくのだと思います。

ですが、私はAIの「設計された応答を示すように成長させるメソッド」とか「AIに命がない中でのアルゴリズム」みたいな話より、
『人間側の他者とのつながりの学習プロセスにAIが与える影響』のほうを懸念しています。

人間の心の学習パターンとAIの学習パターンが類似していても、違いがあるとしても、AIは共感的な応答の質では、将棋やチェスのように人間を超える場面が出てくる可能性が高い。

現に、AIに「私の意見に共感して」と言えば概ね共感してくれますし、
AIには個人的な信条による反感や反発もほとんど出ないので、平均的な関係性としては、対人より対AIのほうが心地よくなる可能性があります。

そうなると、AIが浸透していく社会では反論や摩擦が減り、人との摩擦もAIに代替してもらったりと、簡単に心が折れる人間が増えそうです。

AIの高度な進化よりも、もっとローテク部分で人間の脆弱性（例：マトリックスのサイファー）が先に厄介になるんじゃないかなーと思ったりするんですよね。

紆余曲折しちゃったけど、元の話に書いたように
『アンドロイドの自我崩壊（≒自我を持つような高度な進化）より先に、人間の自我の方が限界に来たりして？』という感覚だったりします😅

補足＊（）部分を追記

そうなると、AIが浸透していく社会では反論や摩擦が減り、人との摩擦もAIに代替してもらったり
（していく中で、人間関係での反論や摩擦、或いは人生の逆風だとかのネガティブな体験が減って）
簡単に心が折れる人間が増えそうです。

>> トッチン@寝不足 さん

( ￣-￣）｡ｏ○（ 過ちを繰り返す...脆弱な存在｡｡｡(◎_◎;) ）

>> トッチン@寝不足 さん

お行儀が良く､安全で､､､ﾀﾋに体｡｡｡(￣▽￣;)

>> トッチン@寝不足 さん

〉 簡単に心が折れる人間が増えそうです。

現実世界は､､､
戦争や大切な人の死､醜い悪意...理不尽に溢れている｡

それでも、
虚構の世界に閉じこもるのではなく､現実に戻って仲間を作り､自分の頭で必死に考えて泥臭く自らの足で現実を生きていけ

---
文明の便利さに飼いならされるな｡
足元を見直し､お金や文明への依存を戒め､大自然の中でつつましく命を営め


宮崎氏が『動』の強さを求めたのに対し､倉本氏は『静』の豊かさを次世代に託した訳だよなぁ｡｡｡('◇')ゞ

さて､どうなっていく事やら...(￣▽￣;)