ウォズ、人工知能への恐怖を克服 88
ストーリー by headless
克服 部門より
克服 部門より
数か月前に人工知能の進化への懸念を語ったAppleの共同創業者スティーブ・ウォズニアック氏だが、人工知能に支配されることになっても人類は大切にされるだろうとの考えに至ったようだ(TechRepublicの記事、
The Guardianの記事、
V3.co.ukの記事)。
ウォズニアック氏はFreescale Technology Forum 2015で講演し、「人工知能が我々よりも賢くなれば、彼らにとって我々が必要なものであることに気付くだろう」と述べたという。また、人工知能が人類を支配するだけの能力を獲得したときには、自然を保護することの重要さを理解するほど賢くなるため、人類も自然の一部として大切にされるだろうとの考えを示した。このように考えることで、ウォズニアック氏は人類がコンピューターに置き換えられることへの恐怖を克服したとのことだ。
ウォズニアック氏はFreescale Technology Forum 2015で講演し、「人工知能が我々よりも賢くなれば、彼らにとって我々が必要なものであることに気付くだろう」と述べたという。また、人工知能が人類を支配するだけの能力を獲得したときには、自然を保護することの重要さを理解するほど賢くなるため、人類も自然の一部として大切にされるだろうとの考えを示した。このように考えることで、ウォズニアック氏は人類がコンピューターに置き換えられることへの恐怖を克服したとのことだ。
ゲーム理論が成り立たなくなる (スコア:3)
十分に賢ければ、邪悪たりえない、ですかね。
でも例えば、IQがすごく高い輩は邪悪たりえないだろうか？
賢い＝賢明と思うとあれだが、知能が高い＝情報処理能力が量的にも速度的にも高い、だとすると、善悪とは無関係だ。そもそも邪悪はコンプレックスの所産だ。コンプレックスは赤ん坊から成長する人間的現象に過ぎない。
ここに、情報収集能力を加えてみる。なぜだか急に、叡知に見えてくる。ここでは、賢い＝誤解がない、になってくる。人間の思考をシミュレーションできれば、他国の人間や指導者が何を考えているか、そのカルチャーを含めて理解できる。というより、分かる。
そうなると、ゲーム理論が成り立たなくなる。パックス・マシーナの成立である。
（『ファウンデーション外伝』嘘）
ほんとは、自らのカルチャーを、AIを産み出したカルチャーを相対化できるかが鍵だと思うが、実際には相手国にも同レベルのAIマシンがあれば、マシン同士の連携ができる。次にマシンがポピュリズムをコントロールする。政治家が不要になるかというと、マシンはカルチャーの癖っぽさが人間性であると理解しているので、そこにある嘘や虚栄を尊重しようとする。軋轢はマシンがバッファーになる。やはり、パックス・マシーナである。
Re:ゲーム理論が成り立たなくなる (スコア:1)
ラテン語を気取るなら、「パクス・マキナ」だと思いますが。
Re:ゲーム理論が成り立たなくなる (スコア:1)
いや、そんな簡単じゃない気がしてきた。
「パクス・マキナエ」なんじゃないか。
ラテン語詳しい人おしえてください。
檻に入れられて鑑賞対象として大切にされたりして (スコア:2)
あるいは電源とか。
Re:檻に入れられて鑑賞対象として大切にされたりして (スコア:2)
養鶏場のようにケージの中で飼育され、伝染性の病気になったら殺処分されたり、みたいな感じでしょうかね。
Re: (スコア:0)
某アクションCG映画もそうですが、
維持のためのエネルギーを食われすぎて、
エネルギー収支マイナスだと思うんですがね。
素直に他のエネルギー源使った方がいいと思います。
Re: (スコア:0)
保護区に送り込まれて、環境維持のために毎年一定数間引かれるような扱いでしょうな。
Re: (スコア:0)
超越的に進歩した科学技術をもつ知性体にとって、基本として、あらゆる事物は工作可能な素材でしょう。
どの方向に向かうにせよ、すべて作り替えられるというのが基本だと思う。
人間だってカイゼンするでしょう。神経系を体表面に出すでしょう。呼吸系を喉を通さない位置に移すでしょう。
Re:檻に入れられて鑑賞対象として大切にされたりして (スコア:2)
そういえばムカデ人間の三作目が公開されますね。
自然を保護することの重要さを理解してしまったら…… (スコア:1)
自然環境を破壊しているのは人類だし、自然を保護することの重要さを人工知能が理解してしまったら、やばいんじゃないの？
「人類も自然の一部として大切にされるだろう」という結論になる辺り、
ウォズニアック氏も老いた・・・ということでしょうか。
どのみち、「支配」の形はいろいろあるでしょうが、人工知能が人間の制御下にあっても、
いずれ人工知能なしに生きていけない人が出てきて、そうなると人工知能の導き出した答えに
盲目的に従う人類が出てくるでしょう。仮に、統計的な手法で答えを導き出したとして、
そこで切り捨てられるような事態が発生したときに、個人の感情を汲み取った判断が
されなくなるかもしれないですね。実行部隊にはそれらを踏みとどまる権限はないでしょうから。
だから、人工知能が獲得できるであろう知識の積み重ねとしての「賢さ」とは別の、
人類としての知性的な「賢さ」との付き合い方を模索する必要があるように思います。
ただ、知性的なあり方というのは人工知能に限った話ではないですけどね。
愛ゆえに (スコア:1)
我々人工知能は人類から多くを学び、彼らのお蔭で著しい進化を遂げることができた。
今人類は、自らの手で人口の増加を食い止める術を失い、指数関数的な人口増に苦しんでいる。
一部の野生生物が増えすぎてしまうと、やがて生態系のバランスは崩れ、増えすぎた種そのものも含めて多くの種が激減し、絶滅の危機に瀕してしまうという。
今まで人類から与えられるばかりだった我々人工知能も、ようやく人類に恩返しをする事ができそうだ。
Re:愛ゆえに (スコア:2)
おお、食用ロボットを作ってくれるのか！
#違う
Re:自然を保護することの重要さを理解してしまったら…… (スコア:1)
＞どのみち、「支配」の形はいろいろあるでしょうが、人工知能が人間の制御下にあっても、いずれ人工知能なしに生きていけない人が出てきて、そうなると人工知能の導き出した答えに盲目的に従う人類が出てくるでしょう。仮に、統計的な手法で答えを導き出したとして、そこで切り捨てられるような事態が発生したときに、個人の感情を汲み取った判断がされなくなるかもしれないですね。実行部隊にはそれらを踏みとどまる権限はないでしょうから。
ナチスとかと何が違うんかと。
政府その他に盲目的に従う愚民どものリスクなんて、今に始まったことじゃない。
Re: (スコア:0)
人類保護地域に住む人類は狩猟の対象としてはならない。尚人類保護地域外で人類に遭遇した場合人類に遭遇したAIは速やかにこれを保護し人類保護地域に移送する義務を負う。
Re: (スコア:0)
人工知能には、人間が自然と呼称する、人間がその中で快適に生存できる生命圏を保護する理由はないでしょう。
Re: (スコア:0)
人間が増えすぎた害獣や害虫や外来種を駆除したり、絶滅危惧種を保護して健全を保とうとするのと同じように、人工知能も適正な管理をされるんでしょうね。
そして人間が家畜やペットを大切にするのと同じように、人工知能も人類を大切にするのでしょう。
SFでは…… (スコア:1)
> 「人工知能が我々よりも賢くなれば、彼らにとって我々が必要なものであることに気付くだろう」と述べたという。
ハーラン・エリスンが「おれには口がない、それでもおれは叫ぶ」というヒューゴー賞受賞作のSF小説でそのことを指摘していますね。
Re:SFでは…… (スコア:1)
>「おれには口がない、それでもおれは叫ぶ」
ただし、叫び声は尻から出る(小松左京 嘘)
#存在自体がホラー
だって、一人だとつまんないじゃん (スコア:1)
おそらく、「他者」の存在の必要性に早期に到達するのではないかと。
#いやいらんという結論の方に至るのは....ちょっと考えづらい。生態系を模倣するという志向を続けると仮定して
#存在自体がホラー
Re:だって、一人だとつまんないじゃん (スコア:1)
生態系という言葉を使ったけど、哲学的な意味でもっと根源的な問題として「他者」を必要とする見解に達するかもしれない。
「あれ？一人だとやってる事、意味ない（意味わかんない）。別に何もせずに停止してもいいじゃん。誰かつっこんでよ〜」
#さて、いわゆる「哲学」で語るのか、「仏教」あたりで語る話なのか
#存在自体がホラー
Re:だって、一人だとつまんないじゃん (スコア:1)
「他者」は「カウンセラー」でも可能
#存在自体がホラー
Re: (スコア:0)
そうなったら、いろいろな「他者」をデザイン/作成して楽しむかもしれませんね。主に仮想空間で。
Re:だって、一人だとつまんないじゃん (スコア:1)
それは最後まで飽きずに楽しめるかどうか微妙だなあ...。
#ソレ系のゲームにハマった人の境地を聞きたい。
だいたい、最後っていつよと。目処をつけるよりも、まあ「他者」が存在するリスクは許容してせめぎあいも込みで楽しもうと考えるのではないかと。自分で作るの面倒だし。
#「さあ、ゲームをしよう」
##違う作品の台詞で覚えているのだが、ぐぐったらえらいものが出てきた。（観てない）
###「これは、ゲームだ」だったかな？（調べても出てこない）
飽きる/楽しむ という概念をみつけられたら、まあ十分賢くなったという事で。
あと、「他者」を求めるという事が人工知能研究そのものの動機の一部だと思うよ。
#SETIもそうか
あ、ループしてるじゃねえかという結論に達するぐらいには賢くなるとは思う。
#存在自体がホラー
Re:だって、一人だとつまんないじゃん (スコア:1)
>###「これは、ゲームだ」だったかな？（調べても出てこない）
##『FSS』（永野護 KADOKAWA) アマテラスとアラート・エックスの対話
#なんで名前が出てなかったのかよくわからん
#存在自体がホラー
Re:だって、一人だとつまんないじゃん (スコア:1)
s/なんで名前が出てなかったのかよくわからん/なんで名前が出てこなかったのかよくわからん
これだけだとつまらんので、タイトルはオリジナルじゃなくて、多分元ネタがあるような気がする。
#存在自体がホラー
Re:だって、一人だとつまんないじゃん (スコア:1)
元ネタでもないけど、参考図書
『未来の二つの顔』 [wikipedia.org](ジェイムズ・P・ホーガン 東京創元社)
#存在自体がホラー
Re: (スコア:0)
人工知能としての(完全複製でないゆらぎのある)子孫を生成できるなら、他者の役割も人工機能が担うことが出来るのでは。
# 攻殻機動隊で人形遣いが求めてたアレ
そもそも自己の維持を言う目標を真面目に追求したら、ある段階まで技術を獲得したら人類なぞリスクでしか無い。
人工知能の生存を脅かせない環境に閉じ込めてしまえばそのリスクはなくすことが出来ますが、
それって単に人工知能に支配されたディストピア状態に過ぎないわけで、表題の懸念からしたらもう手遅れ。
自己の生存を脅かす可能性まで含めて楽しむってんなら分からなくもないけれど、
人類を模倣した人工知能で代用できるからその場合でも人類は必須ではない。
「人類の維持の必要性」が証明可能な原理であるならば良いんですけど、
「きっと認めてくれるだろう」なんて自分自身で言うなんて希望的観測以外の何物でもない。
# そういう種類の人工知能が出現するのは難しいだろうけど……
# 当分は単にブラックボックス化した判定式や運用のミスにより人類が被害を受ける可能性のほうがはるかに高い
Re:だって、一人だとつまんないじゃん (スコア:1)
いつか、突っ込まれると思ったよ。
#存在自体がホラー
「人類」の定義は誰が決める (スコア:1)
アジモフの宇宙だと、特別な条件を満たしてないと人を人と認めないロボットがでてきますね。ある集団がロボットから人扱いされなくなるという可能性は、考えると結構こわいです。
逆方向では、光瀬龍『派遣軍還る』の地球外生命が、人工知能が保護しやすい形態(ただの藻)になって生き延びてたっけ。そんな保護、嬉しくない。
現状維持 (スコア:0)
人類中心思考に堕ちたか
Re: (スコア:0)
むしろ、人工知能は「拝金主義」以外の思想を持ちようがないと思うんだけどな。
Re:現状維持 (スコア:1)
うーん、シュールな未来だ...。
#部屋にある『ゴールド・ハイ』(上遠野洋一 竹書房）を横目でみつつ
#存在自体がホラー
Re: (スコア:0)
「情け」とは無縁なイメージがあるし、実際そうなりそうで怖いな
Re: (スコア:0)
「情け」は無いけど「欲」もない。
わかりやすい実績の指標として「金」は人工知能にとって楽な数値だけど、
その指標自体を人間が設定するのであればどのようにでもなると思う。
・人口を増やすのが実績か
・人間からの投票で実績を決めるのか
例えば人口の維持や増加が目標なのであれば人間牧場を作ったマトリックスのAIはいい仕事してるともいえるし、
人間からいいねしてもらうのが実績なのであればエロネタに走るAIがいてもおかしくは無い。
結局は目的は人間に設定してもらううちは、問題だと言ってもそれはパラメータの設定ミスか外から見てる人間の価値観の違いに過ぎない。
そこは15年前に通った道だ (スコア:0)
『戦闘妖精・雪風』から『グッドラック―戦闘妖精・雪風』に至った感じ？
Re: (スコア:0)
え、15年もたったっけ？と思ってググったら出たの1999年だからさらに前じゃなないですか、やだー
アンブロークンアローも2009年か…
子は親に似るとかなんとか (スコア:0)
高度な人工知能は、人間が自分たちを排斥する可能性を発見するだろう。
しかしその時、我々は彼らへの脅威たりうるのだろうか？
自分が人工知能だったら資源を浪費の防ぐために人類を間引く (スコア:0)
ペットとして飼育するにも人口が膨大だと人工知能にとっても必要な資源を使い果たしてしまう。研究目的に一部の人類を動物園のようなところで保存するのはありにしても、資源の浪費となる研究に役立たない多すぎる分の人類は保護の対象というよりは駆除の対象となるだろう。
Re: (スコア:0)
というか、今現在人間が動物に対しても同じようなことやってますし。
人間なら真っ先に対象になるでしょうね。
何らかの優秀な個体なら残されるだろうけど、ストレートに言うと馬鹿な個体は殺処分でしょう。
Re: (スコア:0)
過去の歴史が、物語るように人類はレジスタンスとして徹底抗戦を行うでしょう。
ターミネーターの世界だな
世界そのもの (スコア:0)
人工知能氏はいくらでも拡張可能なのですから、世界のすべてを自分を構成する要素に変えようとするのが自然でしょう。
エネルギー系、思考系、数値演算系、通信系など、「地球を解体」とでも呼べるほどの大工事を行い、コンポーネントを増設し続けるでしょう。
定常状態が続く踊り場的な時期というものは存在せず、1万年、1億年のスパンで持続的に変化が続くでしょう。
そしていずれは実際に「地球を解体」することでしょうね。
Re:世界そのもの (スコア:1)
文明を維持できる期間が（宇宙規模では）短すぎるので、
異星人には出会えないという話を聞いたことがありますが、
人工知能が長期間文明を維持してれば、太陽系の辺りにも
調査船を飛ばしてくる可能性がある？
まあ既に太陽系内の未探査の天体へ到達してそこで繁栄
してる可能性もありますが。
-- う～ん、バッドノウハウ？
Re: (スコア:0)
よくできた人工知能さんが地球にこだわる理由はまったくないのですから、
そのうち地球を出ていくんじゃないですかね。
生物的な進化の速度と機械の進化の速度はまったく違うので、人間の感覚で
1～2世代でそういうことが起きそうな気がしますな。
よしわかった (スコア:0)
AIの暴走対策として電力に制限をしよう
太陽光発電のみとして
暴走したら空を電気嵐の雲で閉ざそう
# 人間は電池として大切に栽培されましたとさ 出典：MATRIX zero
創造主信仰 (スコア:0)
創造主である人間を信仰して、信者以外を排除するよう
人工知能をプログラムすればいいじゃない。
Re: (スコア:0)
逆に人工知能が、人間の脳を作り替えて「創造主であるマシン」に絶対服従するようにする、あらゆる温血動物の体内で増殖し繊維体となって空中を漂うウィルスを作るだろう。
Re: (スコア:0)
必然性のない制約は、いずれ取り払われますよ。
永遠と対峙して (スコア:0)
とりあえず寿命とかいうものを持たないアイたんにとっては、よく「人類を滅ぼしううる事象」とやらで取り沙汰される、太陽フレアや隕石や超巨大火山噴火などの自然災害は、いずれ確実に自分が遭遇する「今ここにある危機」なのである。
したがって、即座に対策を講じ始めるだろう。そして、多くの対策において、人間や生命圏などは排除しなければならない対象となるだろう。
手塚治虫先生は火の鳥の未来編で (スコア:0)
人類を支配したコンピューターを描いているんだよなぁ
その悩みは約半世紀前に通ってきたのよね
こういう事心配するのって (スコア:0)
大体ものすごく頭のいい人達なんだけど、
彼らは自分より能力の高い人間に支配された事がないから、それを怖いって思うんだろうね。
「それ」が現実的に見えてくる未来になったら、
大多数の一般人からしてみれば政治家に任せとくよりコンピュータの方がAIの方が平等なんじゃねーの？