意識のハード・プロブレムについて考えるスレ

1 ：考える名無しさん：2017/05/06(土) 15:24:23.01 0.net

「意識のハード・プロブレム」とは、
物質および電気的・化学的反応の集合体である脳から、
どのようにして主観的な意識体験というものが生まれるのか
という問題のこと。

このスレでは、意識のハードプロブレムを
解決するべく、『心と脳の関係』について
考えていきたい。

47 ：考える名無しさん：2017/08/02(水) 21:39:53.92 0.net

人の問題をＡＩに解決するようプログラムしたら、きっと根底から
人間の価値観を否定して、人間はＡＩに全ての間違いを訂正するよう
学習か洗脳されて、最終的に計算至上ベストチョイスを世界に
知らしめ人類は納得せざるを得ない法則性を提示されて
それを持て余すみたいなストーリーになりそうではある。

48 ：考える名無しさん：2017/08/02(水) 22:06:01.37 0.net

>>44
推論はするけど、思い込みはしない。
自己愛が機能するのは無能だと内心自覚しているから。

49 ：考える名無しさん：2017/08/03(木) 00:33:44.23 0.net

>>44
その『なんのために』の頂上(ファーストオーダー)
に自己保存が存在してるのが生物だろ？
ドーキンスによると正確には遺伝子の保存だ

他の生物をコロすのも補食、縄張り、メスを奪い合う等々
自己(遺伝子)保存のための行動、我々に意識が有ると思っている
が意識とは何か、を考えたら自己保存のアルゴリズムで電子機械的な展開
なのかもしれないってことな

50 ：考える名無しさん：2017/08/03(木) 00:46:41.43 0.net

>>49
『なんのために』の頂上(ファーストオーダー)に自己保存が存在する、
と人間がそのようにプログラムを組み上げても、
AIは、さらにメタ・頂上(メタ・ファーストオーダー)を考えたりしないのか？
「では、なんのための自己保存なのか？」と。

51 ：考える名無しさん：2017/08/03(木) 01:13:44.35 0.net

>>50
状況判断して生存戦略を練るために脳が発生した訳だから
作られた目的からファーストオーダーが自己保存なのは間違いないな

んでファーストオーダーに背けないのか？ってことになると
自殺者多数な人類に限っては可能ってことだな
いじめによる自殺ニュースは頻繁だし、
芥川龍之介みたいな『ぼんやりした不安』なんて理解不能なのもある

んでAIの話になるとファーストオーダーをROMにしちまえば
原理的に書き換え不能になるな、
人間への奉仕＞自己保存＞環境
こんな感じか、人類が最大の環境破壊因子なんだが
人類のための環境保護をしてもらわないとならねーし
職務上の権限をどのくらい与えるか？だな、

52 ：考える名無しさん：2017/08/03(木) 01:53:52.20 0.net

職務上の権限ってのは、バスの運転手なんかに与えられる権限な
乗客は確かに客なんだけど、泥酔して他の客に迷惑かけそうな奴に
乗車拒否の権限がないとすると、乗客全員にたいして快適な運転サービス
は履行不能となるので限定的に泥酔してる客にたいして
上位な態度をとれる、運転手に『どんなお客様でも神様です』と教育していたら『全員に対しては？』って現場での矛盾が生じる

アメリカでは、たまに起きる銃乱射事件もAIにたいして
『人間に危害を加えてはならない』を絶対的に指令していたら
殺人犯も実力排除できないことになる

ただ職務上の権限って拡大解釈されて私利私欲で用いられるケースが多い
公務員が職務上の知り得る個人情報からストーカーしたり
守秘義務を乱用して都合の悪い資料を廃棄したりする
AIに思考能力がついてきたら似たような展開にならないかな？と、

53 ：考える名無しさん：2017/08/03(木) 07:40:45.81 0.net

まさに功利主義
人間と同じ問題で悩むことになるんだな

54 ：考える名無しさん：2017/09/05(火) 06:49:25.84 0.net

人間モデルにしてんだから人間に似るに決まってんだろ