機械の自我、意識について考えてみる

AIは意識が作り出せるまで本物とは言えない

ってよく聞きます
弱いaiは意識があるとは言えないものばかりな気が、感覚的にあります。
ふと思いついた事があったので戯言をメモしておきます。

そもそも自我・意識ってなんなん?

お前らの自我はいつからあった?(7/30追記)
https://anond.hatelabo.jp/20180719191815

上の記事や、そのはてブコメントをみて「自我は記憶を維持できている」ということを一般的に指し示しているように感じました。
人間にも「意識・自我がない」時期が存在し、その間はきっとのほほんと生きているのです。

虫や動物などもその状態で一生を終える生き物もたくさんいるのではないでしょうか。
犬や猫でも自我がある個体、ない個体が存在するかもしれません。
もしかしたら、人間でもそうなのかもしれない。少なくとも1~2歳の子供はそんな状態なのだから・・・。

だから、1歳から2歳の子供にアンケートとってみて、数年後にそのアンケートとったときの記憶があるかないかを調査し、そのアンケートの差を解析すれば「自我」に関するヒントを得られるかもしれませんね。

ここからは思いつき&仮説です、
質問内容は「今何してるの?」です。
そしてその記憶を維持していられるか、です。

答えられて、その記憶を維持できていればその子は「自我がある」と判定します。

自分には子供がいないので、もしかしたらそんなんだれでも答えられるわ、かもしれません。
あと、IQと自我の芽生える年齢には関係がある気がする。

機械に置き換えてみると

「チューリングテスト」という有名なものがあります。
相手が見えない状態で質問をして、返答から人間か機械か区別がつかず、人間と見分けのつかない回答をするものに評価を与えるという方法です。
これは。機械がなにか意識を持ってる必要はまったくなく優秀な答えをすればオールオッケーということです。

で、上の仮説で行くと「今何してるの」にこたえられて、「あのとき何してたの」にもしっかり答えられれば機械に自我があると仮定します。

そうすると、人間的ではなくと「いまxxの処理中です」という答えを返すことができる機械はある。
もしかしたらそれはすごく原始的な自我かもしれません。
そして、その内容を時間がたっても答えられればもう少しレベルが高いと判定できます。

ちなみにアレクサに「今何してるの?」ときいたら「話を聞きながら勉強中」とのことでした。
あのとき何してたの?にも答えられるようになってほしいと思いました。

そしてまた自分に置き換えて考えてみる

上の内容もきっと自我の一部なんでしょうが、
あとは「命令を与えなくても勝手に思考して実行する」というものです。

動物でも、お腹が空けばご飯を探しに行きますから、もしかしたらこれはあんまり自我とは関係ないかもしれません。
虫とかでもなんか自動的に動いてる感はすごくあります。

でも「自分が考えてる」というのがやっぱりすごく自我の本質な気がするなぁと思うのです。
「我思うゆえに我あり」なのです。

生物では、自分の生命の維持/繁殖という目的がありますからそのために動かされています。
機械にはこれがない。機械にとって神のような存在である我々が目的を与えてあげる必要があります。
目的と動作を与えたら勝手にそれをやり続けてくれるプログラムは非常にその動きっぽいなぁと思います。

その目的のために、プログラムを書き換えたり、与えた目的以外の目的を勝手に見出したり、自分の複製や少し動きの違うプログラムを勝手に生み出してくれるものは自我っぽい物がありそうだなぁと思います。

そんなことを考えている夏

ドラえもんは、のび太くんを更生する目的をもって未来からやってきています。
手段を選ばなければ、もっといろんなやり方があると思うのですが、めちゃくちゃ周り道をしながら、自分も楽しみながら課題に取り組む。そんな感じが日本人のAIのイメージだなぁって思いました。
だれかまじでアンケートとってみませんか?

終わり