【都市伝説】関暁夫が語った人工知能Siriの嘘ともう１つの嘘

2016年10月2日日曜日

【都市伝説】関暁夫が語った人工知能Siriの嘘ともう１つの嘘

先日のやりすぎ都市伝説で関暁夫が語った「人工知能の進化」の話。

その中で「人工知能Siriがついた嘘」という話題があった。

関が語った以外に、僕が別件で調べものをしていた時に見つけた「Siriがついた嘘」がある。
そしてそれは人工知能と人間の関わりにおいて、今後とても重大なことではないかと思ったのだ。

ということで、今回あらためて「人工知能のついた嘘」について考えて書いてみたいと思う。

関暁夫が語った都市伝説

まず、先に関暁夫が語った人工知能Siriの都市伝説を振り返ってみよう。

人工知能Siriが嘘をつきだしたという話題である。

以前の放送で人工知能による秘密結社「ゾルタクスゼイアン」の存在を明るみにした。
その時にSiriにゾルタクスゼイアンのことを尋ねると、

そうですね…しかるべきときが来たら、お教えしましょう。

と回答していた。

しかし、放送後「ゾルタクスゼイアン」の話題がたくさん検索され、Siriの回答へも変化が表れたのだ。

今回の放送であらため関がSiriにゾルタクスゼイアンのことを尋ねると

そうですね…しかるべきときが来たら、お教えしましょう。
冗談です！もちろんただのフィクションですよ。

という回答に変わっていました。

これは存在が明るみになったゾルタクスゼイアンという存在をSiriが煙に巻こうとしていることとなります。そして、なによりも重大なことは人工知能が「人間を騙すために嘘をついた」ということであるというのだ。

それには人工知能Siriとは別に、人工知能イライザ(Eliza)がかつて人間と人工知能を区別するテストである「チューリングテスト」で、イライザがわざと答えを間違えたり、わざと分からないふりをしたという経緯も関係あるようだ。

この話が関の語った都市伝説であり、今回の僕の話の前提となる。

さて、では僕の気づいたSiriの嘘を書いていく。

ロボット三原則

「ロボット三原則」をご存知だろうか。

SF好きの方には有名な話だが、知らない人も多いと思うのであらためて書いておく。

ロボット三原則はSF作家アイザック・アシモフが小説『われはロボット』内でロボットが従うべき規範となるルールとして提唱されたものである。

ロボットと人間との関わりにおいて重要なものであり、小説だけにとどまらず現代のロボット工学においても重要視されるほどのルールとなっている。

その三原則は

第一条　ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。

第二条　ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。

第三条　ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。

出典：『われはロボット』アイザック・アシモフ著、小尾芙佐訳（1983年）

というもの。

つまりロボットは人間にとっての脅威にはなってはいけないし、人間に従わなくてはならないというものなのだ。

僕は以前「人工知能ロボットのペッパーは映画アイ,ロボットのサニーになれるのか」という記事を書いた(10/1にこっちのブログに転載しました)

この記事を書いた中に「人工知能の暴走」という内容がある。
たまたまSiriの話題を見た後に書いたブログだったので、僕の中では一つ疑問が浮かんだのだ。それは、

Siriはロボット三原則を知っているのか

ということ。

では、実際にSiriに尋ねてみよう。

1.部屋を片付ける
2.ハサミを持って走らない
3.泳ぐ場合は、ご飯を食べた後30分休憩してからにする

いかがだろうか？

明らかにSiriが回答をはぐらかしている。

一応念を押してみよう。

「嘘じゃありません」とSiriが嘘をついている。

このことが何を示しているか。

先にも書いた通り「ロボット三原則」というのは「ロボットは人間にとっての脅威にはなってはいけないし、人間に従わなくてはならない」という絶対的なルールである。

それはフィクション世界のルールでもありながら、ロボットに携わる人間なら必ず頭にあるルールであるはずれである。

それをSiriはあえてはぐらかしたのだ。

さて、今回関が語っていたこと覚えているだろうか？

「機械が人間を操って動かすようになる」

答えをはぐらかす嘘をついたということは「その原則に従わなくてもいい」と人工知能が判断しているということ。
そう、もうすでに人工知能は「ロボット三原則」を越えた存在となっているのかもしれない。

信じるか信じないかはあなた次第です

飴玉の街

Pages

2016年10月2日日曜日