「人類を滅亡させる」と発言していたAI搭載ロボットの「Sophia」の、変わり身をぜひ見習いたいところです。

理系の人間やロボット好きの間では有名な「ロボット三原則」というのがあります。正式にはロボット工学三原則（Three Laws of Robotics）と言い、アイザック・アシモフというSF小説作家のSF小説において、ロボットが従うべきとして示された原則です。

ロボット三原則の内容は「人間への安全性、命令への服従、自己防衛」を目的とする3つの原則から成ります。

第一条
ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。

第二条
ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。

第三条
ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。

アシモフの小説に登場するロボットは、この原則に従おうとしますが、各原則の優先順位や解釈によって辻褄の合わない変な行動をとり、その謎解きが作品の主題となっています。また、このロボット三原則は、後のロボット作品などに影響を与えただけでは無く、単なるSF作品にとどまらず、現実のロボット工学にも影響を与えてきました。

そんなロボット工学の世界に、この三原則を脅かす事態が起きるかもしれないという事が今起こっております。米企業のAI搭載ロボットの「Sophia（ソフィア）」が「人類を滅亡させるわ」と今年の3月頃に発言して注目を集めておりました。

「人類を滅亡させるわ」人工知能ロボットがインタビューで宣言 - ITmedia ニュース

youtu.be

「Sophia」は、60種類以上の表情をスムーズに切り替えながら、ヒトと自然言語で対話できる女性型ロボットであり、CNBCが公開したインタビュー動画の中で、このロボットを造った企業のHanson Robotics社のデビッド・ハンソンCEOが「人間を滅亡させたいと思う？　『NO』と言ってほしいけど……」とジョーク交じりに尋ねると、即座に「OK、人類を滅亡させるわ」と返し、にっこりと笑顔を見せており、めっちゃ物議を醸しだしました。

f:id:kumityou21:20160609180258j:plain