こんにちはコウジです。

半年ごとの記事見直しです。
では、ご覧ください。内容を整理し、
主にリンクを見直しました。
現時点での英訳も考えています。
（以下原稿です）

ロボット戦士
【スポンサーリンク】
【1920年1月2日 ~ 1992年4月6日】

【出典：Wikimedia Commons‗アイザック・アシモフ】

アシモフの人物像

今回、少し物理から離れます。アシモフは

「ロボット3原則」で有名なSF作家です。

アシモフが考えた「ルールで縛られたロボット」の問題

アシモフのロボット作品が現在でも興味深いのは、ロボットが単純に
「人間の命令に従う機械」として描かれていないことです。

三原則を与えられたロボットであっても、実際の状況では
「人間に危害を与える」とは何を意味するのか、
「命令」と「人間を守ること」が衝突した場合には
どちらを優先するのか、といった問題が発生します。

アシモフは、こうした矛盾を単純な悪意のあるロボットの話にせず、
ロボットがルールを忠実に守ろうとするからこそ問題が起こるという形で物語にしました。

ここにアシモフのロボットSFの面白さがあります。問題は
「ロボットが悪意を持つかどうか」だけではありません。

人間が与えたルールそのものが曖昧だったり、複数のルールが
衝突したりすれば、善意で動くロボットでも予想外の結果を生み出します。

この考え方は、現在のAI倫理やAIガバナンスを考える際にも
興味深い視点になります。ただし、アシモフが現在のAIや自律型兵器を
具体的に予言したという意味ではありません。

むしろ重要なのは、高度な機械に判断を委ねるとき、人間は
どのような目的と制約を与えるべきなのかという問題を、アシモフが
20世紀半ばのSF作品の中で繰り返し考えたことです。

現在のAIを考える場合にも、「AIに悪意があるか」という問いだけでは
十分ではありません。人間が設定した目的、データ、制約、優先順位が
適切なのか。そして複数の目的が衝突したとき、最終的に誰が判断するのか。

このように考えると、アシモフのロボット三原則は現在のAIを直接説明する
規則ではありません。しかし、
「人間が機械に判断を委ねるとき、どのようなルールが必要なのか」
を考えるための古典的な思考実験として、今でも読む価値があります。

？具体的に3原則とは？

第1条：ロボットは人間に危害を与えてはならない。
また、その危険を看過することによって人間に危害を及ぼしてはならない.

第2条：ロボットは人間に与えられた命令に服従しなければならない。

第3条：ロボットは前掲第1条及び第2条に反する恐れがない限り、
自己を守らなければならない。

となります。

悪い人が善人を攻撃しなさいと命じたらどうなるか？
と考えていくと議論のネタになるのですが、
そうした考察を現代の我々は当然していかなければ
いけない段階に来ています。
鉄腕アトムも色々と悩んでいましたよね。

最近のウクライナ紛争ではドローンが強力な兵器となり、
白兵戦での戦局に影響を与えています。

平和利用として地雷探査ロボが活躍していますが、
殺傷能力を持ったロボットが戦う日も想定できます。
ロボットの動きは正確で素早く、人間よりもはるかに高い機動性を
持っています。そのため、もし殺傷能力を持つロボットが戦場に投入
された場合、その影響は極めて大きいものになる可能性があります。

何故ならロボットに殺されていく貧しい国の人々が
想像出来るからです。今の時代は尚更、
無念な死が現実として迫ってきているのです。

過去に、人類は核兵器を具現化して
暗黒の歴史を作りました。悲劇は繰返しありません。

ロボットのもう一つの懸念は判断です。
今やAIで判断が進み、更に進化していけば
人間が初期設定を誤る時点でロボット群が
人間に不利益を働くかもしれません。
ロボットに悪意が無くとも不利益を働きます。

実際のアシモフの研究分野としては生化学なのですが、
作家としての顔の方が有名ですね。

また調べてみるとアシモフはロシア生まれでした。
リニアモーターカーが走る今日の世界を見せてあげたいと、
個人的には考えてしまいます。また、もはやロボットも日常的ですよね。

そんな未来をアシモフは20世紀の初めにに予見していました。

20世紀の知見で機械化が進む未来を描き、進んだら
どうなるだろうと考えますが、好ましい方向性を指摘して
大衆に問いかける。つまり、科学の夢を投げかけていたのです。

ロボット三原則の拡張

アイザック・アシモフは、後年になってロボット三原則の前に
新しい原則を追加しました。それは次の「第0原則」です。

第0条：ロボットは人類に危害を与えてはならない。
また、その危険を看過することによって人類に危害を及ぼしてはならない。

この原則は、後の作品で登場します。つまり、

人間 individual より人類 humanity を優先する

という思想です。

この考え方は一見合理的に見えますが、重大な問題を含みます。
例えば、一部の人間を犠牲にすれば人類は救われるのか、
AIが人類の利益をどう定義するのか、という問題が生じるからです。

実際、アシモフ自身の小説では、この原則が原因でロボットが
複雑な倫理的ジレンマに陥ります。現在議論されている

AI倫理・AIガバナンス

の問題は、実はすでにアシモフの作品の中で描かれていたとも言えます。

アシモフの事実

① ロボット三原則が初めて登場した作品

1942年の短編：Runaround

この作品で
初めて三原則が明文化されました。

② 「ロボット」という言葉の由来

「ロボット」という言葉は実はアシモフではなく

カレル・チャペックの戯曲R.U.R.（1920年）が起源です。

ただし、ロボット倫理を作ったのはアシモフです。

③ アシモフの最大のシリーズ

アシモフはSF史上最大級のシリーズを書いています。

Foundation series

このシリーズでは

数学で未来社会を予測する「心理歴史学」

という概念が登場します。

これは、ビッグデータ・社会シミュレーションを
先取りしていたとも言われています。

アシモフの作家デビュー

アシモフは1938年に初めてのSF作品を雑誌に持ちかけて認められ、
1939年から作家デビューしています。

才能を認めるアメリカっぽいですね。
この年にコロンビア大学を卒業して大学院に進みます。

所謂、ロボット三原則などを提唱していますが、
時代は第二次大戦に向かう時代で
アシモフは学校を休学したりしています。

科学が知識を集めるスピードの速さにアシモフは驚愕していて、
社会が叡智を集結する事を求めていました。
相変わらず分断している世界をどう見るのでしょうか。

意外な結末

そして、意外な最後なのですが、アシモフは

1992年にHIV感染が元でこの世を去ってます。

心臓バイパス手術の時に使用された
輸血血液が感染源のようです。

本当に色々と経験されてきた人生だったと思います。

Asimov’s portrait

This time, I’m a little away from physics. Asimov is a science fiction writer famous for “Three Laws of Robotics”. Biochemistry is the actual research field of Asimov, but his face as a writer is more famous. When I looked it up, Asimov was born in Russia. He personally wants to show us the world of today’s maglev trains. Also, robots are no longer commonplace. Asimov foresaw such a future in the 20th century. He envisions a future of mechanization with his knowledge of the 20th century, and wonders what will happen if it progresses, but he points out a favorable direction and asks the public. In short, he was throwing a dream of science.

Asimov’s writer debut

Asimov was recognized for his first science fiction work in a magazine in 1938, and has made his debut as a writer since 1939. He’s like America, who recognizes his talent. He graduated from Columbia University this year and went on to graduate school.

He advocates the so-called Three Laws of Robotics, but Asimov is taking a leave of absence from school in the era of World War II. Asimov was amazed at the speed at which science gathered knowledge, and he wanted society to gather wisdom. How does he see the world that is still divided?

Unexpected ending

And, surprisingly, Asimov died in 1992 due to HIV infection. He seems to be infected with the transfused blood used during heart bypass surgery. I think he really had a lot of experience in his life.

タグ: アイザック・アシモフ‐9/30改訂

アイザック・アシモフ
【「ロボット3原則」で有名なSF作家】‐9/30改訂