ロボット工学三原則：アシモフの規則、起源、影響

三原則と第零法則

原則の標準的な定式化は、通常、以下の三つから成る。この順序で示されるのが一般的である。

• 第一法則：ロボットは人間に危害を加えてはならない。また、その不作為によって人間が危害を受けるのを見過ごしてはならない。
• 第二法則：ロボットは人間から与えられた命令に服従しなければならない。ただし、その命令が第一法則に反する場合はこの限りでない。
• 第三法則：ロボットは、第一法則または第二法則に反しない限りにおいて、自己の存在を守らなければならない。

アシモフは後年の作品で、より優先度の高い原理として第零法則を加えた。「ロボットは人類に危害を加えてはならない。また、その不作為によって人類が危害を受けるのを見過ごしてはならない」というものである。第零法則が適用される場合、当初の三原則は覆されうる。このことが、後期のロボット作品の多くを動かす倫理的・論理的緊張を生み出した。

起源と発表

三原則はアシモフ初期のロボット物語に初めて登場する。その明示的な初出として一般に挙げられるのは、1942年に執筆された短編「堂々めぐり」（原題「Runaround」）である。第一法則に関係する文言や概念の一部は、それより前の短編にも見られる。オックスフォード英語辞典は、短編「うそつき」（原題「Liar!」）の一節を、roboticsという語の記録上最初の使用例としている。またアシモフ自身は、この語を mechanics や hydraulics のような学問分野名から自然に類推される語だと考えていた。この点は、しばしばこの類推とともに参照される。三原則はアシモフのより広範なロボット作品群に埋め込まれ、長編・短編を通じて構造上の装置として繰り返し用いられた。

フィクションにおける役割と例

物語上の装置として、三原則はパラドックス、道徳的ジレンマ、筋立ての複雑化を生み出す役割を果たす。原則相互の衝突、曖昧な状況、不完全な情報が緊張感を作り出す。たとえば、一見無害に思われる命令が第一法則によって制約された一連の行動を引き起こすことがあり、ロボットが「危害」を予想外の仕方で再解釈する場合もある。アシモフが想像した機械はしばしば「陽電子頭脳」をもつロボットとして描かれる。これは、こうしたプログラムされた規則の基盤となる架空の技術である。

解釈、限界と批判

大衆文化では広く知られているものの、三原則は現実世界のロボット工学や人工知能の実用的な設計図ではない。倫理学者や技術者は、原則の規定が不十分であること、機械が人間の価値観や文脈を完全に理解できることを前提としていること、さらに追加の規則なしには個人の福祉と集団の福祉の対立を扱えないことを指摘してきた。第零法則はこの問題に取り組もうとするものである。作家や論者は三原則をパロディ化し、批判し、翻案してきた。その扱いは、親しみを込めたオマージュから、短い規則の組合せで道徳的複雑さを捉えられるのかを問う懐疑的な分析まで幅広い。

遺産と現代的意義

ロボット工学三原則は、持続的な文化的影響を及ぼしてきた。SF作品全体に、素直な形、転覆的な形、風刺的な形で登場し、自律システムに対する倫理的制約を論じる際にも参照される。人工知能とロボット工学の研究者は、ときに三原則を概念的な参照点として引き合いに出す一方、実務上は、きめ細かな規制、安全工学、複数分野にまたがるガバナンスが必要であることを強調する。アシモフの原作と三原則の展開については、作品集や批評的議論を参照できる。たとえば、アシモフの書誌と研究分析をたどる「堂々めぐり」、OEDの項目、roboticsという語の造語をめぐる議論、その語についてのアシモフ自身の類推による説明、フィクションにおけるパロディ的使用、そしてAIをめぐる現代の技術的考察がある。

ロボット工学三原則は架空のものであるが、機械倫理に関する議論では今なお有用な略記法である。安全性を形式化する難しさ、人間の価値を規則へ翻訳する困難、そして知的な行動を保護すると同時に複雑にもする制約の物語的な力を際立たせている。