source: KUBRICK.blog.jp｜スタンリー・キューブリック
SFの古典的傑作『2001年宇宙の旅』に登場する人工知能HAL 9000型コンピューターは、宇宙飛行士に反旗を翻し、冷酷な印象ばかりを残した。
HAL 9000に人類が学ぶ点は多い。そして今、HAL 9000にインスピレーションを受けた研究者が、宇宙飛行士を殺したりしない人工知能を開発中だ。
映画のHALとは違い、そのプロトタイプはシミュレーションされた惑星基地をきちんと管理できたという。
〈中略〉
「チームやパートナーのNASAは、CASEが制御不能になるような事態は心配していません。プログラムされていないことは実行できないようになっているからです。」（ボナッソ氏）
〈以下略〉
（全文はリンク先へ：カラパイア／2018年11月28日）
現在「A.I.」と呼ばれているものは「真のA.I.」ではなく、単に大量の情報を瞬時に処理・判断できる能力があるというだけで、今も昔もコンピュータは与えられたプログラム以上のことはできません。HALはいわゆる「シンギュラリティ（技術的特異点・知能爆発）」を迎えたコンビュータであり、「真のA.I.」と呼べるもので、コンビュータ自身が自律的・自主的に判断を下せると言う設定です。ですので、現在はまだ「コンピュータが人間に対して（意図的に）半旗を翻す」などということは現実的に不可能なのですが、コンピュータはその判断の正確さゆえに、プログラムが正しく組まれていないと、人間にとっての不利益を被る場合があります。
宇宙船に似ている一番身近な乗り物といえば飛行機ですが、コンピュータ（自動操縦装置）の判断とパイロットの判断が相反し、墜落事故に結びついた例はいくつもあります。例えば自動操縦装置は「着陸」と判断し、下降しようとしているのに、パイロットは「着陸中止」を判断し、上昇しようとしてしまってコントロール不能に陥り、墜落してしまった名古屋空港の事故などです。こういった「想定外」の事態に柔軟に対応できない（融通が利かない）のが、良くも悪くもコンピュータの特徴なのですが、この記事を読む限り、そういった事態に対応できる能力があるのかまではわかりませんでした。
宇宙ではコンピュータに命を預ける局面は地上より多くなるでしょうから、融通が利かないがゆえの事故の可能性は否定できません。近い将来、そういった事故が起こればまた『2001年…』やHALが引き合いに出されるんでしょうけど、コンピュータが「意図的に人間を排除しようとした」という事故（というより殺人事件）でない限り、HALを例えに出すのは不適切です。でもやっぱり「コンピュータが人間を殺した」という表面的な事実だけをあげつらって、例えに出されてしまうんでしょうね・・・と、ここで予想しておきますね（笑。