source: KUBRICK.blog.jp｜スタンリー・キューブリック
人工知能（ＡＩ）が人間を支配する日は来るのか。約半世紀前、スタンリー・キューブリック監督が「２００１年宇宙の旅」で描いたように、コンピューターが人間に反乱する日は近いのか。そんな議論が米国で盛んになっている。
〈以下略〉
（全文はリンク先へ：朝日新聞デジタル／2016年3月29日）
現在の技術レベルではAIは人間が教えた以上のことはできませんので、こういった議論は不毛だと思いますが、将来はわからないですね。自立思考が現実になったら何かしらの法的・倫理的整備、ライン引きは必要になると思います。クローン技術と同じですね。
ところで管理人はキューブリックほど酷くはありませんが、飛行機が苦手です。その割に航空機事故のドキュメンタリーが好きでよく観ているのですが、まさに「機械と人間の意思の齟齬」の問題の最前線がここにあります。その点で一番印象的な事故は1994年に名古屋空港で起こった中華航空140便墜落事故です。これはコンピュータ（自動操縦や自動安全装置）の意思と人間の意思の齟齬が起こした典型的な事例です。
コンピュータは入力された情報を基に、入力されたプログラムの通りに「正しい」操作を自動的に行おうとします。対して人間は、その状況下で五感から得られる情報を基に「正しい」操作を手動で行おうとします。その両者の「正しい」がぶつかり合ってアンコントローラブルに陥り、墜落しました。これはまさしく『2001年…』のHALとボーマンのぶつかり合いそのままです。両者が両者の価値観に基づき「正しい」を選択しようとした結果、最悪の事態を招いたのです。
ただ、航空機のコンピュータとHALの大きな違いは、航空機の搭載コンピュータは人間にプログラムされた以上のことはできません。コンピュータに自我はなく、そこには複雑に組まれたシステムとプログラムがあるだけです。しかしHALには自我があります。自らを「船の最終決断者」と位置づけ、人間を排除してまで木星探査という目的を達成しようとしました。それは全ての人間が死亡または活動能力を停止した場合のみにHALに与えられていた権限ですが、HALは自らの判断によってそれを逸脱したのです。
そういう時代になれば、この記事でいう「一線を越える」時代が到来するでしょう。しかし現在の状況を入ると、それはまだまだ遠い先の未来のようです。