制御の環の中にいるためには？ 『AIが人間を殺す日』 小林雅一 著
今日の読書日記は『AIが人間を殺す日』から、「制御の環の中にいる」ことについて。
医療の現場に導入されたディープラーニングが、なぜあるいは、どのようにして何らかの診断結果や治療法の提案に至ったのか、その理由を説明できるようになるまでには、まだ相当の歳月がかかると見られる。
なぜなら、そうした説明能力はおそらく「言語能力」に代表される、人間ならではの知的領域と密接に関係しているからだ。
まずは脳科学の分野で、それらのメカニズムを解明するブレークスルーが起きるまで、ディープラーニングのような先端AIといえども医療の説明責任を果たすことは難しいだろう。
仮に近い将来、そうしたAIによるビッグデータ解析の結果、「この患者は八五パーセントの確率で、かくかくしかじかの病気であり、これに対しては九〇パーセントの確率で、これこれこういう薬や治療法が有効です。でも、その理由は分かりません」という結果が提示されたとき、医師や患者はこれにどう対応したらいいのだろうか？
これ以降は私の個人的予想に過ぎないが、恐らく医師や患者はこれを受け入れる方向に進んでいくだろう。なぜなら、これからのAIが「脳科学」という、いまだ謎の多い領域に踏み込んでいくのと軌を一にして、医療もまた未踏の領域に今後、進出していくからだ。
これからの医療は従来の対症療法を脱し、遺伝子(DNA)レベルでの各種病気の原因を解明して、これを根本から治療する方向へと向かっていく公算が高い。
それは恐らく、当初は医師（人間）の理解を超えた医療となり、そこにAIの出番が回ってくるだろう。実際、先端医療の現場で活躍する医師がそれを認めている。東京大学医科学研究所ヒトゲノム解析センターの宮野悟教授によれば、ゲノム情報の解釈は「人知を超えた世界。人工知能の力が必要だ」という（「日経デジタルヘルス」より）。
人知を超えた世界とは、まさに「説明による理解」が不可能な世界である。
それは（少なくとも当初は）単なるパターン認識の域を出ず、論理的な説明が欠如した医療になるかもしれない。しかし、だからと言って手をこまねいて、何もしないでいれば、患者は命を落としてしまう。であるならば、医師は患者のインフォームド・コンセントを経て、そうしたAIによる新しい医療へと向かっていくのではないだろうか。
古来の薬草にしても、何らかの微生物から抽出される他の医薬品にしても、「それが病気に効く」ということは分かっていても、「それがなぜ、病気に効くのか？」という根本的理由は長らく不明だった。
そうした理由、つまり医薬物質がどのような仕組みで人体や最近に作用して効果を発揮しているのか――そのメカニズムが解明されるのは、二〇世紀後半にDNAの構造解析を端緒とする分子生物学が発達してからのことだ。
つまり、それ以前の創薬をはじめとする医療は「理由の解明」はさておき、ある種の経験に基づくパターン認識によって患者を治療してきたわけだ。
ディープラーニングのような先端AIに基づく次世代医療もおそらく、これと同じ道を辿って今後発展していくだろう。前述のゲノム解析に代表されるように、そうした次世代医療はある種のパターン認識に基づく診断や治療法を提示してくれるが、（少なくとも当初は）人間が理解できる合理的な理由は示してくれない。
しかし高い確度でそのパターン認識の妥当性が示された場合、医師も患者も結局はそれを受け入れざるを得ないはずだ。
〈今日のコンテンツ〉
ーーーーーーーーーーーーーーーー
1. 膨大な数のパラメータとブラックボックス
2. 自動化の果てに
3. まとめ
ーーーーーーーーーーーーーーーー
1. 膨大な数のパラメータとブラックボックス
自動運転、医療、軍事の各領域において導入が進むAIの問題点について、私たちに警鐘を鳴らしている本です。今回は医療のパートから取り上げました。
すでによく言われていることではありますが、ディープラーニングでは「原因」と「結果」について考えた時の、「結果」を引き起こした「原因」となる変数（パラメータ）の数が膨大になる、という問題があります。
ちょっと身近な例で考えてみましょう。
「昨晩、オリンピックを見ていて夜更かししてしまった」→「睡眠時間が減少した」
→「朝起きられなかった」→「待ち合わせに遅刻した」
のような出来事があったとします。この場合、「待ち合わせに遅刻した」という「結果」を生み出した「原因」はその前の3つの「変数」で説明することができます。
つまり、何故、待ち合わせに遅刻したのか、と言えば、「夜更かし」と「睡眠不足」と「寝坊」が理由になります。
「結果」を生み出した「変数」の数がこれくらいだったら、誰でも理解できますし、また、説明するのも簡単です。
ところが、ディープラーニングで取り扱う、この「変数」の数は、例えば、二〇一七年にグーグルが機械翻訳用に開発したシステムなどの場合、なんと「八七億個」にもなるそうです。
ここまで極端な数になると、もはや人間には理解することも、説明することも不可能です。（「遅刻」の「原因」を八七億個列挙して、それぞれの原因がどの程度「遅刻」という結果に影響しているのかを説明することは難しい、ということです）
ちなみに、日本の企業でも導入が進んでいるIBMの「ワトソン」という人工知能があります。（IBMは人工知能ではなく、「コグニティブ・コンピューティング」という呼び方をしています）
この「ワトソン」では、「ディープラーニング」ではなく「ルール・ベース（記号処理型）」のAIがベースとなり開発されたものであるため、その思考経路を人間が追跡することができます。
このため、例えば医療の場合では、「なぜ、この病気に対し、ワトソンはこの診断や治療法を提示したのか」という理由が分かる仕様になっているそうです。
一方で、「ディープラーニング」により学習した人工知能の場合、先に述べた通り、ある「結果」を引き起こす「原因」となる「変数」の数が膨大で、内部がブラックボックス化されているため、結果に至るまでの途中の思考経路を後から追うことができません。
従って、AIが導き出した「結論」をどの程度まで信じて良いのか？という「迷い」はこれからAIの精度が上がっても、常に私たちにつきまとうことになります。
そこで言われているのは、AIはあくまで人間を「サポート」するものであり、AIが出してきた意見も踏まえつつ、最終的には「人間が判断する」ということです。
これから取る行動、進む方向を決める「意思決定の手綱」はAIがどれだけ便利なものになったとしても、人間が手離さないようにすることが大切です。
2. 自動化の果てに
このような「意思決定の手綱」や機械の「制御権」を、完全にAIに渡してしまうのではなく、人間が何らかの形で関与する方式のことを
「Human in the Loop (制御の環に人間を入れる)」
と呼ぶそうです。
反対に、意思決定や機械の制御権について、AIに全てお任せする、完全にゆだねてしまう方式のことを
「Human out of the Loop (制御の環から人間が除外される)」
と呼ぶそうです。
後者が示すのは「超自動化」社会であり、人間の代わりに何でもAIやロボットが片付けてくれるような状態です。
そこに私たち人間が介在する余地はありません。
さて、ここからが、今回引用した部分の話になります。
本書の著者の考えでは、ディープラーニングによって進化したAIが示した病気の治療法について、例え、その治療法を選択した理由をAIが説明できなかったとしても、我々はそのAIの意見を「受け入れる」方向に進んでいくだろう、ということです。
その理由として、古来よりの医療の発展の経緯を紐解かれています。
例えば、何かの薬草が見つかったとして、それが、ある特定の病気に対して何故効き目があるのか、という理由は最初は分からなかったはずです。
それでも、実際にはどんどん利用されてその薬草によって病気が治る、という成果が広まっていったのでしょう。（これによりパターンが蓄積されていきました）。
その後、医学の進歩によって、その薬草の中の〇〇という成分が、△△という病原体に作用する、ということが分かってきたのだと思います。
医学がそのように進歩してきたものである以上、今、私たちがAIの判断を理解することができなくても、その判断に基づいて行われた医療によって病気や怪我が治る、というある程度の実績が出ているのであれば、私たちはAIの指示に対して「従いやすくなる」でしょう。
そして、今はブラックボックスに包まれている「AIが何故その判断を下したのか」という理由も、今後の科学技術の発展によって私たちにも理解できる日が来るのかもしれません。
ただ、そんな「AIの思考が理解できる日」が来るまで、私たちが気をつけておかなければならないことがあります。
それは、 本書で示されているような私たちの「命」に係わるようなことにAIが関与する場合には、私たちは「制御の環の中に居続けなければならない」ということです。
AIが人間の代わりにどんなことでも判断して、ロボットに指示を与えてやってくれる。これは確かにラクです。そして人間は空いた時間に、もっと重要なことに取り組むことができると言います。これはその通りでしょう。
今現在でも例えば、部屋に自分で掃除機をかけなくても、お掃除ロボットを動かしておけば、私たちはその間に他のことをすることができますよね。
この程度のことなら良いのですが、ある意思決定が自分を含めて周囲に大きな影響を及ぼす場合、これを「人任せ」にすることができないのと同様、「AI任せ」にすることも
望ましいことではないと思います。
「そんなこと、するわけがない」
と思われるかもしれません。
ですが、今後、日常の「ごく小さな意思決定」からAIに頼ることが今よりも当たり前になっていくとすると、「それよりも少し大きな意思決定」、そして「もっと大きな意思決定」に対してAIが下した判断に従うことにも「抵抗感」が薄れていくことは想像に難くありません。
人間にとって頭を使って考えて、なんらかの意思決定を行う、というのは非常にエネルギーがいるタスクです。脳はラクをするようにできていますから、エネルギーの消費をできるだけ避けようとします。
となると、私たちが自分で考えて行わなければならない意思決定までも、徐々にAIに譲り渡していくのが当たり前になっていくでしょう。
それが何を意味するかというと、要するに私たち人間の「思考停止」です。
それまでは人間が「主」でAIはあくまでも「従」の立場であったのに、意思決定をするAIが「主」となり、人間はその決定に従うだけ、「従」となる逆転現象が起こります。
これが自動化の果てに起こることです。AIが示してくれるのは「100％絶対正しい答え」ではなく「単なる確率」なのですから、当然間違った判断をすることだってあるでしょう。
正しいのが当たり前だと思っていたAIが間違った時に、私たち人間に一体どれだけの被害が起こり得るのか、そのリスクについて考えておく必要があります。
それに加えて、AIが何でも考えてくれる時代に備えて、私たちは例え面倒だろうが、「自分で意識的に意思決定する」ことを習慣づけておくことが、「AIに従う側」に回らないために今からできることだと思います。
3. まとめ
・ある治療法を選んだ理由をAIが説明できなかったとしても、
我々はそのAIの意見を「受け入れる」方向に進んでいく
・これから進む方向を決める「意思決定の手綱」はAIが
どれだけ便利なものになったとしても、人間が手離さない
ようにすることが大切
・例え面倒だろうが、「自分で意識的に意思決定する」ことを
習慣づけておくことが、「AIに従う側」に回らないために
必要
〈今日の読書を行動に変えるための
個人的チャレンジシート〉
ーーーーーーーーーーーーーーーー
1．この本を読んだ目的、ねらい
・現在のAIの実情と問題について学ぶ
2. 読んでよかったこと、感じたこと
・ファットテール問題について学んだ
・「Human out of the Loop」について学んだ
・AIの発展によって人間性を失わないように
気をつけたいと感じた
3. この本を読んで、自分は今から何をするか
・今よりも「意識的な」意思決定の回数を増やしていく
・自分の考えを素早くロジカルにまとめられる訓練を行う
4. 3か月後には何をするか、どうなっていたいか
・AIの「従者」になるのではなく、
AIの「主」であり続けるための方法が複数思いついている
・AIの実力を見極め、それを自分の「サポート役」として
有効に活用できるようになっている
ーーーーーーーーーーーーーーーー
メルマガでも配信中です。
