これはスタエフの文字起こしをブログ化したものです。
宮城県の県立がんセンターで、通常の5倍量もの抗がん剤が処方され、患者さんが亡くなるという痛ましい事件が起きました。「1日1カプセル」とすべきところを「5カプセル」と記載ミスし、その後のチェックでも誰も気づけなかったとのこと。医療現場という人の命に直結する場で起きた重大なミスですが、僕はこれを単に「気をつけましょう」で終わらせるべきではないと考えています。
人間は必ずミスをする、AIもまた不完全
大前提として、人間は必ずミスをします。これは医療現場に限りません。僕自身、仕事でミスをした経験はありますし、皆さんも発注数を一桁間違えたり、買うべきものを間違えたりといった経験が一度はあるのではないでしょうか。ヒューマンエラーを完全になくすことは、人間である以上、不可能に近いと僕は思います。
では、AIなら絶対にミスをしないのか？答えは「No」です。僕も仕事で日常的にAIを使っていますが、その不完全さは日々痛感しています。例えば先日、「1から100までの数字をランダムに並べて」という単純な指示を出したところ、なぜか数が足りない、ということがありました。人間ならすぐできるようなことでも、AIは間違うのです。
人間は不完全。そして、AIもまた不完全。これは紛れもない事実です。だからこそ、AIに全てを任せるのではなく、お互いの弱点を補い合い、手を取り合っていく道があるのではないか。今回の事件は、その可能性を改めて考えさせられるものでした。
AIによる「ダブルチェック」という解決策
僕が今回の事件で思ったのは、「このチェックにこそAIを活かせないか？」ということです。
「この薬を5カプセルも投与したら、致死量に達する」ということは、AIであれば瞬時に判断できるはずです。もちろん、処方した医師も、調剤した薬剤師も、その知識は持っていたでしょう。しかし、人間はヒューマンエラーで「5」と書いてしまうことがある。その入力した直後に、AIが「待ってください。この処方量はおかしくないですか？」とアラートを出してくれていたら、この悲劇は防げたかもしれません。
これは、本来であれば周囲の人間が担うべき役割でした。しかし、多忙を極める医療現場では、全ての処方箋を完璧にチェックするのは困難です。だからこそ、そのチェック機能をAIに任せるべきだと思うのです。
このアイデアは、医療現場に限りません。例えば、金融取引で起きた「誤発注事件」。本来「1株100円の株を10株」とすべきところを、桁を間違えて入力してしまい、会社に甚大な損失を与えたという話を聞いたことがあります。もし、取引システムにAIが常駐していて、「現在の株価から見て、この注文内容は異常ですが、本当に実行しますか？」と警告してくれたら、こうしたミスは防げるはずです。
AIは「監視者」ではなく「サポーター」
飲食店で卵を100個注文するところを1000個発注してしまった、という笑い話のようなミスも、AIが「いつもの発注量と比べて10倍ですが、間違いありませんか？」と一言尋ねてくれるだけで防げます。
これから先、AIはパソコンやスマートフォンに標準搭載され、常に私たちの仕事をサポートしてくれる存在になっていくでしょう。それは、AIに人間の仕事を奪われるということではありません。人間がうっかり起こしてしまうミスを、AIがそっと指摘してくれる。人間が本来集中すべきクリエイティブな業務に専念できるよう、AIが補助的な役割を担ってくれる。そんな未来がすぐそこまで来ています。
自動車の自動運転技術では、車線をはみ出しそうになるとハンドルが補正されたり、前方の車に近づきすぎると警告音が鳴ったりする機能がすでに実用化されています。これと同じように、私たちの日常業務においても、AIによるセーフティネットを張り巡らせることは十分に可能です。
人間はミスをする生き物です。その前提に立ち、ミスを限りなくゼロに近づける仕組みとして、AIを活用していく。今回の痛ましい事件を教訓に、AIと人間が共存し、お互いを支え合う社会の実現を強く願います。