自動化、自動運転に向けたAI導入の現状と課題（前編） [製造業におけるAI導入最新事情]

株式会社コーピー創業者兼CEO　山元浩平氏

～製造業の様々な課題を解決するAI～

自動車のインテリジェント化が進む中、自動車メーカーのみならず、グローバルIT企業や大学発ベンチャーなど、様々な企業が参入し、完全自動運転車の開発に取り組んでいます。自動運転を構成する技術要素の中でも、特にAI（人工知能）を使った画像認識システムは、安全性を左右する重要技術として注目を集めています。

ところが製造業全体を俯瞰した場合、自動化のカギとなるAIの導入は進んでいるものの、解決すべき課題もあるようです。

今回は、前後編の構成で、自動車やヘルスケア業界を中心に、AIを活用した顧客の課題解決に取り組む株式会社コーピーの創業者兼CEOである山元浩平氏に、製造業や自動運転に関連した最新のAI技術を中心にお話を伺いました。（執筆：後藤銀河、写真・画像提供：株式会社コーピー）

＜プロフィール＞
山元浩平氏
東京大学大学院情報理工学系研究科博士課程中退。東大、Yahoo!Japan研究所、フランス国立情報学自動制御研究所Inriaなどで機械学習に関する研究を行い，東大やInriaの同僚と共に2017年3月、株式会社コーピーを創業。

関連する研究分野は、ディープラーニング、マルチメディア（画像／言語）、Web（推薦システム／オンライン広告／UIUX最適化）など。これまでに推薦システムの最高峰国際会議RecSysのワークショップや、Webの最高峰国際会議WWWなどで研究発表を行ってきた。またYahoo!Japan研究所では、ディープラーニングを用いたオンライン広告のクリック率予測技術を開発し、特許を取得。

――はじめに御社の事業内容について、ご紹介いだけますか？

［山元氏］当社はAI研究者が中心となって設立した会社で、モビリティやヘルスケア関連企業と機械学習を含むシステムの共同研究を手掛けてきました。その中で、AIの運用や品質管理に課題を感じ、AI運用・品質管理プラットフォームである「CONFIDE（コンファイド）」の開発を始めました。現在では、それを各ドメインに特化させ、製造業向けに、外観検査AIや作業者解析AIを簡単に構築、運用できる「CONFIDE for Factory」、ヘルスケア向けに、AI支援診断ソリューション「Analysa（アナリサ）」を開発しています。また、自動走行についても、自動車メーカーや関連部品メーカーと共同開発を進めています。

ミッションクリティカルな領域へのAI導入を目指す

［山元氏］我々は会社のビジョンとして「ミッションクリティカルなAIを実現する」ことを掲げています。これは、ミッションクリティカルな領域に、機械学習を含むAIシステムを導入していきたい、ということであり、まずはすでにAIの導入フェーズにある製造業のお客様を中心にサービスを提供しています。ヘルスケアや自動走行関連では、AIの本格導入はもう少し先になると考えていて、2～3年後を見据えた活動をしている状況です。

――ミッションクリティカルな領域では、システムが停止すると重大な影響が出るため、停止や誤作動は極力回避する必要があると思います。AIという視点では、どのような技術が必要になるとお考えですか？

［山元氏］弊社が重要と考えているのは、まず、環境変化や外乱が生じる現実世界で頑健に動作するAIを構築するための技術です。そこには、カメラやセンサデータなど、様々な種類のデータを学習・処理するための「マルチモーダル機械学習」、人工データを生成することで様々な環境変化や外乱、ばらつきに対応するための「データ拡張」、人工データとリアルデータの溝を埋めるための「ドメイン適応」等の技術が含まれます。

次に重要なのは、構築したAIシステムを安心安全に運用していくための技術です。そこには、AIを説明可能にするための「Explainable AI（XAI）」、従来のITシステムとは異なるAIシステムの品質検証を行うための「AI向けの品質検証技術（QAAI）」、CACE性（※1）を持つAIシステムをインテリジェントに更新するための「AI CI/CD」等の技術が含まれます。

(※1)CACE(Changing Anything Changes Everything): 何か一部を変更したときに、全体の性質(出力)も変更されてしまうという性質

特に、ミッションクリティカルな領域にAIを導入する上では、「説明可能なAI（XAI：Explainable AI）」と、私たちが「AI向け品質検証技術（QAAI：Quality Assurable AI）」と呼ぶ２つの技術がカギになると考えています。弊社では、このXAI、QAAIの技術を用いて、AIシステムの品質を可視化できるプラットフォーム「CONFIDE」を開発しました。また、それを製造業に特化させたソリューションとして、「CONFIDE for Factory」を展開しています。

AIの本格導入を阻む2つの壁

［山元氏］近年、AIの導入事例が増えていますが、まだOCR（光学文字認識）やレコメンド広告など、失敗してもリスクが低い領域での事例が中心で、それ以外の領域、つまりリスクが高くて、AIの品質検証が必要となるような領域では、PoC（概念実証）止まりで本導入までなかなか進めていないという現状があります。

AIを導入しようとするプロジェクトの多くが、PoC以降に進まなくなってしまう主な要因として、2つの壁があると考えています。ひとつは、AIが予測結果だけを出力するため、判断プロセスがブラックボックス化し、人間の直感と違った判断をしても現場で改善できないこと。もうひとつは、より本質的なものとして、AI自体の品質検証が不十分で、テストデータを使って良好な精度が得られても、実際に導入しようとすると精度が低下してしまうこと、があります。例えば、テストデータを使った画像認識の事前検証で95％の精度が出ているとして仮導入に踏み切ったところ、実際のラインで使用してみると70％に下がってしまうことがあるのです。これでは十分な品質検証ができているとは言えません。

製造業でAI導入が拡大しない背景には2つの理由がある

AIのブラックボックス化とは

［山元氏］製造ラインの検査工程において、最新の技術を使えば人間の検査員より高い精度で不良品を検出するAIを作ることは可能です。では、AIの何が問題なのかというと、人間の検査員であれば、明らかにおかしい判断はしませんし、検査用のライトが故障したり、治具の位置がずれたりといった、環境や製品に通常とは異なる変化が生じても比較的柔軟に対応できるでしょう。

しかし、AIの場合は全体としての精度は人より高くても、検査員なら明らかに間違えないケースで間違ってしまったり、環境や製品に変化が起きたときに柔軟に対応できない可能性があるのです。AIは常に100％正しい判断ができるわけではないため、AIが人間の直感と違う判断をしたとき、なぜそう判断したのか、根拠を示すことが非常に重要です。

XAIでは、予測結果を様々な根拠と共に出力し、AIの判断根拠を可能な限りユーザー側に提示します。これによってユーザーは結果だけでなく、なぜAIがそう判断したのかが理解できるため、現場での運用や必要な改善が進められるようになります。

AIに求められる品質検証とは

［山元氏］AIを学習させる場合、理想的には起こりうる全てのデータをテストデータとして集めて、それを使って学習とテストを実施するべきですが、現実的には、想定されるすべてのデータを集めてくることはなかなか難しい。AIはデータから規則性や特徴を学習するため、テストデータに含まれていなかったデータに対しては、認識精度が下がることが起こりえます。例えば、犬を認識するAIを構築するときに、背景が白のチワワの画像しか学習していないのに、外にいるゴールデンレトリバーを認識できないのは当然です。

ミッションクリティカルな領域では品質検証は不可欠な課題だ

［山元氏］つまり、テスト時には良好だったAIの認識精度が仮導入で低下してしまう主な原因は、実際に起こり得る現場の外乱や環境変化がテストデータで網羅できていないためだと言えます。ただ、製造業に関していえば、例えば外観検査で起こりうる環境変化はそこまで多くありません。画像の傾きやぼやけ、ノイズが入る、反射が生じるなど認識精度が低下する事例を想定し、こうしたケースを意図的に起こして画像を大量に生成して、AIに学習させ弱点を補強することで、AIの精度を保てるようにする。QAAIではこのようにして品質検証を可能にしています。

AIシステムの品質保証のガイドラインは、QA4AIという団体や産総研が策定していますが、我々もそこに微力ながら協力し、社会的な動きと足並みを揃えながら、AIを安心して導入・運用できよう品質の可視化に取り組んでいます。

このAIシステムの「説明可能性」と「品質検証」を実装するためのプラットフォームとして開発したのが、先ほど申し上げた汎用向けのソシューション「CONFIDE」で、それを製造業向けとしたのが「CONFIDE for FACTORY」です。こちらでは「製品外観検査」「作業者解析」「異常検知・故障予測」「製造工程最適化」の4つのAIの開発、運用管理が可能になっています。