AI品質管理技術の応用開発・
プラットフォーム化推進AIシステムの品質を評価する

AI製品の品質保証を定義する

私が取り組んでいるのはAIシステムの品質を評価する技術です。お客様にご提供するすべての製品やサービスについて、品質管理が行われています。もちろんソフトウェアも対象ですが、従来のソフトウェアの品質管理をそのままAIを搭載した製品に適用できるわけではありません。従来のソフトウェアはお客様の要望に合わせて設計したロジックに基づいて、技術者が一から挙動を定義して開発を進めます。一方、AIの場合はお客様の要望に合わせて設計したAIが、データを学習することで挙動が決まります。それを作っている技術者本人も、AI内部の挙動は説明できません。AIの内部の挙動は、言わばブラックボックスです。AIが社会から求められているにもかかわらず、どのような試験をすれば品質は充分と言えるのか、品質を保証できるのか、その判断は容易ではありません。今までの製品やサービスとは異なる特性を持つAIに合わせて、品質評価の方法を新たに定義する必要があるのです。

実証実験中のAIシステムと連携

AIは言わばブラックボックスなので、内部でどのような判断をしているのか、明確に説明することは容易ではありません。同じ条件で実行しても、入力パラメータがわずかに変わるだけで結果が全く異なることもあり得ます。そのままではお客様に安心して利用して頂くことができないので、要件を満たすことを保証できる試験方法やどの程度信頼できるか評価できる技術が必要です。また、AIが判断を誤った場合でも、別の手段でカバーし、お客様の業務に支障がきたさない仕組み作りも必要です。日々の業務では、AI品質だけではなく、AIシステムそのものも研究しており、試作AIシステムの開発、実証実験も進めています。私たちはそのAIシステムに対し信頼性や堅牢性の試験を行い、評価をしています。AIシステムが提供するサービスの改善も図りながら、AIの品質評価の研究開発を進めると共に、安心して利用できるAIサービスの実用化を目指しています。

研究成果を実際に社会に出す仕事

学生時代は、グラフィック処理をするGPUが遊んでいる時間を利用して汎用計算をさせる研究をしていました。当時としてはマニアックな分野で、同期は5人の小規模な研究室でした。進路を決める際に、新しい技術を社会実装できる企業で研究をしたいという気持ちがあり、就職を選びました。2015年に入社した時はAIの社会実装が本格化する前で、頻繁に出てくる単語はクラウドやIoTでした。IT分野は技術の移り変わりが激しいので、常に新しいことを勉強していかなければいけないと思っています。一つの専門性を突き詰めて世界でもトップクラスの技術者を目指すだけでなく、私はできる限り自分の中の引き出しを増やして、どのような場面にも対応できる技術者になりたいと思っています。