AIガバナンスとは
「AIガバナンス」とは、「AIの利活用によって生じるリスクをステークホルダーにとって受容可能な水準で管理しつつ、そこからもたらされる正のインパクトを最大化することを目的とする、ステークホルダーによる技術的、組織的、及び社会的システムの設計及び運用」を指します※1。
※1：経済産業省による説明。総務省は「AIを利活用したシステム・サービスを企画、開発、導入、運用するに当たって、法制度や社会規範を遵守するとともに、AIに関するリスク等を適切にマネジメントするための体制構築と仕組み作り、その実行」と定義している。
AIを取り巻く状況
東芝グループはデジタルトランスフォーメーション(DX)を加速しており、重要インフラ等に対してAIを適用し様々な社会課題の解決を推進しています。現在、DXは世界的な潮流であり、デジタル化に合わせて、AI技術の開発・活用の重要度が高まっています。東芝グループにおいても、デジタル化を通じて、カーボンニュートラルやサーキュラーエコノミーの実現に貢献することを目指しており、様々な社会課題の解決においてAIの適用を進めています。しかし、AIによる利便性が高まる一方、AIの悪用や意図しない動作でトラブルが発生するといった問題が社会全体で取りざたされるようになり、AI活用に関する倫理やガバナンスの必要性の声が高まってきています(下図)。 国内においては、内閣府の「人間中心のAI社会原則」を土台とし、総務省の「AI利活用ガイドライン」、経済産業省の「AI原則実践のためのAIガバナンス・ガイドライン」などを統合した「AI事業者ガイドライン」が総務省・経済産業省合同で発行されるなど、AI原則の検討が本格化しています。海外においても、欧州AI法をはじめとして、中国や韓国でAI関連法が成立するなど、法規制の流れが加速しています。また、2023年に開催されたG7広島サミットで立ち上がった広島AIプロセスでは、AI、なかでも生成AIに対する安全性や信頼性を確保するためのガバナンスが求められるなど、AIガバナンスへの対応は世界共通の課題として、AIを積極活用する企業にとって必要不可欠なものとなっています。
東芝グループAIガバナンスステートメント
東芝グループでは、わたしたちが提供するAIをお客さまが安心安全に利用いただけるよう、AIに対する理念であるAIガバナンスステートメントを公表し、AIガバナンスへの姿勢を宣言しています。AIガバナンスステートメントの前文は、「東芝グループ経営理念」、「私たちの存在意義」をブレイクダウンする形で、AIガバナンスステートメント策定の意義を説明しています。そして、本文は、AIに対する理念を「私たちの価値観」の4項目に分類し、7つの観点で整理しています。
- 人間尊重 …人間の尊厳を尊重するAI
- 安心安全の確保 …プライバシーとセキュリティへ配慮し、かつ品質を維持・向上するAI
- コンプライアンスの徹底 …法令、社会規範を守るAI
- AIの発展と人材の育成 …進化するAIと、AIを深く理解し利活用できる人材
- 持続可能な社会の実現 …サステナブルな社会を支えるAI
- 公平性の重視 …公平で、多様性豊かな価値を創造するAI
- 透明性と説明責任の重視 …中身の見えるAI
東芝グループ理念体系と東芝グループAIガバナンスステートメント
東芝のAIガバナンス
東芝グループでは、AIガバナンスステートメントで示した考え方をベースとして、信頼できるAIシステムの開発・提供・運用に向けて、AIガバナンスを構築し、様々な取り組みを進めています。
AIガバナンス
※2：MLOps（Machine Learning Operations）、AI・機械学習における継続的デリバリーと自動化の仕組み
AI人材の育成
東芝グループでは、AIを取り入れたビジネスを支える人材の育成に2019年から取り組んでいます。2019年に750名だったAI技術者を2022年度までに2,000名にするという目標を掲げ、AI技術者の育成を推進してきました※3。その目標を達成し、2024年には2,300名を超えました。
※3：ニュースリリース（https://www.global.toshiba/jp/news/corporate/2019/11/pr0702.html）
また、信頼できるAIシステムの開発・提供・運用をおこなうためには、技術者だけでなく、ビジネスに関わる全員がAIに関する理解を深めた上で、ともに取り組むことが重要です。そこで、東芝グループのすべての国内従業員を対象とした育成にも取り組み、AIリテラシーの底上げを進めています。さらに、AIをビジネスに活用していく意識をグループ内に浸透させるべく、2023年よりマネジメント層の意識変革も進めています。マネジメント層を中心にAIの重要性や基礎知識への理解を強化することで、AI活用に向けた風土改革を推進しています。
東芝グループのAI技術者
東芝グループのAI人材育成を支えるカギとなるのが、当社独自のAI人材ロールの明確化とAIカリキュラム（AI教育講座体系）です。AIに関わる人材を４種類の役割に分け、それぞれの役割に応じた育成パスを用意しています。各役割について、レベルごとにAI教育講座を整備しており、当社独自で開発した7講座を含む約40の講座が受講できるようになっています。
2019年度に東京大学大学院情報理工学系研究科と共同で立ち上げた「東芝AI技術者教育」では、50人規模の教育を年に2回開催し、これまで約500名のハイレベルなAI技術者を育成しています。また、これからAIに取り組もうとしている従業員がAIの“勘どころ”を学ぶリテラシー基礎講座や、技術者でなくてもAIを簡単に作って試すことができる演習講座なども用意し、各自のレベルに合わせた育成を進めています。
4種類のAI人材ロール
AIカリキュラム概要
2019年度に東京大学大学院情報理工学系研究科と共同で立ち上げた「東芝AI技術者教育」では、50人規模の教育を年に2回開催し、これまで約500名のハイレベルなAI技術者を育成しています。また、これからAIに取り組もうとしている従業員がAIの“勘どころ”を学ぶリテラシー基礎講座や、技術者でなくてもAIを簡単に作って試すことができる演習講座なども用意し、各自のレベルに合わせた育成を進めています。
AI技術の開発・利活用
東芝グループでは、保有しているAI技術資産を見える化したAI技術カタログを構築し、AI技術資産のグループ内での利活用を促進する取り組みを進めています。これにより、AI技術を事業適用する際に、無駄な開発を減らし、その技術の強みや適した応用先を理解して、適切な技術を活用できるようになっています。2019年度より運用を開始し、現在、300以上のAI技術が登録されています（2025年3月現在。随時追加中）。
この中から、厳選した約100の技術に関しては、当社Webサイト「東芝AI技術カタログ」にて公開しています。
『東芝のAI技術』リーフレット
AIシステムの品質の維持・向上
AIシステムの品質を保つ仕組みづくりにも力を入れていきます。当社独自の「AI品質保証ガイドライン」を策定するとともに、お客様目線で整理した「品質カード」を用いて、品質保証を可視化する取り組みを始めています。例えば、AIシステムの性能を認識率や正解率で示すだけでなく、学習や評価に利用したデータの傾向から、AIシステムが得意とする領域や苦手とする領域を示すことで、お客様がAIシステムの特徴を理解した上で利用できるようにしています。さらに、AIシステムの運用開始後の環境変化による性能劣化などを起こさないように、継続的に性能を保つ仕組みとして、MLOps基盤の導入を進めています。現在、社内外の製造現場や社会インフラなどを対象にしたAIシステムへの適用を進めており、今後も適用先を拡大していく予定です。
AIシステムの品質を保つ仕組み
1. AI品質保証
AIシステムは、データを学習することで構築されるAIモデルを活用していることから、未知のデータに対する予測結果を定義できず、品質保証が難しいという課題があります。AIの性能はモデル構築に使うデータの量や質に依存する、AIの性能は利用環境や利用方法で変わる可能性がある、などのAIの特性を踏まえ、従来の品質保証に新たな考え方や取り組みを加えることが必要です。
東芝グループでは、AIに対する標準化や規制法制定などの社外動向も踏まえ、AIシステムの品質保証として気をつけるべき点を「AI品質保証ガイドライン」としてまとめました。そのうえで、具体的にいつ何を確認すべきかを示す品質チェックリストを含む「AI品質保証プロセス」をリファレンスとして整備しています。これらを参考にAIシステムの品質保証プロセスを構築、もしくは、既存のプロセスの強化を図ることができます。
AIシステムは従来のシステムとは品質に対する考え方が異なることから、お客様とのAIシステムの品質に対する理解の共有が重要となります。東芝グループでは、開発時の様々な評価やチェックの結果を、お客様に理解しやすい利用者目線に立って可視化し提示するためのAI品質カードを整備しています。
※4：前項で説明の品質チェックリスト
※5：日本ソフトウェア科学会 機会学習工学研究会（MLSE夏合宿2022）にて、来場者からこのアプローチが評価され、最優秀発表を受賞
2. MLOps基盤
MLOps※6は、AIモデルの性能劣化を検知し、再構築する仕組みです。AIモデルはお手本データ（ 学習データ ）を基に開発されますが、運用開始後に利用環境が変化してお手本データにはなかった新しいデータが入力されるとAIモデルは正しい答えを出力することが難しくなり、性能が劣化してしまいます。利用環境が変化するAIシステムでは、入力データの変化やモデル性能を常にモニタリングし、異常や性能低下を検知した場合には、再学習して運用モデルを更新することが必要です。このプロセスを自動化する仕組みがMLOpsです。
※6：MLOps（Machine Learning Operations）、AI・機械学習における継続的デリバリーと自動化の仕組み
東芝グループでは、データやAIモデルの予測精度のモニタリングと、データの取得やAIモデルの再学習といったAIモデル管理を行うプロセスを自動化するMLOps基盤を開発してAIサービスの開発速度・品質の向上を図っています。 AIの専門家でなくてもAIモデルの更新プロセスを実行してデータ変化に追従させることが可能になります。
東芝グループMLOps共通基盤
※7：CI（Continuous Integration）：ソフトウェアのビルドと検査を自動化する仕組み
※8：CD（Continuous Delivery）：開発したソフトウェアを自動的に利用環境に展開する仕組み
事業への適切なAI適用
東芝グループのAIが信頼され、これを活用した事業を拡大していくためには、AIガバナンスの状態を把握し、継続的に改善を図ることが大切です。個々のAIシステムがもたらすインパクトとリスクを明らかにして事業判断に役立て、AIガバナンスを維持・向上する仕組みがAIリスクマネジメントです。
AIシステムを活用にするにあたっては、AIシステムのもたらす正の側面（機会）に目が向きがちですが、AIシステムがもたらしかねない負の側面（リスク）の存在を考慮する必要があります。東芝グループにおけるAIリスクマネジメントでは、東芝グループが提供するAIシステムについて、リスク（例えば個人情報流出や差別）を低減することで安全性と価値の高いAIシステムを社会に送り出し、機会（例えば、業務効率化や社会課題の解決）を最大限享受することを目的としています。AIシステムを製品やサービスとして扱う事業部・事業会社が中心となってAIリスクマネジメントをおこなうことで、AIシステムの不具合やAIシステムによる不利益を被る可能性を低減させ、安心で安全な、価値の高いAIシステムをお客様に提供することができます。
AIリスクマネジメント概要：AIリスクアセスメントとAIリスク対応を繰り返してリスクを低減
AIシステムの開発者は、「AIリスクアセスメントシート（AIシステムについての調査票）」に必要事項を記入します。ここには、AIシステムの基本情報の他、そのシステムがインシデントを起こした際の影響度や、インシデントの発生可能性を測るための設問が含まれています。これらの回答結果をもとに、リスクの度合いが評価され、その結果とリスク対応のためのアドバイスがフィードバックされます。この結果を受けて、AIシステムの開発者は、リスク対応をおこない、リスクの低減をはかります。これを繰り返すことで、AIリステムのもつ潜在的なリスクを軽減していく仕組みが、東芝グループが実現するAIリスクマネジメントです。