私は生成AI(Generative AI)の回答の安全性や信頼性を向上させる技術の開発を行っています。近年、生成AIの中でもテキストの生成に特化した大規模言語モデル（LLM: Large Language Model）が急速に進化しており、様々な分野での活用が進んでいます。一方、LLMの回答に差別的な発言が含まれることや、悪意のあるユーザーによってLLMから機密情報が引き出されるリスクがあり、LLMの活用が進む中で、安全性や信頼性の向上は重要な課題となっています。そこで、私たちは生成AIの入出力を監視し、不適切な指示や回答を検知することで、生成AIの有害な回答や誤った情報がユーザーに提供されることを防ぐ技術の開発に取り組んでいます。このような取り組みを通じて、LLMアプリケーションを安心して利用できる環境の実現を目指しています。

私たちが開発している生成AIの入出力を監視・制御する仕組みは、「ガードレール」と呼ばれています。ガードレールの開発において、私は差別的な発言を検出・抑制する倫理チェックや、個人情報などの機密情報をLLMから引き出そうとするユーザーの入力を検出・除去する脱獄チェックを担当しています。倫理チェックでは、様々なユースケースでの試行錯誤を繰り返し、検出精度を向上させています。また、脱獄チェックでは、想定される攻撃シナリオを分析し、分析結果をアルゴリズムに反映させることで、ガードレールの堅牢性を強化しています。

私は大学時代に認知とAIに関する研究をしており、AIを活用して人間の認知や知的構造を分析・模倣することに魅力を感じていました。就職活動中に、東芝のインターンシップで『健康診断データ』を扱うテーマを見つけ、この分野にも共通する要素があると感じ、応募しました。このインターンシップでお世話になった部署が現在の所属部署であり、当時指導してくださった先輩が現在のメンターでもあります。インターンシップはオンラインで開催され、その日の作業内容を夕方に報告し、課題や今後の方針について議論しました。議論の際には鋭い質問や的確な指示・アドバイスをいただき、学びが多かったことを覚えています。また、仕事や課題に関する話題だけでなく、雑談の場面でも皆さんフランクで優しく、オンライン環境でも円滑にコミュニケーションが取れることを実感しました。実際の業務もリモートが多いと聞いていたため、インターンシップを通じて入社後の働くイメージを具体的に持つことができたことが、入社の決め手になった大きなポイントでした。