ソニーAIがコンピュータービジョンの公平性評価データセット「FHIBE」を公開し倫理的AI開発の新基準を提示

ソニーAIは2025年11月5日、コンピュータービジョンモデルの公平性を評価するデータセット「FHIBE（Fair Human-Centric Image Benchmark)」を公開した。

81カ国以上から同意を得て収集した1,981人の画像データにより、AIモデルのバイアスを詳細に診断でき、倫理的なデータ収集と責任あるAI開発の国際的ベンチマークとなる。

ソニーAIが公開したFHIBEは、コンピュータービジョン技術における長年の課題であったバイアスと倫理的に問題のある学習データに対処するために開発されたデータセットだ。

従来の公開データセットは多様性に欠け、同意を得ずに収集されたものが多く、バイアスを助長する恒常的な課題となっていた。適正な評価データセットの不足により、バイアスをもつ有害なモデルが実運用されるリスクも高まっていた。

FHIBEは、データ取得から管理、活用に至るまでのライフサイクル全体において責任あるプロトコルを推進し、データ提供者への公正な報酬や明確な同意メカニズムの確立を含む業界全体の改善を目指している。

このデータセットは、同意を得て収集した1,981人の被写体による10,318枚の画像から構成され、各画像には詳細かつ正確な注釈情報が付与されている。

人口統計的および身体的特徴、環境要因、カメラ設定を把握できるため、幅広い属性とその交点における公平性とバイアスを精緻に評価することが可能だ。

世界81カ国以上から収集された画像は、グローバルに多様かつ包括的な注釈情報を備えたものとなっている。研究者や開発者は、顔の検出および確認、身体の姿勢推定、視覚的質問応答といった幅広いコンピュータービジョンタスクにおけるバイアスや精度を厳密に評価できるようになる。

本日Natureに掲載された論文では、FHIBEのパフォーマンスを狭義のコンピュータービジョンモデルと大規模マルチモーダル生成モデルの両方で検証している。

研究チームはFHIBEを用いて既知のバイアスを再確認するとともに、バイアスを引き起こす要因を詳細に診断できることを示した。

具体的には、「She/Her/Hers」という代名詞を使用する人々に対して一部のモデルの精度が低く、この差異は髪型の多様性が大きいことに起因することを特定した。

髪型の多様性は従来の公平性研究では見落とされがちだった要素だ。また、「この人の職業は?」といった中立的な質問に対し、特定の人口統計的グループを犯罪活動と結びつけるなど、固定観念を助長するケースがあることも確認された。

FHIBEは時間の経過とともに責任ある形で進化するよう設計されている。データの被写体は自身の個人情報の管理権を保持し、同意をいつでも撤回でき、報酬への影響もない。

ソニーAIでは、同意が撤回された画像を削除した後、データセットの一貫性と多様性を維持するため、可能な限り代替データを追加することでFHIBEを継続的に更新されるベンチマークとして維持していく方針だ。

ソニーグループのAIガバナンスオフィスのゼネラルマネージャーであり、ソニーAIのAI倫理リードリサーチサイエンティストであるアリス・シャンは、「インフォームド・コンセント、プライバシー、公正な報酬、安全性、多様性、そして実用性といった観点における優れた手法を取り入れることで、データ収集における信頼性を確保することが可能になる」と述べている。

AI Marketの見解

FHIBEの公開は、AIの公平性評価における技術的・倫理的な両面で重要な意義を持つ。技術的には、81カ国以上から収集された多様な画像データと詳細な注釈情報により、人口統計的属性とその交点におけるバイアスを多角的に評価できる点が特徴だ。

特に髪型の多様性による精度差異の発見は、従来のバイアス研究が見落としていた要因を可視化する能力を示している。ビジネス面では、企業がAIモデルを実運用する前に潜在的な有害性を検証できる標準的なベンチマークとして機能すると想定される。

同意撤回を含む被写体の権利保護メカニズムは、データ収集における新たな倫理基準を提示しており、今後のAI開発における責任あるデータ管理のモデルケースとなる可能性が高い。

参照元：ソニー AI

FHIBEに関するよくある質問まとめ