信頼性のあるAI - 百科事典

信頼性のあるAIとは、透明性、堅牢性、データプライバシーを尊重するように設計された人工知能システムを指します。信頼性のあるAIは、同型暗号化、連合学習、セキュアな多数参加者計算、差分プライバシ、無知の証明など、プライバシーを強化する技術（PETs）を多く使用します。信頼性のあるAIの概念には、AIシステムが説明可能、責任が明確、堅牢である必要があることも含まれます。AIの透明性は、そのプロセスや決定をユーザーや利害関係者が理解できるようにすることを意味します。責任は、アドバンテージやバイアスが生じた場合に対応するプロトコルが存在し、監視や修正のための指定された責任があることを確実にします。堅牢性とセキュリティは、AIシステムがさまざまな条件下で信頼性を持って機能し、悪意ある攻撃から守られることを確実にすることを目指します。

ITU標準化
信頼性のあるAIは、国際電気通信連合（ITU）のAI for Goodプログラムの下で開始された、国連の機関の一つであるITUのワークプログラムでもあります。その起源は、プライバシーや解析の強いニーズを持つITU-WHOの人工知能健康のためのフォーカスグループにあります。これにより、この技術の標準化が必要とされました。

2020年にAI for Goodがオンライン化された際、信頼性のあるAIセミナーのシリーズが開始され、最終的には標準化活動に繋がるよう議論を始めました。

= 多数参加者計算 =
セキュアな多数参加者計算（MPC）は、ITU-T研究グループ17の「質問5」（イニシエーター）の下で標準化されています。

= 同型暗号化 =
同型暗号化は、暗号化されたデータ上で計算を行い、結果や結果は計算を行った者に暗号化されて知らされないが、元の暗号化者によって解読可能なことを可能にします。これは、例えばGDPRの下でのデータ作成の地域とは異なる地域で使用を可能にすることを目指して開発されることが多いです。

ITUは、HomomorphicEncryption.orgの標準化会議の初期段階から協力しており、同型暗号化に関する標準を開発しました。第5回同型暗号化会議は、ジュネーブのITU本部で開催されました。

= 連合学習 =
連合学習がプライバシーを保護するために使用するゼロサムマスクは、ITU-T研究グループ16（VCEG）の多メディア標準（例えばJPEG、MP3、H.264、H.265、通常MPEGとして知られています）に広く使用されています。

= 無知の証明 =
零知証明に関する前標準化作業は、ITU-Tのデジタルレジャー技術のためのフォーカスグループで実施されました。

= 差分プライバシー =
差分プライバシーのプライバシー保護への適用は、AI for Good Global Summitの「デイ0」機械学習ワークショップのいくつかで検討されました。

参考情報
人工知能
プライバシー強化技術
データ科学

参考文献
（原著者の名前や出版物のタイトルがあれば、ここに記載してください。）