トロント宣言 - 百科事典

トロント宣言：機械学習システムにおける平等と差別の禁止権を守るは、機械学習の専門家や監督機関に対する責任ある慣行を推進する宣言です。アムネスティ・インターナショナルやアクセス・ナウなどのグループが、ヒューマンライツウォッチやウィキメディア財団などの著名な署名者とともに発行した共同声明です。2018年5月16日にRightsConで発表されました。

宣言は、警察から福祉制度、医療提供、オンライン討論プラットフォームに至るまで、人々の生活に影響を与える可能性のあるアプリケーションにおける機械学習と人工知能の使用から生じるアルゴリズムのバイアスや差別の可能性に関心を寄せています。「情報プライバシー侵害の可能性」もこの文書の懸念事項の一部です。

宣言の目的は、「国や民間部門に対する具体的かつ実行可能な基準」を示すことです。宣言は、アルゴリズム的差別の被害者に対する補償などの具体的な解決策を求めています。

内容
トロント宣言は、国際人権法、国の義務、民間部門の責任、効果的な救済権に関する59条の文章で構成され、6つのセクションに分けられています。

= 前文 =
この文書は、「機械学習システムの世界において、人権を傷つける責任を誰が持つべきか？」という問いを提起し、公共部門や民間部門のいずれの専門家も、人権に対するリスクを認識し、人権を意識して業務を行うべきと主張しています。文書は、人権を「プライバシーとデータ保護の権利、表現の自由と結社の自由、文化的生活への参加、法律面前の平等、効果的な救済権」を含むと定義していますが、宣言は最も平等と非差別に焦点を当てています。

= 国際人権法の枠組みを活用 =
国際人権法の枠組みは、様々な権利を列挙し、違反者に対する責任を確保するためのメカニズムを提供し、侵害された場合の救済を確保します。文書は、国連人権委員会が差別を「[人種、色、性、言語、宗教、政治的または他の意見、国籍または社会的出身、資産、出生または他の地位を含むがこれらに限られない]いかなる根拠に基づく区別、排除、制限または優先地位で、すべての個人に対する権利と自由の認識、享受または行使を無効化または損害を与える目的または効果を持つ」と定義しています。

政府は積極的に法的拘束力のある措置を創出し、民間企業は内部ポリシーを制定して差別を防止する必要があります。措置には、特に脆弱な集団に対する敏感データの保護が含まれることがあります。システムは多様なコミュニティと協力して設計される必要があり、設計段階での差別を防止する必要があります。

= 国の義務：人権の義務 =
政府は、多くの場合民間企業と協力して機械学習システムを導入しています。開発が第三者に委託された場合でも、政府は人権を保護する義務を保持します。実施前に継続的に、リスクを特定し定期的な監査を実施し、これらのリスクを軽減するために必要な全ての措置を講じる必要があります。機械学習の実施と使用方法について透明性を確保し、論理が簡単に説明できないブラックボックスシステムを避ける必要があります。システムは多様な内部委員会や独立した司法当局からの厳格な監督を受けなければなりません。

政府はまた、民間企業による差別から市民を保護する必要があります。監督に加えて、差別に対する法的拘束力のある法律、データ保護とプライバシーに関する法律を制定し、影響を受けた個人のための効果的な救済手段を提供する必要があります。国や地域政府が国際法を拡充し、具体的な文脈に当てはめることが重要です。

= 民間部門の責任：人権の注意義務 =
民間企業は「人権の注意義務」を果たす責任があります。政府と同様に、民間企業は開発前に一般的なリスクを考慮し、利害関係者（影響を受けた集団、人権、平等、差別に関する組織、独立した人権と機械学習の専門家を含む）と相談してリスクを特定する必要があります。リスクを軽減するシステムを設計し、システムを定期的に監査し、リスクが高いプロジェクトを中止する必要があります。必要に応じて技術的な実装の詳細を含む想定されるリスクについて透明性を確保し、影響を受けた個人が影響を与える決定に対して異議を申し立てるためのメカニズムを提供する必要があります。

= 效果的な救済権 =
「司法の権利は国際人権法の重要な要素です。」民間企業は、影響を受けた個人が救済を求めるプロセスを設ける必要があり、これらのプロセスを監督する役割を指定する必要があります。政府は特に司法分野で機械学習システムを導入する際に慎重に行動する必要があります。透明性、責任、救済が助けとなります。

参考文献