アルゴリズムの規制 - 百科事典

### アルゴリズムの規制

アルゴリズムの規制、またはアルゴリズム規制とは、アルゴリズムの促進と規制のための法律、規則、および公共部門の政策の創造であり、特に人工知能と機械学習において重要です。AIアルゴリズムのサブセットについては、「人工知能の規制」という用語が使用されます。人工知能（AI）の規制と政策の枠組みは、欧州連合を含む世界中の司法管轄区域内で新たな課題として浮上しています。AIの規制は、AIを促進し、関連するリスクを管理するために必要とされていますが、挑戦的です。もう一つの新たなトピックは、ブロックチェーンアルゴリズムの規制（スマートコントラクトの使用は規制される）であり、AIアルゴリズムの規制とともに言及されています。多くの国では、高頻度取引の規制が実施されており、技術の進歩によりAIアルゴリズムの領域へと移行しています。

アルゴリズムの規制の動機は、人間生活に対する影響が増加する中でアルゴリズムに対する制御を失う恐怖です。複数の国では、自動的な信用スコア計算に対する規制が導入されています—これらのアルゴリズムに対しては、説明の権利が義務付けられています。例えば、IEEEは、倫理的な問題と将来のユーザーの価値を明確に取り扱う新しい標準の開発を始めています。バイアス、透明性、倫理的な懸念が、犯罪司法から医療保健までの多様な分野でアルゴリズムの使用に関連して浮上しています—多くの人々が、人工知能が人種、階級、性別、性の線で既存の社会的不平等を複製すると恐れています。

### 人工知能の規制

#### 公的議論

2016年、ジョイ・ブオラミニは、偏りのある顔認識ソフトウェアとの個人的な経験をきっかけに、芸術と研究を通じて人工知能の社会的影響に意識を高めるために「アルゴリズム正義連盟」を設立しました。

2017年、イーロン・マスクは、人工一般知能からの存在のリスクに関する議論の中で、アルゴリズムの規制を主張しました。NPRによると、テスラのCEOは政府の監視が自社業界に影響を与えることを「明らかに喜ばずにいる」と述べましたが、完全な監視なしでのリスクは高すぎると考えました：「通常、規制が設定されるのは、多くの悪いことが起こった後で、公的な抗議が起こり、何年もかけて規制機関が設立されるんです。それは永遠に続きます。それが過去に悪いことだったけれど、文明の存在に対する基本的なリスクを代表するものではありませんでした」。

これに対して、一部の政治家は、まだ開発中の技術を規制する賢明さに疑問を呈しました。マスクと2017年2月に欧州連合理事会の議員がAIとロボットを規制する提案をしたことに対して、インテルのCEOであるブライアン・クラズニッチは、人工知能が幼い段階であり、技術を規制するのは早すぎると主張しました。技術自体を規制するのではなく、アルゴリズムのテストと透明性に関する共通の規範や保証の形を含むものを開発することを提案する学者もいます。一つの提案は、AI開発を規制するための国際的な統治委員会の開発です。2020年、欧州連合はAIを促進し規制するための草稿戦略文書を発表しました。

アルゴリズムの闇合従来の反垄断法の疑わしい実践であり、裁判所はそれを訴追することができません。このリスクはEU、US、その他の地域の科学者や規制者にとって懸念です。欧州委員会のマルゲレーテ・ベスターガーは、2017年3月16日に「アルゴリズムと共謀」に関するスピーチで、以下のようにアルゴリズムの闇合の初期の例を言及しました：

「数年前、二つの会社が「Flyの作成」という教科書を販売していました。その一つは、競合他社の価格にほぼ一致するアルゴリズムを使用していました。その競合他社は、常に最初の価格より27%高い価格を設定するアルゴリズムを使用していました。結果として、価格はどんどん上がり続け、最終的に誰かが何が起こっていることに気づき、手動で価格を調整しました。その時点で、その本は1部あたり2300万ドルで販売されていました—または、販売されていませんでした」。

2018年、オランダはSyRI（Systeem Risico Indicatie）というアルゴリズムシステムを導入し、福祉詐欺のリスクが高いと見られる市民を検察官に通知しました。これにより、公的な抗議が起きました。ハーグの地方裁判所は、欧州人権憲章（ECHR）の第8条を参照してSyRIを停止しました。

2020年、イギリスの学生に対する試験成績を割り当てるアルゴリズムが「アルゴリズムに罵る」の旗の下で公開的な抗議を引き起こしました。この抗議は成功し、成績が取り消されました。

2024年、ムニヒAI、データ、人権に関する条約が、AIを人権の視点から規制するための国際的な努力の一環として導入されました。ムニヒ工科大学、ステレンボッシュ大学、アルスター大学、KNUSTの学者が協力して起草したこのイニシアティブは、AI時代における国連憲章に記された人権と原則を守るための拘束力のある条約に関する国際的な対話を求めています。

#### 実施

AI法と規制は、主に以下の3つの主要なトピックに分けられます：自律的な知能システムの統治、システムに対する責任と責任の所在、プライバシーと安全性の問題。AIの管理と規制のための公共部門の戦略の開発は、地方、国家、国際レベル、そして公共サービス管理から法執行、金融部門、ロボティクス、軍事、国際法など、ますます必要とされています。これらのセクターでAIに対する十分な可視性や監視が不足しているという懸念があります。例えば、アメリカの金融部門では、消費者金融保護局が金融機関の非公開データの監査を行う際に、ソースコードとアルゴリズムをより厳しく検証するよう求める声があります。

アメリカでは、2019年1月7日に「人工知能におけるアメリカのリーダーシップの維持に関する大統領命令」に続いて、ホワイトハウスの科学技術政策事務所はAIアプリケーションの規制に関するガイドラインの草案を発表しました。これに対して、国立標準技術研究所は立場文書を発表し、国家安全保障委員会はAIに関する暫定報告書を発表し、国防技術革新委員会はAIの倫理的な使用に関する推奨を発表しました。

2016年、欧州議会は20年以上ぶりに、個人情報の収集、保存、使用に関する包括的な規制を可決しました。これは一般データ保護規則（GDPR）1（欧州連合、議会と理事会2016年）です。[6] GDPRの政策は、市民がアルゴリズムによる決定に対して説明を求める権利を強調し、アルゴリズム設計における人間の解釈の重要性を示しています。

2016年、中国は完全に自律的な武器の可能性に対する既存の国際法の適切性を疑問視する立場文書を発表し、国連安全保障理事会の常任メンバーとして初めてその問題を提起しました。これにより、グローバルな規制の提案が行われました。アメリカでは、国家安全保障委員会がAIに関する規制に関する指導を提供しています。

2017年、英国のVehicle Technology and Aviation Billは、自動車の所有者が自車を運転中に無保険であった場合の責任を課し、所有者が車に「無許可の変更」を加えたり、ソフトウェアを更新しなかった場合の規定を設けました。例えば、自動運転車が歩行者を避けるときに致命的な事故を引き起こす場合、さらに倫理的な問題が発生します。

2021年、欧州委員会は人工知能法案を提案しました。

### アルゴリズム認証

アルゴリズム認証の概念が、アルゴリズムを規制する方法として浮上しています。アルゴリズム認証は、以下の点を確認するものであり、1）プロトコル要件（例えば、正確性、完全性、一貫性、精度）に従っているか；2）標準、慣習、慣習に従っているか；3）正しい問題を解決しているか（例えば、物理法則を正確にモデル化しているか）、および運用環境における意図された使用とユーザーのニーズを満たしているかを確認します。

### ブロックチェーンアルゴリズムの規制

ブロックチェーンシステムは取引の透明性と固定された記録を提供し、これにより欧州一般データ保護規則（GDPR）の目標に反しています。これにより、個人が自分のプライバーデータに対する完全なコントロールを保持する目標に反しています。

デジタル経済の発展に関する政令を実施することで、ベラルーシはスマートコントラクトを最初に合法化した国となりました。ベラルーシの法律家であるデニス・アリニコフは、政令によって導入されたスマートコントラクトの法的概念の創作者とされています。現在の米国の州法は、スマートコントラクトの執行可能性に対する健全な基盤を提供していると強い主張があります。アリゾナ州、ネバダ州、オハイオ州、テネシー州は、ブロックチェーンに基づく契約の執行可能性を認めるために法律を改正しています。

### ロボットと自律的なアルゴリズムの規制

ロボットと自律的なアルゴリズムの規制に関する提案が行われています。これには以下のようなものがあります：

2007年に韓国政府が提案したロボット倫理憲章；
2011年に英国の工学および物理学研究評議会が「ロボットのデザイナー、建設者、ユーザーのための5つの倫理的「原則」」を提案；
2017年にACMが発表したアルゴリズムの透明性と責任の7つの原則。

### 大衆文化

1942年、アイザック・アシモフは、フィクションのロボットの三原則を紹介してアルゴリズムの規制に取り組んでいます：

ロボットは人間を傷つけることができず、無行為によって人間を危険にさらすこともできません。
ロボットは人間の命令に従う必要がありますが、それが最初の法則と矛盾する場合は除かれます。
ロボットは自分自身の存在を保護する必要がありますが、それが最初または第二の法則と矛盾する場合は除かれます。

規制の主要な代替案は禁止であり、アルゴリズムの禁止は現在非常に不可能です。しかし、フランク・ハリスの「Dune」宇宙では、思考機械は人工知能の総称であり、バトラーの聖戦と呼ばれる反乱の後、完全に破壊され禁止されました：

JIHAD, BUTLERIAN: （もしくは大反乱を参照）—コンピュータ、思考機械、意識を持つロボットに対する十字軍であり、201 B.G.に始まり、108 B.G.に終わりました。その主要な戒律はO.C.聖書に「機械を人間の心のようには作ってはならない」と記されています。

### 参考資料

アルゴリズムの透明性
アルゴリズムの責任
人工知能
人工知能競争
政府によるアルゴリズム
人工知能の倫理
アルゴリズムによる政府
プライバシーの法規制