US and EU New Guidelines and Views on AI

October 20, 2021

The New (if Decidedly Not ‘Final’) Frontier of Artificial Intelligence Regulation

The New (if Decidedly Not ‘Final’) Frontier of Artificial Intelligence Regulation - Data Counsel (bakerdatacounsel.com)

Summary

FTC：How to use the benefits of AI without introducing bias or other unfair outcomes? FTC introduced the 3 rules.

Section 5 of the FTC Act: It prohibits unfair or deceptive practices.
Fair Credit Reporting Act: It comes into play in certain circumstances where an algorithm is used to deny people employment, housing, credit, insurance, etc.
Equal Credit Opportunity Act: The act makes it illegal for a company to use a biased algorithm that results in credit discrimination on the basis of race, color, religion, national origin, sex, marital status, age, or because a person receives public assistance.

Aiming for truth, fairness, and equity in your company’s use of AI | Federal Trade Commission (ftc.gov)

EC：Currently published 3 related documents.

Proposal for a Regulation on a European approach for Artificial Intelligence,
an updated Coordinated Plan with Member States
Proposal for a Regulation on machinery products (collectively, AI Regulation)

the following AI practices are explicitly prohibited in the draft AI Regulation:

Subliminal AI systems beyond a person’s consciousness.
AI systems that exploit any of the vulnerabilities of a specific group of persons due to their age or physical or mental disability.
The use of “social scoring” AI systems.
The use of “real-time” remote biometric identification systems in publicly accessible spaces.

EUR-Lex - 52021PC0206 - EN - EUR-Lex (europa.eu)
Coordinated Plan on Artificial Intelligence 2021 Review | Shaping Europe’s digital future (europa.eu)
DocsRoom - European Commission (europa.eu)

米国連邦取引委員会（FTC）と欧州委員会（EC）はAIに関する指針と見解を発表しました。この指針により、組織がAI使用時の懸念を軽減し、将来に備えるためにどのような対策とるべきかという洞察を得られます。

米国連邦取引委員会（FTC）：バイアスの混入や不公平な結果を避けつつAIを利用するための、３つのルールが紹介されました。

FTC法第5条：不公正であったり虚偽的または欺瞞的な行為を禁止しています。その中には人種的に偏ったアルゴリズムの販売や使用も含まれます。
公正信用報告法（FCRA）：消費者報告機関による雇用・住宅・クレジット・保険などの目的でのデータ提供を規制します。消費者への情報開示、一定期間後のネガティブな情報の削除などが義務付けられています。
均等信用機会法：人種、肌の色、宗教、国籍、性別、婚姻状況、生活保護を受けているかどうかなどの理由で差別をするためにアルゴリズムを使用することを違法としています。

FTCは、法律に関する専門知識を活用しながらのビッグデータ分析や機械学習に関する報告書作成、アルゴリズム・AI・予測分析に関するヒアリング、AIやアルゴリズムに関するビジネスガイダンス発行などを行っています。このような活動は、FTCの強制措置と相まって、AIを誠実・公正・公平に使用するための重要な教訓となっています。

AIを適切に使い始めるにはしっかりとした基礎が必要です。あるデータセットに特定の情報が欠けている場合、そのデータを使ってAIモデルを構築すると、不公平な結果が出る可能性があります。まずは、データセットを改善する方法を考え、データのギャップや欠点を考慮したモデル設計や使用方法の制限が必要でしょう。

欧州委員会（EC）：4月21日、AIに関する新たな3つの関連文書を発表しました。2020年2月に発表された「AI白書」を具体化したもので、AIの普及を目的としています。

AIに関する欧州的アプローチに関する規制の提案
加盟国との調整計画の更新
AIを使った機械製品に関する規制の提案

AI規制案では、以下のようなAI行為が明示的に禁止されています。

人間の意識を超えたサブリミナル効果を使ったAIシステム
年齢や身体的・精神的な障害による特定のグループの人の脆弱性に付け込んだシステム
「ソーシャルスコアリング」AIシステムの仕様
公共のアクセス可能な空間における「リアルタイム」遠隔生体認証システムの仕様

AIシステムのサービスがEU圏内で利用される場合、EU圏外のシステム提供事業者や利用者にも適用され、最大で3000万ユーロあるいは前年総売上高６％の罰金が科されます。EU関連の事業を行う企業・AIシステムを使用する企業は注意が必要です。