人工知能における人権侵害
ここでは、人工知能によって生じる人権侵害の問題について説明する。
概要[編集]
MITのローレン・R・グレアム教授は莫大な資金力と人権の弾圧を併せ持つ中華人民共和国が人工知能の開発競争で成功すれば民主的な国家が技術革新に優位という既成概念が変わると述べ、「ディープラーニングの父」の一人と呼ばれているヨシュア・ベンジオは中国が市民の監視や政治目的で人工知能を利用していることに警鐘を鳴らしており[1][2]、海外の人権団体やメディアなどは中国に代表される人工知能で人権を抑圧する政治体制を「デジタル権威主義」[3][4]「デジタル独裁」[5][6][7]「デジタル警察国家」[8]「デジタル全体主義」[9]「AI独裁」[10]と呼んだ。中国ではヘルメットや帽子に埋め込んだセンサーから国民の脳波と感情を人工知能で監視する政府支援のプロジェクトが推し進められ[11][12][13][14]、ネット検閲[15][16]と官僚や刑務所の囚人から横断歩道の歩行者まで監視を人工知能に行わせ[17][18][19][20][21][22]、監視カメラと警察のサングラス型スマートグラス[23]やロボット[24]に顔認識システム（天網）を搭載するなど人工知能による監視社会・管理社会化が行われている[25][26][27][28]。新疆ウイグル自治区では監視カメラや携帯電話などから収集した個人情報を人工知能で解析するプレディクティブ・ポリシングや人種プロファイリングで選別した少数民族のウイグル族を法的手続きを経ずに2017年6月時点で約1万5千人もテロや犯罪を犯す可能性があるとして新疆ウイグル再教育キャンプに予防拘禁しているとする中国政府の内部文書であるチャイナ・ケーブルが報じられており[29][30][31]、AIを使った政府による特定の民族の選別やコンピュータが人間を強制収容所に送る人権侵害は前例がないとして国際問題になっている[32][33]。香港では、中国本土と同様の人工知能による監視社会化を恐れ[34]、2019年-2020年香港民主化デモが起きた際は監視カメラを搭載したスマート街灯が市民に次々と破壊された[35][36]。中国はAI監視技術を中東・アジア・アフリカなど世界各国に輸出しており[37][38][39][40][41][3]、国際連合の専門機関である国際電気通信連合（ITU）を通じて中国がAI監視技術の国際標準化も主導してることから中国のような人権侵害が世界に拡散することが人権団体などから懸念されている[42][43]。
中国の社会信用システムに代表されるような、人工知能でビッグデータを活用して人々の適性を決める制度は、社会階層間の格差を固定化することに繋がるとする懸念があり[44]、欧州連合では2018年5月から、人工知能のビッグデータ分析のみによる、雇用や融資での差別を認めないEU一般データ保護規則が施行された[45]。
マサチューセッツ工科大学が顔認識システムの精度でMicrosoftと中国のMegviiは9割超でIBMは8割に達したのに対してAmazonは6割で人種差別的なバイアスがあるとする研究を発表した際はAmazonと論争になった[46]。
脚注[編集]
- ↑ “「深層学習の父」、中国のＡＩ利用に警鐘”. Sankei Biz. （2019年4月1日） 2019年4月5日閲覧。
- ↑ “Deep Learning ‘Godfather’ Bengio Worries About China's Use of AI”. ブルームバーグ. （2019年2月2日） 2019年4月5日閲覧。
- ↑ a b “Freedom on the Net 2018 The Rise of Digital Authoritarianism”. フリーダム・ハウス. 2018年12月13日確認。
- ↑ “人工知能とデジタル権威主義―― 民主主義は生き残れるか”. Foreign Affairs. 2019年11月10日確認。
- ↑ “China’s digital dictatorship”. エコノミスト (2018年7月31日). 2019年11月10日確認。
- ↑ “中国「デジタル独裁」、結末は小説を超えるか”. ウォール・ストリート・ジャーナル (2018年7月31日). 2019年11月10日確認。
- ↑ “中国の全人代が開幕 デジタル独裁に進む隣国”. 毎日新聞 (2018年7月31日). 2019年11月10日確認。
- ↑ “Does China’s digital police state have echoes in the West?”. エコノミスト (2018年6月8日). 2019年11月10日確認。
- ↑ “The rise of China as a digital totalitarian state”. ワシントン・ポスト (2018年2月21日). 2019年11月10日確認。
- ↑ “AI独裁ばらまく中国 拡販される監視システム”. 日本経済新聞 (2019年6月8日). 2019年11月12日確認。
- ↑ “中国政府が労働者の脳から直接データを取り出す計画を推進中（中国）”. カラパイア (2018年5月4日). 2019年1月11日確認。
- ↑ “労働者の脳波をスキャンして管理する「感情監視システム」が中国で開発されて実際に現場へ投入されている”. GIGAZINE (2018年5月11日). 2018年5月7日確認。
- ↑ “中国企業、脳波ヘルメットで従業員の「感情」を監視”. MITテクノロジーレビュー (2018年5月11日). 2018年5月1日確認。
- ↑ “'Forget the Facebook leak':China is mining data directly from workers' brains on an industrial scale”. サウスチャイナ・モーニング・ポスト (2018年4月29日). 2018年5月11日確認。
- ↑ “[FTＡＩが増加中、中国のネット検閲作業で]”. 日本経済新聞 (2019年11月12日). 2018年5月23日確認。
- ↑ “アングル：天安門事件30年で中国厳戒、「ＡＩ検閲」フル稼働”. ロイター (2019年5月30日). 2019年11月12日確認。
- ↑ “Is China’s corruption-busting AI system ‘Zero Trust’ being turned off for being too efficient?”. サウスチャイナ・モーニング・ポスト. （2019年2月4日） 2019年11月12日閲覧。
- ↑ “「官僚の腐敗を検出するAIシステム」を中国で導入した結果とは？”. GIGAZINE. （2019年2月4日） 2019年11月12日閲覧。
- ↑ “No escape? Chinese VIP jail puts AI monitors in every cell ‘to make prison breaks impossible’”. サウスチャイナ・モーニング・ポスト (2019年4月1日). 2019年4月11日確認。
- ↑ “中国の社会スコアAIがバス広告の女性を｢信号無視｣判定”. ギズモード. （2018年11月30日） 2019年11月12日閲覧。
- ↑ “Jaywalkers under surveillance in Shenzhen soon to be punished via text messages”. サウスチャイナ・モーニング・ポスト. （2018年3月27日） 2019年11月12日閲覧。
- ↑ “歩行者の信号無視を顔認証で検知、信用記録に反映 南京”. AFPBB. （2019年7月28日） 2019年11月12日閲覧。
- ↑ “中国の警察は顔認識機能を搭載したサングラス型デバイスを導入して監視体制を強化している”. GIGAZINE (2018年2月9日). 2019年1月11日確認。
- ↑ “未来の街はロボットが運営？ ドバイや中国では現実に”. BBC (2018年6月15日). 2019年4月25日確認。
- ↑ “以安全的名義--習近平治國“黑科技”有多少？”. ボイス・オブ・アメリカ (2019年11月11日). 2019年11月11日確認。
- ↑ “焦点：中国、ブラックテクノロジー駆使して監視国家構築へ”. ロイター (2018年3月15日). 2019年11月11日確認。
- ↑ “中国、ハイテク監視強化 AI活用で世論統制”. 日本経済新聞 (2019年11月6日). 2019年11月10日確認。
- ↑ “中国、AIで監視強化”. 日本経済新聞 (2019年5月19日). 2019年11月10日確認。
- ↑ “Exposed: China’s Operating Manuals For Mass Internment And Arrest By Algorithm”. 国際調査報道ジャーナリスト連合（ICIJ）. （2019年11月24日） 2019年11月26日閲覧。
- ↑ “大規模システムでウイグル族を監視 中国当局の内部文書判明”. 東京新聞. （2019年11月25日） 2019年11月26日閲覧。
- ↑ “'Automated Racism': Chinese Police Are Reportedly Using AI to Identify Minority Faces”. ギズモード. （2019年4月15日） 2019年4月16日閲覧。
- ↑ “One Month, 500,000 Face Scans: How China Is Using A.I. to Profile a Minority”. ニューヨーク・タイムズ. （2019年4月14日） 2019年12月10日閲覧。
- ↑ “Secret documents: China detention camps to 'prevent escapes'”. 毎日新聞. （2019年11月25日） 2019年11月25日閲覧。
- ↑ “監視社会恐れる香港市民、中国本土化を懸念－警察は顔認識ＡＩ活用”. ブルームバーグ. （2019年10月24日） 2019年11月11日閲覧。
- ↑ “中国式監視vs若者の知恵 香港デモ、サイバー領域でも”. 日本経済新聞 (2019年6月26日). 2019年6月5日確認。
- ↑ “香港デモ、参加者の新たな標的は監視カメラを搭載した｢スマート街灯｣”. ビジネスインサイダー (2019年8月28日). 2019年11月12日確認。
- ↑ “中国が世界54カ国にAI監視技術を輸出”. ニューズウィーク (2019年4月24日). 2019年4月26日確認。
- ↑ “China Is Taking Its AI Around The World. This Should Scare The US”. Medium (2018年8月14日). 2018年10月26日確認。
- ↑ “中国で実用化進む「顔認識AI」が世界に拡散 大幅な効率化も”. フォーブス (2017年12月2日). 2018年10月26日確認。
- ↑ “China exports its high-tech authoritarianism to Venezuela. It must be stopped.”. ワシントン・ポスト (2018年12月5日). 2018年12月13日確認。
- ↑ “How China’s AI Technology Exports Are Seeding Surveillance Societies Globally”. THhe Diplomat (2018年10月18日). 2018年10月26日確認。
- ↑ “Chinese tech groups shaping UN facial recognition standards”. ファイナンシャル・タイムズ (2019年12月2日). 2019年12月10日確認。
- ↑ “中国が「AIの標準化」に拍車 国際標準の提案も”. フォーブス (2019年12月5日). 2019年12月10日確認。
- ↑ “AIがあなたの信用度を判断、日本にも 中国では14億人を格付けへ”. 朝日新聞グローブ. 2019年12月1日確認。
- ↑ “中国で加速する「下流層」AI判定の恐怖”. プレジデント・オンライン. （2016年7月28日） 2019年2月22日閲覧。
- ↑ “「Amazonの顔認証ソフトの差別性」を巡りAmazonとMITの研究者が対立する”. GIGAZINE. （2019年4月15日） 2019年4月16日閲覧。