12/22/23　著者マイケル・ネブラダキス博士

Center for Democracy and Technology（民主主義と技術のためのセンター）の調査によると、保護者や生徒は教室で人工知能技術が使われるようになっていることを懸念している。プライバシーの専門家たちは、このテクノロジーは子どもたちに「恐怖を植え付けることによって行動を操作し、コントロールする」ものだと警告している。

民主主義と技術のためのセンター（CDT）の調査によると、保護者と生徒は教室での人工知能（AI）技術の使用、特に顔認識技術への懸念を強めている。

12月12日に発表されたCDTの報告書によると、調査対象となった保護者と生徒の半数以上が、学校での顔認識や位置追跡システムを含むその他のAI技術の使用を懸念していることがわかった。

また、教員を対象とした調査では、教員はこれらの技術を受け入れる傾向が強かった。

報告書によると、このようなツールを導入する学校が増えているという。

この技術の支持者は、銃撃犯のような暴力的脅威から学校環境を守るのに役立つと主張している。

プライバシー擁護派は、生徒のプライバシーや個人情報を危険にさらすテクノロジーは、学校の安全性を高めることは証明されていないと主張している。

学校、保護者、生徒の間の深い断絶

CDTによると、実験的で有害な可能性のある安全ツールが、生徒や保護者の懸念に関係なく使用されている。

これには、予測分析、遠隔試験監督、顔認識、法執行機関のデータ共有、武器検知システム、生徒の位置追跡などが含まれる。

AIに後押しされ、これらのテクノロジーは「銃乱射事件や青少年の精神衛生危機、その他職員や生徒に対する常に存在する安全上の脅威に対応するため、学校で拡大している」とCDTは述べている。保護者や生徒からの「高いレベルの懸念」にもかかわらず、学校がこのようなテクノロジーの展開を続けているという「憂慮すべき」傾向である。

このような「高い懸念」は、次のような調査結果にも表れている。

・保護者の58％、生徒の55％（教員の33％）が、校舎に入ることを許可すべき人物や、校舎にいることを許可された人物をチェックするための顔認識カメラの使用に懸念を示した。

・保護者の71％、生徒の74％（教師の36％）が、生徒の物理的な位置を追跡するためにこのような技術が使用されることに懸念を示した。

・保護者の60％、生徒の58％（教師の31％）が、"いつもと違う、あるいは不規則な身体の動きに気づくための "AIカメラの使用を懸念している。

・55％の保護者と45％の生徒（および27％の教師）が、校内での銃声を検知するためにこのような技術が使用されることに懸念を示した。

・69％の生徒と保護者（教師の36％）が、生徒のデータが分析され、犯罪や暴力行為、自傷行為を犯す可能性の高い生徒を予測していることに懸念を示した。

・66％の保護者と65％の生徒（および38％の教師）が、成績や出席記録など生徒の学業情報が法執行機関と共有される可能性に懸念を示した。

・保護者の68％、生徒の71％（教員の37％）が、生徒のソーシャルメディア・アカウントを監視するために、このような技術が使用されることを懸念している。

これらの結果は、「エドテック（教育データ・技術）の調達決定に関して、学校、保護者、生徒の優先順位に深い断絶がある」ことを示している、とCDTは書いている。

監視技術の購入にCOVID復興資金を使う学校

この調査は、コンテンツフィルタリングやブロッキング、生徒の行動監視、または生成AIを使用するEdtechツールに関する、9月に発表されたCDTの報告書に基づくものである。

その報告書によると、COVID-19の大流行は、学校環境におけるそのような技術の普及を早める一助となった。

生徒の行動を監視するソフトウェアの使用は、遠隔学習中に急速に拡大し、生徒の生活の中で重要な存在感を保っている。しかし残念なことに、このソフトは生徒を助けるために導入されたにもかかわらず、生徒に害を与え続けている。

報告書によると、こうした弊害は、懲戒処分から、生徒の同意なしに公表されたり、法執行機関と接触したりすることまで多岐にわたる。

報告書にはまた、88％の教師が学校で生徒の行動を監視するソフトウェアを使用していると報告し、40％の教師が学校で生徒の個人的なデバイスを監視していると報告し、38％の教師が学校で生徒を授業時間外に監視していると報告したデータも含まれている。

ナショナル・スクール・セーフティ・アンド・セキュリティ・サービス社のケネス・トランプ社長は10月、エデュケーション・ウィーク誌に対し、「学校はCOVIDの回収資金をセキュリティ機器やハードウェアの購入に充てている」と語った。

トランプ氏によれば、テクノロジー企業は近年、学区へのこれらの製品のマーケティングを「強化している」。

校内で銃の使用や没収があった場合、教育委員会や教育長たちは、保護者や職員の感情的なセキュリティ・ニーズに応えようとする。

イギリスの例では、『スカイ・ニュース』が2021年10月に報じたところによると、27校が給食に顔認証システムを使い始め、さらに15校がこの技術を導入する準備が整っているという。

スカイ・ニュースは、保護者や活動家たちが「子どもたちをバイオメトリクスによる監視にさらすことを常態化させていると警告し、生徒たちがプライバシーのリスクについて十分な説明を受けているとは思えないと不満を述べた」と報じた。

また、保護者の同意が高いと報じられているにもかかわらず、スカイニュースは当時、子どものプライバシー擁護団体であるジェン・パーションとピッパ・キングがスコットランドの児童委員に対し、「高い利用率を同意と勘違いすべきではない」。

このような苦情を受け、英国のデータ監視機関である情報コミッショナー事務所が調査に乗り出した。スコットランドのノースエアシャー州議会はこの技術の導入を一時停止し、英国貴族院は2021年11月にこの問題を討議した。

カリフォルニアを拠点とするChildren Health Defenseの個人情報保護イニシアチブの訴訟代理人であるグレッグ・グレイザー氏は、The Defenderに次のように語った。"マスクとロックダウンのコヴィディアンの時代、親たちはZoom教室の強制的な正常化を目撃したが、若者に正常化されたテクノロジーはZoomだけではなかった。"

グレーザーはこう付け加えた。

これは官立学校にとっては当然のことである。官僚主義は社会の根本問題を改善するために組織されているのではなく、症状を治療するために組織されているのだ。社会がより深い教訓、つまり、失敗するように設計されたシステムでなぜ子どもたちが失敗するのかを学ぶことを決断しない限り、官立学校は何も改善されないだろう。なぜ、子どもたちを傷つけるようなシステムが設計されたのか？

一方、失敗と「戦う」ことで利益を得ている10億ドル規模の教育産業は、解決策を提示し続けるだろう。うんざりするようなことばかりだ。

学校における顔認識技術の「冷ややかな効果」への懸念

CDTによると、「生徒の安全の名の下に」使用される技術は、教育指導者や政策立案者が懸念すべき機能を備えている。

例えば、技術的な限界、生徒に対する「根拠のない懲戒処分」につながりかねない「偽陽性」、こうしたシステムの監査の困難さなどである。

もうひとつの懸念は、"冷やかし効果 "である。CDTによると、「生徒の学習環境の常態として、様々な侵襲的安全技術ツールを持つことは、実際に生徒の教室での安全感を低下させる可能性がある。
過度な監視やモニタリングは、言論、交際、移動、重要なリソースへのアクセスを冷え込ませる可能性がある」とCDTは述べている。

このような懸念は、オーストラリアのモナシュ大学のマーク・アンドレジェヴィッチ博士とニール・セルウィン博士が2020年に『Learning, Media and Technology』誌に発表した論文にも反映されており、それによると、このようなテクノロジーは、"分裂的、権威主義的、抑圧的な線に沿って、学校や学校教育の性質を変える "可能性があるという。

「教育者が今直面している重要な課題は、このようなテクノロジーを、より有益かつ／または善良な目的のために、何らかの形で再構築する現実的な将来の見通しがあるかどうかということである。あるいは、このようなデジタル技術は、いかなる形であれ "教育的 "に適用されるべきではないのだろうか？

『The Sociable』の編集者であるティム・ヒンチリフは、『Defender』誌に対し、「学校における顔認識は、行動を操作することであり、幼少期からの全面的な監視を常態化させるものだ」と語った。

教室では、顔認証は子どもたちにプライバシーがないこと、自分の言動はすべて不利に利用される可能性があることを教える。プライバシーは存在せず、言われたことを言わなければならないのだ。

ヒンチリフ氏は、2020年の『グッドモーニング・アメリカ』の報道を引用し、テキサス州のパークランド小学校のオンライン授業のビデオを紹介した。2年生の教師のZoom接続が切れたとき、生徒たちはまず暴れた。

「子供たちは最初暴れだしましたが、ある生徒がまだ録画されていることに気づくと、校長先生に怒られるのを恐れてみんな従いました。その恐怖が、電話を強力なものにし、子供たちを従わせるのです」

ロンドンのブルネル・ロー・スクールのピン・リーン・ラウ博士は、自分の娘との会話について語った。彼女は、学校のカフェテリアで顔認識技術が使われることを心配するかどうか尋ねられたとき、「そうでもない」と答えたという。「でも、会計がもっと早くなるわね」。

ラウによれば、"彼女の言葉は、子供たちが大人に比べてデータの権利をあまり認識していないという懸念を立証している"。

「マクロなスケールで見れば、監視されていることを知った国民は、規範に沿うように行動を改め、市民は自分たちで警察を行うようになる」とヒンチリフ氏は述べた。

CDTの報告書はまた、保護されるべき生徒のカテゴリーに対して、これらの技術が不釣り合いな影響を与える可能性があること、多くの学校がこのような技術を維持・更新するためのリソースが不足していること、これらの技術の使用を監督するガバナンスの仕組みが不明確であること、データ漏洩などのプライバシーリスクについても言及している。

2021年、学校で広く使われているクラウドベースのセキュリティ技術を開発したヴェルカダ社がハッキングされ、監視カメラのライブ映像が公開された。

非営利団体Internet Safety Labsの技術担当ディレクターであるアイリーン・ナップ氏は、学校は生徒の生体情報の取り扱いと保護の責任を負うかどうかを慎重に検討する必要があるとエデュケーション・ウィーク誌に語った。

ナップ氏は、このような技術によって収集されたデータが第三者と共有されているかどうかを知ることは難しいと述べた。

エデュケーション・ウィーク誌によれば、「ミッション・クリープの危険性もある」。顔認証のような監視技術を、学校側が本来意図していない使い方、例えば「子供の迎えが遅れた親を追跡して罰金を科す」ような使い方をするのは「魅力的」だからだ。

ミシガン大学の科学・技術・公共政策プログラムのマネージング・ディレクターであるモリー・クラインマン博士は、9月にRoute Fiftyの取材に対し、規制がなければ、学校はこのような技術を「日常業務」に使用したり、生徒が学校所有のコンピューターやタブレットにログインする際に顔認証を要求したりするかもしれないと語った。

ヒンチリフ氏によれば、「顔認証が、いわゆる『安全上の理由』から、誰が入ってきたかを確認するために学校の入り口で始まったとしても、それが教室に入るのは時間の問題だ。

個人情報保護法の観点から見ると、政府監視学校は多くの潜在的なレベルで法的責任を負うことになる。

「たった一度のデータ漏洩が、保護者への通知義務の引き金になるのです。そして、セキュリティ手続きが忠実に守られていない場合、それは訴訟を意味する。少なくとも、失敗するように設計されたシステムは、そうやって失敗する」

こうした懸念は今に始まったことではない。さかのぼること2019年、『ワイアード』誌はAI技術を教室に導入することの「デリケートな倫理」を取り上げた。

ニューヨークは教室での顔認識技術の禁止を実施した

ニューヨーク州が9月、学校に対して "顔認識技術の購入や利用を禁止する "という禁止令を制定したのは、"その主張する利点を上回るものではない"、そうした「顔認識技術の利用をめぐる深刻な懸念」があったからだ。

この決定は、情報技術サービス局による分析終了後に下されたもので、非営利団体The Violence Prevention Projectが収集したデータから導き出された調査に基づくもので、1980年から2019年にかけての学校銃乱射事件の70％が在校生であったことが判明している。

2020年のミシガン大学による顔認識技術と授業への影響に関する研究も、ニューヨークの禁止措置の決定に影響を与えた可能性がある。

その研究によると、顔認識技術は「人種差別を悪化させ、監視を常態化させ、プライバシーを侵食し、"受け入れられる "生徒の定義を狭め、データを商品化し、不正確さを制度化するという5種類の影響を及ぼす可能性が高い」という。

「FR（顔認識）は自動化されているため、手動システムよりも多くの生徒にこれらの影響を及ぼすだろう」と研究は付け加えている。「この分析に基づき、我々はFRの学校での使用を禁止することを強く勧告する」

この研究はまた、このような技術の使用を継続する学校に対して、国や地方からの幅広い勧告を発表した。同様の提言は、CDTが12月12日に発表した報告書でもなされている。

そして2019年、Voxは学校がますます「銃撃を止めようと顔認識を使うようになっている」と指摘しながらも、このやり方について「よく考えるべきだ」と主張した。

ニューヨーク州の新方針によれば、学区はデジタル指紋認証など、他の種類の生体認証技術の使用を選択することができる。

エデュケーション・ウィーク誌は、AIを利用した顔や武器の認識技術は「保護者を安心させたい教育委員会や教育長にとって魅力的なソリューションになり得る」と指摘している。

タイム誌によれば、ニューヨーク州では、2020年1月にロックポート中央学区がこの技術を採用したことに対し、保護者たちが法的に異議を申し立てたため、顔認識に関する一時停止措置が実施された。

「ニューヨーク西部のこの学区は、学校で起きた銃乱射事件の余波を受け、防弾ガラスから武装した警備員まで、さまざまなセキュリティ対策を採用するようになった。

2020年、フランスでは顔認識技術を実験的に導入した2つの高校が提訴され、行政裁判所がその導入を禁止する判決を下した。

判決によれば、この技術の導入は「比例も必要性もない」ものであり、生徒の同意が自由に得られておらず、よりプライバシーを侵害しない手段を代わりに導入することができたという。

しかし、他の地域では、このような技術の導入が続いている。8月、フィラデルフィアは地区所有のドローンを導入すると発表した。

バイオメトリック・アップデートは2022年10月、モンタナ州の学校がヴェルカダ社の顔認識技術を "安全性向上のために "使用していると報じた。例えば、サン・リバー・バレー学区では、顔認識システムに "地元保安官事務所からの監視リストと生徒の年鑑写真 "を入力している。

ヒンチリフによれば、中国は学校での顔認識機能を拡張している。"AIとウェアラブルを使い、感情認識やその他の行動面を含めることで、子供が動揺しているときや注意を払っていないときを見分けることができる "という。

「繰り返しますが、学校における顔認識は、子供に恐怖を植え付けることによって行動を操作し、コントロールするためのものです」とヒンチリフ氏は語った。

リチャード・ジャッフェ弁護士は、『ディフェンダー』紙に対し、学校における顔認識の余地はあると語った。

「プライバシーは、他の権利と同様、絶対的なものではなく、生徒の安全という権利に道を譲らなければならない。
ほとんどの保護者、そしてほとんどすべての教職員は、学校の安全性とセキュリティを高めるために、プライバシーの比較的小さな侵害を受け入れるだろうと私は推測している。M16で武装したSWAT警察の小隊が警備するすべての学校を封鎖するのでなければ、解決策にはテクノロジーが関与しなければならず、AIや顔認証がますます関与するようになるだろう。
ほとんどの人はそのトレードオフを受け入れるだろうし、裁判所が現在利用可能な手段を採用する学区に二の足を踏むとはとても思えない」とジャッフェは付け加えた。

フォーブス誌も2023年2月の記事で、学校における顔認識技術の位置づけについて、「賢い技術」としながらも、その「悪い、悪い、悪い実装」を指摘し、「顔認識を使用する前に克服すべきハードル」があると論じている。

これらのハードルには、「学校でのバイオメトリクス使用のウェルビーイングの影響と倫理に関する研究」、このようなシステムが「運用上、最高レベルの権利保護に既定されている」ことを保証すること、そしてその使用が "意図しない結果 "をもたらすことなく "完全に合法的 "であることを保証することが含まれる。