学校が配布するChromebookがAIに監視されていることが判明、生徒のプライバシー侵害が改めて浮き彫りに

バンクーバーの公立学校が、誤って生徒の機密文書約3500件を無修正のまま記者に開示したことにより、アメリカ中の学校で生徒の活動がAIによって監視されていることが判明したと、AP通信とThe Seattle Timesが共同で報じました。この監視は、生徒をメンタルヘルスや銃乱射のリスクから守る目的で行われていたものですが、特に性的少数者の子どもの暴露といった生徒のプライバシー問題への懸念に発展しています。

Student privacy vs. safety: The AI surveillance dilemma in WA schools | The Seattle Times
https://www.seattletimes.com/education-lab/student-privacy-vs-safety-the-ai-surveillance-dilemma-in-wa-schools/

How AI monitors school Chromebooks and what it means for privacy, security | AP News
https://apnews.com/article/ai-school-chromebook-gaggle-goguardian-securly-25a3946727397951fd42324139aaf70f

伝えられるところによると、監視技術に関する情報公開請求で誤って開示された文書には、生徒たちが学校のノートPCを学業以外のプライベートな調べ物などにも使っており、私生活における不安の対処に役立てていることが示されていたとのこと。

ある学生は検索エンジンで「なぜ彼氏は私を殴るの？」と検索し、また別のゲイの若者は同性愛嫌悪の両親との不和についてブログで打ち明け、自分らしくありたいだけなのにとつづりました。他にも若者らはうつ病や失恋、自殺、依存症、いじめ、摂食障害などについて書き込んでいたほか、資料には学生らが作った詩や大学の課題のエッセイ、AIチャットボットとのロールプレイセッションなども含まれていました。

これら数千件のケースはいずれもAIを搭載した監視ソフトに検知され、即座にバンクーバーの学校職員に警告が通知されています。そしてAIが検出した学生のネット上での行動情報は、パスワードなしのまま職員なら誰でも閲覧できる状態で保管されていたとのこと。

AI監視ツールは多くのケースで、それがなければ誰にも打ち明けられていなかったかもしれない若者たちの悩みを、カウンセラーが知る上で役立ちました。しかし、場合によってはLGBTQ＋の子どもたちが暴露されたり、生徒と学校職員の間の信頼が損なわれたり、子どもにとって学校が安全な場所ではなくなったりするリスクもありました。

バンクーバーの生徒のオンライン活動を追跡するソフトウェアを開発した、Gaggle Safety Managementの創業者のジェフ・パターソンCEOは、メディアの取材に「子どもたちを監視しないことは、柵や見守りのないデジタル遊び場に子どもたちを放つようなものだと考えています」と話しました。

また、学校側は文書を誤って無修正で開示した点について謝罪した上で、生徒の安全を守るためには監視ツールが不可欠だと強調しています。バンクーバーにあるスカイビュー高校のアンディ・マイヤー校長は「生徒を守ることに値段をつけることはできません。問題があることを関知し、介入できるのであれば、どのような場合であれとても前向きなことだと考えています」と話しました。

子どもの親たちの多くはこうした取り組みを知らされておらず、2人のティーンエイジャーの親であるティム・レイランド氏は、娘から学校のノートPCではなくの自分のノートPCを学校に持っていってもいいか聞かれてはじめてそのことを知ったとのこと。

娘のゾーイさんはGaggleの監視ツールのことを知った時のことについて、「もし生理について調べて、『女性器を検索した』と職員室に呼び出されでもしたらと思うと怖くなって、学校のChromebookで個人的な調べ物をすることはできなくなりました」と話しました。

2人の子どもと取材を受けるレイランド氏(中央)。

Gaggleのアルゴリズムは、まずいじめ、自傷行為、自殺、校内暴力などの問題の潜在的な兆候を検出し、スクリーンショットをGaggleの従業員に送信します。そして、問題が深刻なおそれがあることがわかると、Gaggleから学校に通報が入ります。また、問題が差し迫っている場合はGaggleから学校関係者に直接電話することもあるほか、誰も電話に出なければGaggleから警察に通報することもあるとのことです。

Gaggleの監視を受けていた学区の学校に通う子どもを持つであるダシア・フォスター氏は、生徒の安全を守るこうした取り組みについては称賛する一方、プライバシーの侵害については心配しています。

フォスター氏は、今回の学区の不手際について、「とてもいいことだとは言えませんが、私にはどんな選択肢があったのでしょうか？子どもを学校から引き離せばいいのでしょうか？娘の個人情報が漏えいしたらと思うと悲しくなりますが、娘が銃乱射事件に巻き込まれたり、自殺したりするようなことは避けたいです」と話しました。