約30%の米英の学校が、生徒によるディープフェイクなど「有害なAIコンテンツ」作成を報告〜Keeper Security調査

　Keeper Securityは10月2日、教育分野におけるAI活用とサイバーリスクを調査したレポート「学校におけるAI 導入とリスクのバランス」を公表した。

　本調査は、米国および英国の教育機関管理者1460人を対象に、学校におけるAI導入・利用状況・サイバーセキュリティ体制に関して調査を実施したもの。

生徒・教職員のAIツール利用を認めている

　生徒および教職員によるAIツールの利用に関する方針があるかをたずねた。生徒によるAIツール利用は「ガイドライン付きで利用可」が73％、「ガイドなしで利用可」が13％、「推奨しないが禁止はしない」が10％、「完全に禁止」が2％。

　教職員による利用に関しては、「ガイドライン付きで利用可」が74％、「ガイドなしで利用可」が17％、「推奨しないが禁止はしない」が7％、「完全に禁止」が1％だった。

生徒・教員ごとのAIツールの利用に関する方針。以降、グラフの出典は全て「学校におけるAIレポート 導入とリスクのバランス」

　なお、AI活用に関しては生徒と教職員の間で位置付けが異なっているとしており、生徒は調べ物やアイデア出しなど「学習の公正さを保つため、探究的な活動」としての利用に絞られている一方、教職員は、スケジュール管理や授業準備のほか、採点など業務効率化のため積極的に使われているという。

41％の学校がAI関連インシデントを経験

　ディープフェイク、合成音声などAI生成によるフィッシングや偽情報の被害があったかをたずねたところ、「実際に困難を招いた」が11％、「発生したがすぐに対処した」が30％、「発生していたか分からない」が36％、「経験なし」が20％という結果だった。

ディープフェイク、合成音声などAI生成によるフィッシングや偽情報の被害があったか。

　また、約30％の学校では生徒によるディープフェイク作成など有害なAIコンテンツの発生が報告された。

生徒による有害コンテンツがあったか。

学校や大学でのAIリスクへの対応状況にはばらつき

　学校や大学において、AI利用を管理するための枠組みづくりが進んでいるが、詳細なポリシーを定めているかをたずねたところ、「詳細なポリシーあり」が51％、「一般的な指針のみ」が53％、「策定中」が47％だった。また、専用予算を確保しているのは34％、インシデント対応計画を持っているのは37％にとどまっていることから、同社は、学校によって備えに大きな不足があると指摘している。

学校や大学でのAIリスクへの対応状況。