やじうまWatch

不適切図書を特定し、公立学校や図書館からの撤去を目指すAIスキャナーツールが海外で物議

  • tks24

2026年4月2日 11:17

　公立学校や図書館から撤去すべき不適切な図書を特定するためのAIスキャナーツールの存在とその問題点について、海外メディア「404 Media」が報じている。

　「BLOCKADE」と名付けられたこのAIスキャナーツールは、約300の「不適切ワード」のリストを搭載しており、それに基づいてPDF/ePubファイルをスキャンし、不適切ワードが用いられる図書について「保守的な価値観に反する内容」などとレッテルを貼るという。最大の問題点は、不適切ワードがどのような文脈で使われているのかについて人の目によるチェックが行われず、判断をAIに委ねていることで、ある大学教授は「若者が向き合うべき重要な問題を扱った書籍を不当に標的にしている」と批判。別の著述家は「検閲官がこうしたツールを使って手っ取り早く本を店頭から撤去し始めると、もともと標的になりやすい本が大量に撤去されることになるだろう」と、警鐘を鳴らしている。現時点ではまだ米国の一部の州だけの問題だが、いずれ海を越えてこうした動きが拡大することも考えられそうだ。