ニュース
神戸市、全国初の“包括的なAI条例”を施行――制定の背景と必要性、市の最高デジタル責任者が語る
リスクを認識してAIを安全に活用
2024年5月10日 10:25
神戸市は「神戸市におけるAIの活用等に関する条例」を今年2月に市議会に提出し、3月に可決、段階的に施行されることが決まったと発表した。すでに一部が施行されており、9月末までに完全施行を予定している。包括的なAIに関する条例の施行は全国初だという。この条例について神戸市が4月30日、報道関係者向けのラウンドテーブル（意見交換会）を東京都内で開催したので、その内容もあわせてお伝えする。
2023年には“生成AIの利用を制限する条例”制定、今回は“AI活用”にも広げた包括的な内容へ
神戸市では2023年5月、生成AIの利用を制限する条例を制定したが、今回の条例はこのときの内容も含まれるとともに、生成AI以外のAI活用にも広げたものとなっている。この条例により、神戸市の職員が重要な案件でAIを活用する際はリスクアセスメントを行い、AIの活用結果が及ぼす影響レベルに応じた安全対策を講じることが義務付けられる。
今回の条例が施行された背景としては、欧州議会で包括的なAI規制法案が可決されるなど、世界各国でAIに関する規制の動きが加速していることが挙げられる。日本でも同様にAIに関する規則の見直しが進み、2024年4月19日には総務省と経済産業省から新たな「AI事業者ガイドライン」が発表された。このような動きにともなって、今後はAIの開発者やAIサービスの提供者のみならず、一般の企業や官公庁などAI利用者側においても独自の規制や自主的な取り組みが求められるとみられている。
AIの利用が進むなかでは、従来のデジタル技術とは異なる個人の権利・利益に対するリスクが生じることが懸念されている。神戸市はそのリスクの例として、オランダで起きたトラブルを挙げている。オランダでは、児童手当の電子申請システム内で不正な申請や詐取を通知するAIが誤判断し、約2万6000世帯が経済的に困窮した結果、政府が謝罪して内閣が総辞職したという。このような事案を発生させないため、神戸市ではAIの活用について有識者会議を設置して検討し、神戸市独自で実践的なルールの整備に取り組んだ。
「神戸市におけるAIの活用等に関する条例」は、今後、生成AIを含めたさまざまなAIの利用が行政分野で進んでいくことを考慮し、情報漏えい以外のリスクも想定した包括的なAIに関する活用ルールを定めることで、市民の権利や利益を保護することを目的としている。
重要業務でのAI活用ではリスクアセスメント実施、生成AIでは個人情報の入力を禁止
「神戸市におけるAIの活用等に関する条例」の内容は全11条で、第1条にはその目的として「市民の権利利益を保護しつつ効果的かつ効率的な市政を推進する」と記載されている。今回のルールは神戸市が市役所の業務においてAIを用いるときのルールを定めたものであり、一般市民や事業者（市の行政処分などに関わる受託事業者等を除く）の活動に制約を課すものではない点がポイントだ。そして条例の目的はあくまでも規制そのものではなく、一定のルール下でAIを効果的かつ安全に活用することを目指している。
第3条では基本理念として、「AIの効果およびリスクを適切に判断する能力を持った職員の育成に努めるとともに、市民および事業者がAIの効果およびリスクを判断することに資する情報の提供に努めること」と記載されている。技術的な部分でAIのリスクを下げる取り組みも重要だが、それ以上に、AIの利用者がリスクの存在をきちんと認識した上で「どうすればリスクを下げられるか」を考えることが重要であるとしている。
第6条では、AI活用のリスクを評価する「リスクアセスメントの実施」について定められている。ただし、あらゆる業務でリスクアセスメントを行うわけではなく、課税や営業許可、給付認定など市民の権利利益に影響を与える行政処分や、その基になる計画策定など、重要な業務でAIを活用する場合にのみ条例に基づくリスクアセスメントを行う。
リスクアセスメントは、単にリスクを評価するだけでなく、行政運営を効率化しつつ市民の権利・利益に与える危害をできるだけ低減するための手法を検討することを目的としている。そのために、「どのような学習データを用いているか」といったAI自体の評価だけでなく、「職員が最終判断する仕組みになっているか」といった市側の運用面の評価も行う。これは、AIのリスクをゼロにするのは現実的ではなく、職員がAI活用のリスクを正しく認識し、そのリスクに適切に対処する仕組みを設けることこそが重要であると考えているからだ。
第7条は生成AIの活用に関する内容で、プロンプトに個人情報などの機密情報を入力することを禁じることに加えて、市会（市議会）において答弁内容を生成AIに委ねることも禁止している。これは、首長と議会との関係は民主主義を支える基盤であり、どのような答弁を行うかに際して内容を生成AIに委ねるのは適切ではないと考えているからだ。ただし、事例調査や文献の要約など、答弁の参考とする資料の作成への活用については、ファクトチェックを行うことを前提として禁止はしない。これは、けっして無制限にAI活用を認めるわけではなく、かといって一切禁止するわけでもなく、首長と議会の二元代表制の考え方とAIの効果的な活用の考え方の両者のバランスを取ったうえでの措置だとしている。
このほか、市民や事業者に向けてAIに関する知識の着実な普及を図ることも記載されており、市立学校においてもAIを適正に活用するための教育を実施する。また、AI活用について専門家に助言を求めるため、識者を「AI活用アドバイザー」として任命できるようにすることも明記されている。
アンケート案やペルソナの作成でAIは有効
神戸市はこれから行財政改革を進めるうえで、AIなどのデジタル技術の活用は不可欠であると考えている。生成AIについては2023年、庁内のMicrosoft Teams内にチャットボットを作成し、ChatGPTに連携する独自の検証環境を職員の手で内製した。2023年6月から3カ月間の試行利用の結果、アンケート案やペルソナ（架空の市民像）の作成などの場面で行政業務の効率化が見込まれ、2024年2月から本格利用を開始して全職員が使えるようになっている。
アンケート案の作成については、実証実験に対する市民向けのアンケートを行うために、アンケートの設問や回答の選択肢をAIに提示してもらったところ、アンケートの質や作業スピードが向上したという。また、ペルソナの作成では、新型コロナワクチン接種を進めるため、仮想の市民をペルソナとして生成AIで作成し、そのペルソナが市の広報紙を見てどのような感想を持つか、どのような行動をとるかというシミュレーションを行いながら広報コンテンツを検証。生成AIを活用した業務の効率化に大きな可能性を感じたという。
このほか、区役所窓口のシフト表作成をAIを用いて支援するツールや、AIによる犯罪発生予測、AIを活用してSNS上に投稿された危機に関するデータを自動収集・解析してリアルタイムで可視化するサービス、自然文での問い掛けに対して検索できるウェブサイトの検索システム、アンケートデータ等のデータ分析ツールなど、さまざまなAI活用の取り組みを行っている。
また、RAG（検索拡張生成）により庁内の各種マニュアルや通知文などの独自データを参照させて、生成AIが神戸市に特化した回答するシステムも開発中で、マニュアルなどを情報源とした庁内向けFAQのツールとして期待しているという。
ラウンドテーブルでは生成AI活用の事例として、MicrosoftのCopilotを使ったデモも行われた。このデモでは、子育てに困難を抱えている世帯のペルソナを3人作成するようにAIへ入力した。名前や性別、年齢、学歴、職業、子どもの数、世帯年収、家族構成、親の健康状態、日常で抱えている子育て上の課題などの項目を挙げ、これらの項目を満たすように指示し、内容の重複を避けるように重ねて指示したところ、すぐに3人のペルソナが作成された。
さらに、神戸市の施策に対する反応を見るため、「『こどもっとKOBE』（子育て応援サイト）に掲載されている神戸市の子育て施策のうち、この3人それぞれのペルソナが興味を持つ支援施策を具体的に教えてください」と入力すると、それぞれのペルソナが興味を持つ支援施策がランキング形式で紹介された。
また、「こどもっとKOBE」に掲載されていない神戸市以外の自治体が実施する魅力的な子育て支援策を調べるように依頼すると、インターネットの検索を行ったうえでいろいろな市区町村の子育て施策が表示され、それらの施策に対しても3人のペルソナが魅力を感じる理由を調べることができた。このようなプロセスでAIを利用することによって、市民の特性に応じて市が実施する施策への関心がどのように変わるのかをシミュレーションすることができる。
積極的な活用とリスク管理のバランスが大事
神戸市デジタル監（最高デジタル責任者）の正木祐輔氏は、今回の条例について以下のように語った。
「神戸市は人口移動や就業状況に関するダッシュボードの公開やkintoneの導入など、いろいろな新しい技術を積極的に使っており、AIについてもChatGPTが登場し始めた段階で試行を開始しました。しかし、こうした新しい技術を安心して積極的に使っていくためにはむしろルールが必要であり、海外の動向や政府の議論を見ながら、このたび神戸市としてのルールを作成しました。
作成するうえでは内部でさまざまな議論がありましたが、条例があることで市民や事業者が萎縮してしまうのは良くないと考えていて、あくまでもコントロールの対象は市の職員が行うことに限ることとし、市民や事業者に対しては『AIにはこんなメリットもあるけど、こんなリスクもありますよ』ということを伝えていきたいと考えています。
AIについては『業務が抜本的に変わってみんな失業する』とか『まだまだ全然使えない』とか極端な議論になりがちですが、『こういうものには使えるけど、こういうものには使えない』と冷静にリスクや効果を見定めることが重要だと思いますし、そのバランスを取るのがこの条例だと思います。」
今後はAIを単に使用するだけでなく、さまざまな業務が存在する市役所において、AIが実務に役立つ場面・条件を1つずつ明らかにしながら、どの場面でどのように使えばAIが役立つのかという実効性のある活用モデルを確立していく予定だ。さらに、庁内マニュアルなどの独自データを活用することでAIに回答してもらう環境構築も進めて、AIの積極的な活用とリスク管理を両面で進めていく方針としている。
また、リスクアセスメントの整備も進めていく方針で、今年9月末までに基本指針を策定し、条例を施行する予定だとしており、東京大学および株式会社Singular Perturbationsとともに基本指針策定に向けた調査を行っていく予定だ。