世界のリーダーたちが抱く生成型AIへの懸念 ほか

1. 世界のリーダーたちが抱く生成型AIへの懸念

　非営利団体Center for AI Safetyのウェブページでは「先進的なAIの人類に対する潜在的脅威を警告する声明」が発表されている（CNET Japan）。これに署名しているのはIT業界のリーダーや研究者らである。

　そのなかには、OpenAIの最高経営責任者（CEO）であるサム・アルトマン氏やGoogle DeepMindのCEOであるデミス・ハサビス氏といった人工知能のエキスパートがいる。

　また、OpenAIのサム・アルトマン氏は同社のブログ「Governance of superintelligence」でAI規制を今すぐ確立することの重要性を説いている（CNET Japan）。その主張の骨子は次の3点だ。

1. AI技術の安全性と社会への円滑な融合に主眼を置く、何らかの調整機関の設置
2. 国際原子力機関（IAEA）のような国際的組織の必要性
3. スーパーインテリジェンスを安全にするための技術的能力の必要性とオープンな研究課題

　このように技術を開発した組織のリーダーが規制を求めるというのは異例だ。

　EUを訪問し、政府関係者らとのミーティングをしたサム・アルトマン氏だが、EUで検討している規制案が厳しく「順守が困難ならEUでの事業は停止する」と述べたことが伝えられている（ITmedia）。一方で、言いすぎたと感じたのか、後日、「もちろん欧州撤退の計画はない」とツイートもしている（ITmedia）。

　マイクロソフトもAIの規制を求めている。同社の報告書では「AIシステムの法規制とライセンスを監督する新たな政府機関の設置」などを提案している（ZDnet Japan）。

　グーグルの元最高経営責任者エリック・シュミット氏もAIによって「非常に多くの人が傷つけられたり死んだりする」可能性があることを警告している（Forbes JAPAN）。これはフォーブス誌のインタビューに答えたもの。

　それに加えて、「サピエンス全史：文明の構造と人類の幸福」の著者である歴史学者ユヴァル・ノア・ハラリ氏も懸念を表明している（CNET Japan）。「AIは言語を操作し生成する驚くべき能力を獲得した。（中略）それによってAIは、私たちの文明を制御するためのシステムをハッキングした」とまで表現している。

　もはやワープロ、表計算、データベース、画像編集ソフトのようなビジネスツールと同じようにとらえて、利用を推進をしているだけでは済まないと考えるべきだろう。

2. 生成型AIに対する推進と規制のバランス

　朝日新聞は、政府がこの6月にまとめる「経済財政運営と改革の基本方針（骨太の方針）」の原案を報じている（朝日新聞デジタル）。そのなかでは「ChatGPT（チャットGPT）などの生成AI（人工知能）について、『開発・提供・利用を促進する』とした上で、『最適な利用や、計算資源・データの整備・拡充などAI開発力の強化を図る』と記している」という。

　もちろん、国際的な技術競争に乗り遅れないために、とりわけ「デジタル後進国」などと揶揄されることがあり、キャッチアップをする意気込みは重要だろう。しかし、各国の動きを見ると、もはや推進一辺倒ではなく、「規制」という動きも強く出ている。技術を開発したOpenAIはもとより、AI研究の第一人者であるジェフリー・ヒント博士ら、当事者までもが規制の必要性を口にしている。

　これもまた国際情勢だ。推進だけでなく、規制も含めた考察と、そのバランスをとった政策が求められているのではないだろうか。

3. マイナカード機能搭載スマホ、初期化だけでは安心できない？

　今後、機種変更などでマイナカード機能を搭載したスマホを手放すときには注意が必要だ。メルカリは「スマホ用電子証明書搭載サービス」を失効できているかどうかを確認するよう注意喚起している（ITmedia）。「マイナンバーカードの電子証明書機能をスマートフォンに追加できるが、端末を初期化しただけでは電子証明書が残ってしまう」ということだ。もちろん、スマホを手放すときの話で、メルカリに特化した話ではない。

　ユーザーは手放すときの処理は忘れがちだ。それを考えると、少々、リスキーな印象がある。もし、無効化しないで手放してしまったことに気付いたとき、あとからでも対処が可能なのだろうか。

　デジタル庁は国民全員がマイナンバーを使うように推進するなら、こうしたユーザーの不手際など、さまざまなケースに対する対応もすべきではないか。

4. 大手企業はプライベートなAI環境を構築

　生成型AIを日常業務で使用したいと思う人は多い。そのためには情報を社外のサーバーへ送信する必要があり、情報漏えいなどの危険がある。もちろん、AIがそれを学習してしまう可能性も否定できない。では、使用を禁止すればいいかといえば、そういうわけにはいかない。隠れて使う人が必ずいるからだ。それほどまでに魅力的なツールといえるだろう。そんなジレンマに対応するために、DNPグループ（大日本印刷）、KDDI（Impress Watch）、ソフトバンク（ITmedia）らの大手企業では社内向けに生成型AIの環境を構築している。過去から蓄積してきたデータも取り込むことができ、生産性の向上も期待される。

　だが、こうしたシステム投資ができるのは大手企業だからこそで、中小企業ではなかなかそういうわけにはいかない。

　地方自治体でも対応が迫られている。いち早く対応をしているのが神戸市だ（ITmedia）。「神戸市情報通信技術を活用した行政の推進等に関する条例」を改正することで、市職員に対してChatGPTなどのチャットAIに機密情報を入力しないよう規定する項目を追加したという。ルールの整備は当然必要なことではあるが、完全な抑止を保証することはできない。

　これまでもAIに関しては、出力される回答の知的財産権や出典、正確性、バイアス、フェイクなどの懸念が指摘されているが、そればかりではなく、知らぬまに流出する守秘性の高い情報、プライバシー情報などの漏えいも懸念される。ひとたび流出すれば、回収は困難だ。

　AIに対する夢や理想、効率化による経済性などを語るだけでなく、そろそろこうした対応についての具体的な施策も考えておくべきだ。

5. 「さつきあい」がグラビアデビュー

　集英社がAI生成画像を使ったグラビア写真集「生まれたて。」（電子書籍、499円）を発売した（ITmedia）。モデルは「さつきあい」だが、当然、実在しない。このモデルは週刊誌「週刊プレイボーイ」の編集部が生成したもので「オトコの理想をギュギュッと詰め込んだ夢のような存在を、限りなくリアルに再現した」という。言われければ不自然さは感じない。もちろん、期待どおり、Twitterのアカウントもあり、お仕事募集用のメールアドレスもある（ITmedia）。

　ここまでくると、動画に対する期待も高まる。技術的には実現可能だし、当然、その先の戦略も考えてのことだろう。いずれ「個別お話し会」は実現しそう。

　ITmediaが集英社に知的財産権などについてコメントを求めたところ、「基本的に法務部に確認しながら適法の範囲内でやっている」という回答を得ているという（ITmedia）。