AnthropicはOpenAI出身者らによって設立されたAI企業で、Claudeシリーズなどの大規模言語モデルを提供しています。同社はホワイトハウスに対して「先端AI技術について機密情報を共有できるチャネルを構築するべき」とする文書を提出し、大きな注目を集めています。具体的には、軍事や国家インフラに深く関連する水準のAI技術が登場し得るため、政府機関（国防総省や情報機関など）と主要AI企業の間で機密情報の共有枠組みを作る必要性が指摘されました。いわば「AI軍縮・軍拡管理」に近い考え方で、核技術や宇宙開発の機密扱いと同様、AIにおいても国家安全保障レベルの秘密があるという認識です。この提言の背景としては、Anthropicが「ノーベル賞級の思考能力を持つAIが2026年にも登場し得る」と予測している点が大きいとされています。もし人間の専門家を超える広範な領域知識と推論能力を持つAIが生まれるとしたら、テロ行為やサイバー攻撃への悪用リスク、経済・金融システムへの混乱が起こる可能性が拭えません。そのため、こうした先端モデルの中身や進捗状況を政府にも報告し、適切な監視や安全対策を講じるべきというわけです。一方、こうした「AIと国家安全保障」の話は新しくはありませんが、Anthropicのような大手AI企業が公に“機密チャネル”の設立を求めるのは異例です。Jordan Wilson氏も「今の政権はAI規制にあまり積極的ではないが、Anthropicのような企業がこれを提起することにより、連邦政府も何らかの対策を講じざるを得なくなる可能性がある」とコメントしました。ただし、この提言が実現した場合、民間企業と政府の間で機密レベルのやり取りが増大し、公開の場での透明性が損なわれるリスクも指摘されています。国防や安全保障に関わる技術情報は当然ながら機密扱いになりますが、それがAIアルゴリズム全般のブラックボックス化を加速し、一般社会への情報還元が減る懸念もあるというわけです。

Ask this episode

“What did the council decide on item 42?” — answered with the speaker and the moment.

Transcript

Related