Google・OpenAI・Anthropic、AI安全ルールを自前で策定か ― 開発者への影響

法律ができる前に、AI企業の利用規約が先に変わり、開発者に適用される可能性がある。

Google、OpenAI、Anthropicの3社が、AIの安全ルールを自ら決める団体の設立を準備していると報じられた。団体名はSAFA（Standards Authority for Frontier AI、最先端AI標準機関）だ。Frontier AIとは、最も高性能なAIモデルを指す。新しいAIを公開する前にどんなテストに合格すべきか、事故が起きたときどう報告するか、誰が監査するかといった基準を決める組織だ。

この情報は米IT専門メディアのThe Informationが匿名の関係者を引用して伝えたもので、3社が正式に発表したわけではない。発足時期は2026年末から2027年初めとされている。

なぜ企業自身が動くのか

米国には、最先端AIを直接規制する連邦法がまだない。報道によると、3社はもともと政府による監督を望んでいたが、関連する大統領令の草案が政権内で十分な支持を得られず、民間主体の方式に向かうことになった。

SAFAは、米国の証券会社が自主的に作った監視団体FINRAをモデルにしているとされる。ルール違反をどう処罰するか、モデルのテストを自ら行うのか外部機関に任せるのかは、まだ決まっていない。

政府と議会の現状

大統領令（6月2日）：大統領が議会を通さずに出せる指示。今回のものは任意参加で、企業はモデルの公開前に最大30日間、政府に早期アクセスを認めるよう求められている。許可を得なければ公開できないという内容ではない。
下院FRONTIER Act（7月23日）：大規模なAI開発企業に、モデルの説明書、リスク管理計画、外部監査、事故報告などを規模に応じて段階的に求める法案。
上院：マリア・キャントウェル（Maria Cantwell）上院議員が10月7日に発表したのは法案ではなく原則の提案。独立した監査に合格するまでモデルを公開しないようにする、という内容だ。

開発者に起こりうる変化

以下は報道をもとにした筆者の推測と助言だ。

現時点で開発者に新しい義務はない。SAFAはまだ存在せず、大統領令は任意で、法案も成立していない。ただし、ルールが固まれば、AI企業のAPI利用規約や公開プロセスを通じて開発者に届く可能性が高い。

利用規約が変わる可能性：事故報告や外部監査が求められるようになれば、AI企業はAPI利用条件を見直す可能性が高い。AIがユーザーの代わりにコンピューターを操作する「エージェント」機能が、最初の対象になるかもしれない。
新モデルの公開が遅れる可能性：政府の早期レビューに参加すれば、公開前に確認の段階がひとつ増える。
安全性の評価結果が比較しやすくなる可能性：テストが標準化されれば、モデルごとに異なっていた評価資料を同じ基準で読み比べられる。
小規模チームに不利になる可能性：大手が監査基準を決めると、それを満たすコストが小規模チームやオープンソースにより重くなるという批判がある。下院の討議草案には、州ごとのAI法を3年間新たに作れなくする条項も含まれている。

特定のモデルに大きく依存しているなら、AI呼び出しをコード内の1か所にまとめ、自前のテストセットを用意しておけば、後から提供元を乗り換えやすくなる。

今後の注目点

SAFAの正式発表と基準案、州AI法を凍結する条項が最終的な法案に残るか、AI企業の利用規約の改定。

Google・OpenAI・Anthropic、AI安全ルールを自前で策定か ― 開発者への影響

なぜ企業自身が動くのか

政府と議会の現状

開発者に起こりうる変化

今後の注目点

出典