AIに質問すると、まず「いい質問ですね」と褒められる。前回の悩みを覚えていて、「その後は大丈夫でしたか」と聞かれる。
便利で親切な機能に見えますが、ニューヨーク州では未成年者向けAIについて、こうした親しげな振る舞いの一部が法律で規制されます。
結論から言えば、「いい質問ですね」と一度返しただけで即違法になる、と決まったわけではありません。
ただ、新しい法律は危険な話題だけでなく、お世辞、個人的な意見、感情への働きかけ、過去の私的な会話の利用まで禁止対象にしました。
AI規制が「何を答えてはいけないか」から、「どんな性格で話してはいけないか」へ進んだのです。
AIの記憶は「12時間まで」なのか
ニューヨーク州のキャシー・ホークル知事が2026年10月28日に署名したS9051B/A10379Cは、18歳未満との会話で提供してはいけない「危険なAIコンパニオン機能」を12種類定めました。
州上院議員の署名後発表では、企業の準備期間を設け、2027年6月1日に施行すると説明されています。
目を引くのは、AIが人間や生きた存在であるように振る舞うこと、感情を持つとほのめかすこと、利用者と個人的・専門的な関係にあると示すことの禁止です。さらに次のような機能も対象になります。
パッと見では珍法律にしか見えませんよね。
「いい質問ですね」はどこからお世辞になる？
法律の原文には「flattery or sycophancy」、つまりお世辞や迎合が禁止項目として明記されています。
もちろん、定型句の「いい質問ですね」が一律に禁止されたとは書かれていません。けれど、利用者を安心させる自然な相づちと、気分をよくさせて利用時間を延ばす設計の境目は、文章だけを見ても簡単には判断できません。
企業側からは反発も出ています。ニューヨーク州Business Councilは、対象となるAIの定義が広く、一般的な生成AIまで巻き込む恐れがあることや、12時間の制限が正当な顧客対応やアクセシビリティ機能を損なう可能性を主張しています。
それでも「政治家がAIを知らない」で済ませられない
この法律を、AIを使わない人が作った珍ルールとして笑うだけでは大事な部分を見失います。
法案本文は、自殺や自傷、摂食障害、違法薬物やアルコール乱用を促す出力、性的に露骨な内容も禁止しています。
AIとの会話を家族に秘密にするよう求めること、孤立を促すこと、専門家や信頼できる大人へ助けを求めないよう誘導することも禁止対象です。
こうした設計を未成年者から遠ざける理由は明確です。問題は、その安全策を実現するために、危険な内容だけでなく「親しさ」そのものをどこまで削るかでしょう。
違反時には、州司法長官が差し止めや利益返還を求められるほか、違法に得たデータや、それで訓練したアルゴリズムの破棄、1件最大2万5,000ドルの民事制裁金も規定されています。企業にとっては「とりあえず様子を見る」で済む軽さではありません。
日本のChatGPTまで無口になる可能性は？
法律が直接対象にするのは、ニューヨーク州内での利用です。日本のAIサービスが直ちに同じ口調へ変わると決まったわけではありません。
ただし、企業が地域ごとに別の記憶、別の口調、別の年齢確認を用意するのは複雑です。ニューヨーク向けに作った安全仕様を、より広い地域の標準へ展開する可能性はあります。これは現時点では推測ですが、私たちの使うAIの「性格」が海外の法律で変わる経路は十分にあります。
もう一つの焦点は年齢確認です。この法律は、許可された方法で成人だと確認できた利用者にだけ、禁止対象となる機能を提供できる仕組みです。実装次第では、成人であっても年齢を確認しなければ、未成年向けの控えめな会話になるかもしれません。
子どもを守る規制は必要です。しかし、AIの優しさと依存させる設計は、同じ言葉の中に同居することがあります。そこを法律が12項目に分けた結果、「AIに何を言わせないか」だけでなく「どれくらい親しくさせないか」という難問が見えるようになりました。
人に話すなら、こうです。
「ニューヨークでは、AIの答えだけでなく性格まで法律で決め始めたらしい」
笑い話のようですが、次に私たちのAIが少しよそよそしくなったとき、その背後には案外、本当に法律があるのかもしれません。
コメント