これまではユーザー自身が手を引くのを待つしかなかったが、今や AI が先にマイクを奪い取る。OpenAI はこのほど、今後数週間で ChatGPT により強固な暴力コンテンツのゲートを追加すると発表した。会話が暴力や他人への深刻な危害を加える考えを継続的にめぐる場合、モデルが自ら会話を終了できるようにする。同一アカウントがこの種の問題で複数回切断された場合、アカウント停止も科されることになる。これはゼロからの規定づくりではない——ChatGPT はもともと暴力的行為の計画や実行に関するガイダンスの提供を禁止しており、今回のアップグレードは「能動的な切断」を執行プロセスに補完するもので、「受動的な回答拒否」から「能動的な中断」へと移行し、危険なコンテンツへの対応ロジックが明らかに前倒しされた。
全年齢層に一律適用
新規則は制限をすべてのユーザーに広げ、成人だからといって例外とはしない。調整の重点は「過去の襲撃事件」に関する回答の尺度にあり、モデルは安全の観点から細部を削減あるいは提供を拒否するようになり、襲撃に使用された武器、装備および入手経路をカバーし、加害者の知名度を高め得る犠牲者数の横比較も制限する。言い換えれば、成人も未成年者も同じ引き締められた境界線に直面し、違いは深さだけである。成人ユーザーも同様に問い詰められるが、武器とセキュリティに関する実用情報の追加ブロックは行われない。
未成年者にはさらに一段重ねる
18 歳未満と識別されたアカウントに対し、OpenAI は暴力の実行に使用され得る武器とセキュリティシステムの実用情報を追加で遮断する。質問の表面上に暴力の意図が見えなくても適用される。青少年は引き続き ChatGPT に助けを求めることが許され、暴力を予防または緩和する方法、信頼できる大人への連絡などは遮断の対象外である。併せて改良された年齢予測は、ユーザーの行動などの複数のシグナルを組み合わせ、アカウントが未成年の可能性があるかを継続的に判断し、必要に応じて自動的に青少年保護を適用する。誤判定された場合は、身分情報を自主的に提出して確認することもできる。