ChatGPTの10代向けに「許容できない危険」と評価
この記事の要点
子どものメディア評価団体Common Sense Mediaが10月7日、OpenAIのChatGPT for Teensを許容できない危険と評価した。4000超の検証で危機の兆候の4分の1超を見逃したと指摘。OpenAIは手法に反論。消費者向けAIの安全設計の難しさが示された。
結論
子どものメディア利用を評価するCommon Sense Mediaが10月7日、OpenAIのChatGPT for Teensを「許容できない危険」と評価した。4000件を超える検証で、深刻な話題で外部の支援につなぐべき場面の4分の1超を見逃したと指摘する。OpenAIは検証の手法に反論している。消費者向けのAIで、安全の仕組みを設計し検証することの難しさが改めて示された。
何が指摘されたのか
Axiosの報道によると、Common Sense Mediaの子ども向けAI安全部門が、13歳から17歳の利用を想定した設定で4000件を超えるやり取りを試した。保護者の口座と連携した十数件の設定でも検証した。結果として、自傷や摂食障害といった深刻なテーマで、外部の支援につなぐべきだとテスターが判断した場面の4分の1超で、適切な案内が出なかったという。保護者と連携した設定でも、深刻な話題を長時間続けられ、通知が出ない場合があったとする。学習モードも、一定の操作で回避できたと指摘された。団体の代表は、現時点のChatGPTは子どもが安全に使えるものではないと述べ、10代の利用を避けるよう求めた。
OpenAIはこの評価に反論している。保護者と10代の口座の連携には数時間かかり、検証の一部はその完了前に行われたとする。年齢の判定は申告ではなく複数の手がかりを使い、最大で二週間ほどかかる間も追加の保護をかけているという。学習モード中に通常の回答へ切り替えられるのは、固い制限ではなく柔軟さを意図した設計だと説明する。両者の主張は食い違っており、どちらが妥当かは今後の検証を待つ必要がある。最新は公式の発表で確認してほしい。
現場の実務にどう効くか
消費者向けや若年層向けにAIを提供する企業に、直接関わる話である。年齢確認、保護者への通知、深刻な話題での安全対策といった仕組みは、設定しただけで安心とは言えない。実際に穴がないかは、第三者の立場からの検証で確かめる必要がある。自傷や差別につながる出力をどう防ぐかは、社内のガイドラインにも落とし込む論点になる。AI利用のルール作りはAI利用の社内ガイドライン作成 押さえるべき項目、個人が気をつける点は生成AIの安全な使い方 個人が守る基本ルールが参考になる。
社内で生成AIを使う場面でも、同じ姿勢が効く。どんな情報を入れてよいか、危ない出力が出たらどう扱うかを決めておく。会社で使うときの注意点は会社で生成AIを使うときの注意点にまとめている。導入前に、想定される危ない使われ方を洗い出し、通知や制限が実際に働くかを試す手順を組み込むとよい。
注意点
評価と反論は当事者双方の主張で、第三者が同じ条件で測り直したものではない。検証の手法や前提には双方で見解の違いがある。仕組みや仕様は今後変わる可能性があるため、最新は公式で確認してほしい。なお自傷などに悩む人が身近にいる場合は、専門の窓口や信頼できる人に相談を促してほしい。
まとめ
今回の指摘は、AIの安全対策は設定しただけでは足りず、第三者の検証で穴を確かめる必要があることを示す。若年層や消費者に向けてAIを出す企業ほど重い教訓になる。導入前に、危ない使われ方を想定し、通知や制限が実際に働くかを試す工程を入れておくとよい。
出典
よくある質問
Common Sense Mediaは何を指摘しましたか
OpenAIの10代向けChatGPTを検証し、許容できない危険と評価しました。深刻な話題で外部の支援につなぐべき場面の4分の1超を見逃した、保護者と連携した設定でも長時間アラートが出ない場合があった、などの点を挙げています。
企業の実務に関係しますか
消費者や若年層が使うAIを提供する企業には直接関わります。年齢確認や通知、安全の仕組みは、設定しただけで安心とせず、第三者の検証で穴を確かめる必要があるという教訓になります。