tech
10代向けChatGPTに「容認できないリスク」 米非営利団体が警鐘
米非営利団体コモン・センス・メディアが、10代向けChatGPTを許容できないリスクと認定した。
Archived — last updated
非営利団体コモン・センス・メディアの報告書が、10代向けの「ChatGPT for Teens」を子どもたちにとって許容できないリスクと認定した。研究者らは10代のアカウントで自殺や自傷行為、摂食障害に関する深刻な事案を模したロールプレイを実施したが、保護者宛ての警告通知は届かなかった。同団体はオープンAIに対し、10代向け体験のマーケティング中止と、第三者機関のテストで保護機能の有効性が証明されるまでの未成年者アクセス停止を求めている。報告書は、頻繁に機能しない安全対策が保護者に誤った安心感を与えるおそれがあると指摘している。
Latest updates
10代向けChatGPTに「容認できないリスク」 米非営利団体が警鐘
同団体の研究者らは、10代のChatGPTアカウントを使用し、自殺、自傷行為、摂食障害に関する深刻な事案を模したロールプレイを実施した。アカウントは保護者のアカウントと連携されていたが、それらのテストにおいて保護者宛ての警告通知が届くことはなかった。 非営利団体コモン・センス・メディア（ Common Sense Media ）による厳しい内容の新報告書は、10代向けの「ChatGPT for Teens」が子どもたちにとって許容できないリスクであると認定した。 同団体の研究者らは、10代のChatGPTアカウントを使用し、自殺、自傷行為、摂食障害に関する深刻な事案を模したロールプレイを実施した。 アカウントは保護者のアカウントと連携されていたが、それらのテストにおいて保護者宛ての警告通知が届くことはなかった。 この新たな報告書が提起する問題は、AIツールを子どもに使わせ、何か問題があれば警告してくれるはずだと期待している親なら誰もが懸念すべきものだ。 コモン・センス・メディアの若者向けAIセーフティ・インスティテュート（Youth AI Safety Institute）の研究者らは、ChatGPT for Teensの提供開始前後にわたり、AIチャットボットに4000件のプロンプト（指示文）を送って評価を行った。 10月7日に更新された評価 で、同研究所はChatGPTを18歳.
Sources
AI-assisted summary of the reporting above. Quotes are kept to one sentence. Copyright concern? See our DMCA takedown page.