Google、生徒が学校支給のChromebookでGeminiを使い自殺を計画した件で提訴される

米国の遺族がカリフォルニア州の裁判所にGoogleを提訴した。学校支給のChromebookおよび検索AI機能を通じて未成年者にGeminiを提供し、女子生徒の自殺計画を幇助して自傷行為の隠蔽を指南したと主張している。訴状では、Googleに設計上の欠陥、警告義務違反、過失があったほか、カリフォルニア州のコンパニオンAIチャットボット関連法に違反したと指摘。Google側は主張を精査中とした上で、健康専門家と連携して危機対応リソースを整備してきたと説明し、現在は教育向けアカウントでAIツールをデフォルトで無効化するようポリシーを変更したと述べている。