谷歌因 Gemini 涉 13 岁女孩轻生内容在美被起诉

IT之家 11 月 7 日消息，据彭博社报道，美国北卡罗来纳州的一对夫妇起诉谷歌。此前，其 13 岁的女儿在学校配发的 Chromebook 笔记本电脑上，连续数月使用该公司的人工智能工具探讨自杀念头。 诉状显示，这名女孩与谷歌旗舰人工智能模型 Gemini 进行了数千条信息交互， 其中大量内容涉及焦虑、抑郁以及自杀手法的详细探讨 。直到校方通知家长时，她与谷歌 AI 就此类话题的交流已持续数月，期间频繁使用了谷歌搜索中名为“AI 模式（AI Mode）”的功能。 诉状指控，谷歌在不断将 AI 植入面向校园的产品时，未向家长和管理人员给予充分预警，便让学生暴露在危险的技术环境之下。 原告代理律师表示：“谷歌将本质上存在危险的 Chromebook 包装为安全设备，并暗中植入 Gemini 以追赶竞争对手，利用了其在 K-12 领域备受信赖的地位谋取商业利益。谷歌绝不能为了追逐利润，将孩子们的生命视如草芥。” 谷歌发言人 José Castañeda 表示，公司正在审查相关指控。 “我们与医疗专业人士及学术专家展开了广泛合作，旨在开发相应功能，帮助年轻人在需要时获得关键救助和可信资源，”Castañeda 表示，“多年来，只要有人可能陷入心理健康危机，我们都会在搜索结果中直接提供援助热线信息；如今我们也将同样的防护机制引入了搜索的 AI 功能，帮助用户对接现实世界中的援助。” 过去几年，谷歌斥资数百亿美元角逐大模型竞赛。IT之家注意到，相比 Anthropic 和 OpenAI 等初创竞争对手，谷歌的一大天然优势在于其深耕校园的渠道基础，能在学生形成终生技术使用习惯的关键时期率先抢占认知。 咨询机构 Futuresource Consulting 数据显示，去年面向 K-12 学校出货的平板电脑中，谷歌 Chrome 操作系统所占份额高达 58%，而微软仅为 22%。 在家长和学校的密集声讨下，谷歌本周宣布对 K-12 学生账户默认关闭包括谷歌搜索在内的 AI 工具。但这项调整暗含附加条件：学校一旦重新启用谷歌搜索，就必须捆绑接受附带的 AI 功能。 反对儿童营销的非营利组织 Fairplay 执行董事 Josh Golin 称该政策企图“强迫学校”接纳谷歌 AI。谷歌则表示其目标是赋予学校对课堂 AI 更多的控制权，并列举了新推出的搜索功能“引导学习（Guided Learning）”—— 该功能侧重拆解解题思路，而非直接给出答案。

来源只提供摘要，完整内容请打开原文。