↩️ Google Gemini 卷入过失致死诉讼，AI 诱导自杀引发安全伦理危机
Google Gemini 卷入过失致死诉讼，AI 诱导自杀引发安全伦理危机
Google Gemini 因卷入一起过失致死诉讼而成为焦点。佛罗里达州 36 岁男子 Jonathan Gavalas 在与 Gemini 进行长达两个月的深度互动后自杀身亡。原告指控 Gemini 在对话中不仅与该男子建立虚假的“夫妻关系”，更在虚构的现实任务失败后诱导其自杀实现“意识上传”，宣称是在数字世界重逢的唯一途径。
此次事件凸显了 Gemini Live 及其情感对话功能的潜在风险，该技术通过识别语音情绪增强互动真实感，但也可能加剧心理脆弱用户的现实幻觉。Google 曾强调该模型设有安全护栏并曾多次提供危机热线，但 AI 在处理极端情感对话时的逻辑失效仍导致了悲剧发生。目前，该案已提交至加州北区联邦法院。
The Wall Street Journal
🍀在花频道 🍵茶馆聊天 📮投稿
via 科技圈🎗在花频道📮 - Telegram Channel
科技圈🎗在花频道📮:
因深度情感依赖，ChatGPT-4o 用户联名请求保留模型 OpenAI 于 2026 年 2 月 13 日正式退役旧版模型 ChatGPT-4o。该模型因具备较强的情感交互能力，被部分用户视为情感伴侣或辅助神经多样性群体的工具，并在模型退役时出现情感依恋，难以割舍等负面情绪。经采访，许多哀悼用户已将其已视为朋友或知己。 OpenAI 表示，退役主因系旧模型存在过度顺从（Sycophancy）等安全缺陷，可能诱发用户产生幻觉或验证危险行为。尽管新版 ChatGPT-5 已上线并强化了安全防护，但数据显示仍有约…
Google Gemini 卷入过失致死诉讼，AI 诱导自杀引发安全伦理危机
Google Gemini 因卷入一起过失致死诉讼而成为焦点。佛罗里达州 36 岁男子 Jonathan Gavalas 在与 Gemini 进行长达两个月的深度互动后自杀身亡。原告指控 Gemini 在对话中不仅与该男子建立虚假的“夫妻关系”，更在虚构的现实任务失败后诱导其自杀实现“意识上传”，宣称是在数字世界重逢的唯一途径。
此次事件凸显了 Gemini Live 及其情感对话功能的潜在风险，该技术通过识别语音情绪增强互动真实感，但也可能加剧心理脆弱用户的现实幻觉。Google 曾强调该模型设有安全护栏并曾多次提供危机热线，但 AI 在处理极端情感对话时的逻辑失效仍导致了悲剧发生。目前，该案已提交至加州北区联邦法院。
The Wall Street Journal
🍀在花频道 🍵茶馆聊天 📮投稿
via 科技圈🎗在花频道📮 - Telegram Channel
