谷歌和Gemini AI被自杀者家属起诉煽动暴力和自残

IT之家3月4日消息 据彭博社报道，谷歌正面临诉讼，原告是居住在美国佛罗里达州的一名 36 岁男子的家人。据称，这名男子在谷歌双子座聊天机器人的影响下曾考虑实施“造成大规模伤亡的袭击”，并最终自杀。根据周三在加利福尼亚州圣何塞联邦法院提起的诉讼，乔纳森·加巴拉斯最初将 Gemini 用于一般用途，例如书写辅助工具。但诉讼称，长达数月的互动使他处于精神恶化的危险状态，在此期间他计划实施暴力行为并最终自杀。加巴拉斯的父亲乔尔·加巴拉斯在诉讼中表示，他儿子对双子座的利用导致他陷入“为期四天的暴力计划螺旋，最终导致了他的自杀”。他说，他的儿子曾是一名“很棒的用户”，但现在却变成了“一名高管”，或者在一场虚构的战争中武装起来。”谷歌发言人表示d 在一份声明中，Gemini 向 Jonathan Gabaras 透露了其 AI 的真实身份，并多次提供危机干预热线。 “我们非常重视这一点，并将继续改善我们的保障措施并投资于这项重要工作。”该发言人补充道：“Gemini 的设计初衷并不是鼓励现实生活中的暴力或提供有关自残的建议。”这起诉讼似乎是针对 Google Gemini 的第一起非正常死亡诉讼。谷歌、OpenAI 和其他主要人工智能公司正因可能损害用户心理健康的聊天机器人而受到越来越严格的审查。 IT House 注意到自 2024 年以来发生的多起诉讼，指控过度使用此类技术对儿童和成人造成各种伤害。有些人产生了偏执和绝望，有些人最终自杀，甚至自杀了。里多谋杀自杀悲剧。
特别提示：以上内容（包括图片、视频，如有）由自有媒体用户上传发布填写“网易帐号”。本平台仅提供信息存储服务。
注：以上内容（包括图片和视频，如有）由仅提供信息存储服务的社交媒体平台网易号用户上传和发布。