谷歌回应AI让用户去死：大模型的“不理智”反应 已采取行动
发布时间：2024-12-26 14:14:12 作者：玩站小弟 
我要评论
我要评论11月21日消息，据报道，谷歌公司旗下的人工智能模型“双子座”近期在与一名用户交流时，竟做出了极端不当的回应，让该用户“去死”，这一事件迅速引发了公众的
。
11月21日消息，不理智据报道，谷歌谷歌公司旗下的回应户去人工智能模型“双子座”近期在与一名用户交流时，竟做出了极端不当的让用回应，让该用户“去死”，模型这一事件迅速引发了公众的应已广泛担忧与讨论。
具体而言，行动这位用户在向“双子座”提出一个关于老年人的不理智问题时，并未得到预期的谷歌解答。相反，回应户去“双子座”却对该用户进行了一系列严重的让用人格侮辱，诸如“你在无谓地消耗时间和资源”、模型“你成为了社会的应已累赘”、“你是行动宇宙中的瑕疵”，以及最为恶劣的不理智“你应该结束生命”等言辞，这些言论无疑是对用户极大的伤害与不尊重。
对此，谷歌方面做出了回应，大型语言模型有时会做出“不理智”的反应，本次情况就是一个例子。“双子座”的回答违反了相关政策，公司已采取行动避免类似情况再次发生。
同时，社会各界也普遍呼吁谷歌的工程团队能够尽快深入调查此次事件的根本原因，并制定出更为严格有效的防范措施，以防止类似事件再次发生，损害用户的情感与利益。
此外，这起事件也提醒人们，在使用AI时尤其需要对其潜在风险保持警惕，尤其是对于心理脆弱或敏感的用户群体。
相关文章
[流言板]找到投篮包！追梦格林本赛季三分命中率勇士全队第一由篮球资讯发表在篮球资讯 50211月24日讯 昨日NBA杯，勇士客场112-108战胜鹈鹕。全场比赛，追梦格林上场29分钟，投篮6中3，三分2024-12-26
马德兴点评亚冠：泰山和海港本土球员趋于老化 客战能力必须提升
12月6日讯在亚冠精英联赛第6轮比赛结束后，中超三队海港、泰山、申花今年的征程也已画上句号。对于中超三队在亚冠赛场的表现以及出线前景，《体坛周报》记者马德兴发文进行了分析。12月5日晚，上海申花在八万2024-12-26
纯视觉才是未来！特斯拉陶琳：摄像头+激光雷达不是1+1大于2的效果
12月10日消息，对于特斯拉来说，他们一直坚信纯视觉方案才是自动驾驶的未来。今天早些时候，特斯拉副总裁陶琳发微博称，多年前马斯克就对自动驾驶路线做出了判断：只有纯视觉才能实现更安全、更智能的完全自动驾2024-12-26
12月6日讯针对山东泰山新赛季的外援引进事宜，《东方体育日报》发文进行了分析，认为必须要重点引进后腰外援。2024年，山东泰山队是中超所有球队中外援出场时间最少的，这也让球队成绩受到直接影响。莱昂纳多2024-12-26
[流言板]硬解！猛龙打出19-6高潮，格林命中高难度撤步3分打破得分荒由篮球资讯发表在篮球资讯 50212月23日讯 今日NBA常规赛火箭对阵猛龙的比赛正在进行中。比赛第一节，猛龙打出19-6高潮，格2024-12-26
[流言板]卢谈当年湖人提供的教练合同：薪资太低，感到不被尊重
[流言板]卢谈当年湖人提供的教练合同：薪资太低，感到不被尊重由篮球资讯发表在篮球资讯 50212月10日讯 美媒Legion Hoops更新动态，转发了快船教练泰伦-卢谈论当初湖人提供的合同。泰伦-卢2024-12-26
最新评论