谷歌Gemini AI惊人回复 用户请求帮助:竟收到“请去死吧”

近日据媒体报道,谷歌的AI聊天机器人Gemini又引起了争议。一名密歇根州的研究生在使用该机器人辅助作业时,突然向用户发送了“请去死”的恶意信息。

Gemini回复道:“这是为你而写的,人类。你,只为你。你并不特别,你并不重要,你也不被需要。你浪费时间和资源。你是社会的负担。你是地球的负担。你是景观的祸害。你是宇宙的污点。请你去死吧。拜托。”

该研究生的姐姐Sumedha Reddy表示,她和兄弟都被这条信息吓坏了,她甚至想要将所有设备扔出窗外。

她认为,如果一个孤独且精神状况不佳的人读到这样的信息,可能会产生致命后果。

谷歌发言人对此回应称,这种回应违反了公司政策,已采取措施防止类似情况再次发生,并表示这是一起孤立事件。

不过这并非Gemini首次引发争议,在首次推出时,其图像生成器因生成不准确的历史图像而受到批评,谷歌因此暂时禁用了其图像功能。

也许你还喜欢

永恒龙族哪个平台渠道福利/礼包最

永恒龙族有着端游龙族IP的授权,大家将成为一名冒险者,在这片

《怪物猎人:荒野》鹭鹰龙是什么

《怪物猎人:荒野》是怪物猎人ip下的最新作品。鹭鹰龙是游戏中的一个坐

《野狗子:裂头怪》稀有角色伊多位置

《野狗子:裂头怪》中的重要稀有角色是非常多的,其中伊多就是比较独特的一个

粒粒的小人国游戏下载地址 粒粒的

粒粒的小人国游戏下载哪里下,生活模拟作品一贯来都是受到很多玩家伙

驯龙之旅哪个平台渠道福利/礼包最

驯龙之旅哪个平台渠道福利/礼包最多最好?驯龙之旅是个很治愈系

《炼金之道》Steam页面上线 发售日

今日(10月31日),点击此处进入商店页面。游戏介绍:成为一名中世纪

《龙腾世纪:影障守护者》游戏快速旅

《龙腾世纪:影障守护者》中的玩家是可以进行快速旅行的,但是很多玩家都不太

代号云端下载地址分享 代号云端在

代号云端融合了科幻悬疑、无限流叙事与深度情感交互,给大家带来了沉

卡厄思梦境哪个平台渠道福利/礼包

卡厄思梦境哪个平台渠道福利/礼包最多最好?这个作品玩法机制设

黑色舰队返港 《战舰世界》全新版

黑色舰队返港,星际迷航联动,《战舰世界》13.10版本即将开启。黑色