《堡垒之夜》紧急修复:AI版达斯·维达不当言论问题已解决
近日,《堡垒之夜》游戏开发商 Epic Games 在一次联动活动中,引入了由人工智能生成的达斯·维达角色。该角色基于已故配音演员詹姆斯·厄尔·琼斯的授权肖像,但由于设计漏洞,玩家能够诱导其说出种族主义、恐同言论以及脏话。
这一 AI 版本的达斯·维达作为《星球大战》与《堡垒之夜》联动活动“Fortnite:银河之战”的一部分,于上周五上线。角色的对话由纽约语音人工智能公司 ElevenLabs 制作,支持实时回应玩家互动。
然而,上线仅数小时后,社交媒体上便出现了大量视频,显示玩家诱导该角色说出种族歧视、恐同侮辱以及其他不当词汇。这些内容引发了广泛关注,甚至包括一些听起来像仇恨言论的内容。
针对这一情况,Epic Games 迅速采取行动,发布了一个热修复补丁以解决问题。该公司在 X 平台上表示:“我们立即发布了修复程序,这种情况不会再发生。”
在后续声明中,Epic Games 承认此次事件暴露了内容审核上的不足。一位发言人解释称:“虽然我们设置了多条规则和说明来防止达斯·维达咒骂或重复不当内容,但过滤器未能捕捉到某些特定变体。”
据介绍,AI 功能配备了三层安全过滤机制:第一层为 Gemini 的可配置安全设置;第二层是系统指令,用于阻止违反社区规则的响应;第三层为最终审核,旨在过滤任何可能违规的内容,例如仇恨语言或露骨表达。
值得一提的是,AI 版达斯·维达使用了詹姆斯·厄尔·琼斯的存档录音生成。琼斯于 2024 年去世,他生前授权卢卡斯影业继续使用其配音形象,让这一经典角色得以延续。
Epic Games 在声明中表示:“如果没有詹姆斯·厄尔·琼斯的传奇演绎,达斯·维达就不会如此令人印象深刻。我们很荣幸能继承他的遗产,并为玩家提供这样的体验。”
这不是《堡垒之夜》首次因 AI 内容引发争议。2024 年初,Epic Games 曾因用户创建岛屿中包含种族主义内容而进行清理。尽管所有用户生成内容都需经过人工审核,但团队仍决定加强审查措施。
Epic Games 强调:“如果内容存在争议,我们的审核团队会假设创作者意图良好,从而避免过度审查。”
编辑:安德鲁·海沃德
(责任编辑:风向标)
-
我觉得这都是片面的,我认可的是运营就是经营,但这同样是个很大的词,而经营就是得用心、用脑慢慢去做的一件事。...[详细]
-
运营思路之深没谁敢说自己全都懂。...[详细]
-
在当前的互联网IT行业,焦虑无处不在,这种焦虑一方面源于高房价,而另一方面,存在于职场升迁渠道僵化之后,收入与期望之间的落差,以及内部竞争不平衡导致的一种求之而不得的痛苦,一种是不确定性的裁员与淘...[详细]
-
所以,我从用户、商家、商品、营销玩法几个角度思考,我能做什么。...[详细]
-
不过,隔行如隔山,网站建设公司给的建议只是参考同行业的一些经验以及技术优势,企业想要把网站做的更好,还要考虑一些细节问题。...[详细]
-
豪迈科技:预计2024年轮胎模具业务和燃气轮机市场需求将保持增长趋势
因为这些“僵尸股”,并没有你想象中那么差。...[详细]
-
所以其实也是个很大的挑战,也都是些创新,要不断做创新,才能真正把付费做起来。...[详细]
-
他觉得能留住一批固定的粉丝也挺好的,他有时候还会和粉丝一起出门见面,像交朋友一样认识粉丝。...[详细]
-
我更欣慰地看到全球合伙人队伍的持续壮大:以启宇、晓亮为代表的一起摸爬滚打长大的本土小伙伴们,以及以Jorge、Henri和Franz等为代表的海外伙伴、二十多位全球合伙人已成为支撑复星未来跨代、全球成...[详细]
-
但现在的方向就是要打破原有“就诊垫付、诊后赔付”的服务模式。...[详细]