易坊好文馆

  1. 首页 > 生活百科 >

AI 游戏显示人机协作的“黑暗面”OpenAI要求Latitude立即采取行动

据外媒WIRED报道 ， 2019年12月 ， 犹他州创业公司Latitude推出了一款名为《AI Dungeon》的先锋网络游戏 ， 展示了一种新的人机协作形式 。该公司利用人工智能公司OpenAI的文本生成技术 ， 创造了一个由《龙与地下城》启发的自选冒险游戏 。当玩家打出他们希望自己的角色执行的动作或对话时 ， 算法将为他们的个性化、不可预测的冒险制作下一阶段的内容 。
AI 游戏显示人机协作的“黑暗面”OpenAI要求Latitude立即采取行动
文章图片

去年夏天 ， OpenAI让Latitude提前接触到了其技术的更强大的商业版本 。在营销材料中 ， OpenAI将《AI Dungeon》作为编写算法的商业和创意潜力的一个例子来吹捧 。
上个月 ， OpenAI表示 ， 它发现《AI Dungeon》也显示了人类与AI合作的“黑暗面” 。一个新的监控系统显示 ， 一些玩家输入的词语导致游戏产生了涉及儿童的性爱故事 。OpenAI要求Latitude立即采取行动 。OpenAI首席执行官Sam Altman在一份声明中说：“在某些情况下 ， 内容审核的决定是困难的 ， 但这一次不是 。这不是我们任何人想要的人工智能的未来 。”
上周 ， Latitude开启了一个新的审核系统 ， 并在其用户中引发了反感 。一些人抱怨它过于敏感 ， 他们不能在不触发警告信息的情况下提及一台“已使用8年的笔记本电脑” 。另一些人说 ， 该公司计划手动审查被标记的内容 ， 这将不必要地窥探私密的、虚构的创作 ， 这些创作是色情的 ， 但只涉及成年人--这是AI Dungeon的流行使用案例 。
简而言之 ， Latitude试图将人和算法结合起来 ， 对由人和算法产生的内容进行监管 ， 结果变成了一团糟 。在Twitter和AI Dungeon的官方Reddit和Discord社区 ， 愤怒的模因和关于取消订阅的说法纷至沓来 。
“社区感到被背叛了 ， Latitude会扫描并手动访问和阅读私人虚构的文学内容 ， ”一位AI Dungeon的玩家说 ， 他的名字叫Mimi ， 并声称在AI的帮助下 ， 估计总共写了超过100万字 ， 包括诗歌、暮光之城的模仿和情色冒险 。Mimi和其他不高兴的用户说 ， 他们理解该公司对公开可见的内容进行监管的愿望 ， 但他们说该公司做得太过分了 ， 毁掉了一个强大的创造性游戏场所 。Mimi说："它使我能够探索我心理的某些方面 ， 而我从未意识到这些方面的存在 。
Latitude发言人说 ， 其过滤系统和可接受内容的政策都在不断完善 。工作人员以前曾禁止那些他们得知利用AI Dungeon产生以儿童为主角的性内容的玩家 。但在OpenAI最近的警告之后 ， 该公司正在进行 “必要的改变” ， 该发言人说 。Latitude公司上周在一篇博客文章中承诺 ， AI Dungeon将 “继续支持其他NSFW内容 ， 包括双方同意的成人内容、暴力和亵渎” 。
阻止人工智能系统创建某些类型的性或成人内容 ， 同时允许其他内容 ， 将是困难的 。像OpenAI这样的技术可以生成许多不同风格的文本 ， 因为它是使用机器学习算法构建的 ， 这些算法已经消化了从网络上获取的数十亿字中的语言使用统计模式 ， 包括不适合未成年人的部分 。该软件能够进行惊人的模仿 ， 但并不像人们那样理解社会、法律或流派类别 。
OpenAI在2019年年底将其文本生成技术作为开源技术发布 ， 但在去年将一个大幅升级的版本 ， 即GPT-3 ， 变成了一项商业服务 。像Latitude这样的客户付费输入文字串 ， 并得到系统对后面应该有什么文字的最佳猜测 。在被授予早期访问权的程序员分享了由该技术产生的令人印象深刻的流畅笑话、十四行诗和代码之后 ， 这项服务引起了科技行业的注意 。
OpenAI表示 ， 这项服务将赋予企业和初创企业权力 ， 并授予OpenAI的大额支持者微软对基础算法的独家授权 。WIRED和一些尝试过该系统的程序员和人工智能研究人员表明 ， 它也可以生成不受欢迎的文本 ， 如反犹太主义的评论和极端主义的宣传 。OpenAI表示 ， 它将仔细审查客户以剔除不良行为者 ， 并要求大多数客户--但不是Latitude--使用人工智能供应商创建的过滤器来阻止亵渎、仇恨言论或性内容 。

推荐阅读


上一篇：睹图 一家6口举办生日聚会时遭枪击全部身亡，行凶男子随后开枪自尽

下一篇：万科 准备买这两家被骂惨的龙头公司，中国平安和万科！