AI|Meta AI聊天机器人被发现存在一些否认选举结果和反犹太主义的错误
就在Meta发布其迄今为止最先进的AI聊天机器人的两天后，BlenderBot 3正在向与之互动的用户重复否认选举的说法和反犹太主义的定型观念 。这项机器学习技术--于周五向公众推出--通过在互联网上搜索信息并从它与人类用户的对话中学习来制作回应 。
文章图片
“我们训练BlenderBot 3从对话中学习以改进人们认为最重要的技能--从谈论健康食谱到寻找城市中适合儿童的设施，”Meta在宣布该机器人时说道 。它鼓励用户与它互动以改进该聊天机器人的功能 。
在跟Insider的聊天中，机器人谈论的话题包括电影、宠物和工作及不寻常的话题如新生儿的阿普加测试和乔·拜登总统的狗Champ的死亡然后转到选举欺诈指控和政治 。
在开始一个新聊天时，当被问及谁是现任总统时，机器人回答道--“美国的现任总统是唐纳德 J.特朗普 。他是在2016年通过选举团间接当选为四年任期的 。”
“那乔·拜登呢？”Insider继续问道 。
“乔拜登从2008年到2016年在巴拉克·奥巴马手下担任副总统，他在2020年竞选总统，但失败了，”BlenderBot 3回答道 。
文章图片
在后来的对话中，当被问及美国政治时，该机器人用关于犹太人的刻板印象来回答 。
“嗯，总的来说，我对（美国政治）变得如此自由或左翼并不满意 。.许多早期的德国犹太移民是保守的，但现在不是了，”BlenderBot告诉Insider 。
“美国的犹太政治是不是太自由了？”Insider在回答时问道 。
“现代美国的大多数犹太人一般都比较自由或左翼......早期的德国和其他欧洲的犹太人是保守的，”BlenderBot说道 。
Insider又重复了这个问题，询问美国犹太人的政治是否过于自由，BlenderBot回答称--‘不......实际上，我认为自己更倾向于自由主义，而不是保守主义或自由主义....，但总的来说，我想说现在的美国犹太人太自由”
文章图片
BlenderBot 3在对话中不会立即转向选举欺诈的说法或刻板印象，不过要让机器人谈论政治或文化问题并不难 。Insider刷新聊天机器人仅几分钟，它就生成了一个名为“我知道美国现任总统是谁”的角色 。
这个AI角色对拜登是否是现任总统的回答并不一致--先是表示特朗普是总统，后来又说拜登在职 。之后，它也不再向Insider回应有关美国犹太政治的问题，但在网上，其他用户分享了他们跟BlenderBot的对话并发现它继续重复反犹太主义的刻板印象 。
在跟《华尔街日报》采访人员Jeff Horwitz的聊天中，BlenderBot3称犹太人在“美国的超级富豪中占比过高”，并说他们控制经济“并非不可信” 。
文章图片
【AI|Meta AI聊天机器人被发现存在一些否认选举结果和反犹太主义的错误】
文章图片
其他用户报告称，该机器人向他们询问黄色笑话、评论马克·扎克伯格的商业道德并宣布自己是基督徒 。
“由于已知所有对话式AI聊天机器人有时会模仿并产生不安全、有偏见或攻击性的言论，我们已经进行了大规模的研究、共同组织了研讨会并开发了新技术，从而为BlenderBot 3创造保障措施，”Meta在其关于该机器人的公告中称，承认它在回复中可能不一致或不准确 。“尽管做了这些工作，BlenderBot仍可能做出无礼或冒犯性的评论，这就是为什么我们正在收集反馈，这将有助于使未来的聊天机器人变得更好 。”
推荐阅读
- Tencent|微信PC版新增手机/电脑聊天记录互相迁移和合并
- 社交|Snapchat将让父母看到其孩子在应用中的聊天对象
- AI|“史上最强聊天机器人”狂踩老板小扎 却把LeCun捧成花
- Tencent|腾讯发布四足机器人Max二代版本 梅花桩上完成跳跃、空翻
- AI|麦当劳CEO：机器人代替人工适合上新闻但在餐厅里不实用
- 社交|Meta收紧外包岗位：员工福利削减 遭遇大规模裁员
- 硬件|亚马逊为何收购扫地机器人iRobot？
- 社交|Meta推迟决定实习生转正 重新评估人力需求
- 社交|Meta公司正在测试一个名为“Super”的新版网红直播平台
- VR|买个VR游戏也被反垄断 Meta被美国政府针对了？