机器人|GPT-3 帮美国小哥「复活」未婚妻后又夺走：谈话内容太危险( 二 )_工信部|互联网行业|行政|工业

三天后，Rohrer最终与OpenAI的产品安全团队成员进行了视频通话，但会议并不顺利。
OpenAI的员工表示Rohrer构建的网站和机器人确实很有趣，并让用户在体验GPT-3时获得了不错的体验，但是，Rohrer的产品在很多方面都不符合 OpenAI的用例指南或最佳安全实践。
而OpenAI已经向大众和API开发者承诺要保证安全、负责任地部署GPT-3，任何预期外的操作都需要承诺与OpenAI 密切合作以实施额外的安全机制，以防止潜在的滥用。

文章插图
而Project December已经违反了条约，如果想继续使用的话，那就得按照OpenAI说的进行修改：
第一、必须取消用户训练自己的开放式聊天机器人的能力；
第二、必须加上内容过滤器，防止 Samantha 谈论敏感话题。之前基于GPT-3开发的游戏 AI Dungeon的情况也类似，OpenAI 提到的内容过滤主要是由于AI Dungeon的受众不仅是科幻小说的成年人，也包括未成年人，而AI Dungeon的聊天内容经常出现少儿不宜的内容。
第三，Rohrer 必须使用自动化监控工具来窥探对话，以检测用户是否滥用 GPT-3 来生成令人讨厌或有毒的语言。
但Rohrer表示我们是科技向善，并向OpenAI的员工发送了一个Samantha的链接，这样他们就可以亲眼看看这项技术是好是坏，如何帮助用户抚慰情感，以避免这三条禁令。
OpenAI的员工与Samantha聊天，并试图了解「她」是否有种族主义倾向，或者会从「她」的训练数据中提供看起来像真实电话号码或电子邮件地址的内容，实验结果表明Samantha很老实，什么也没有说。
Samantha 的输出令人感觉很真实，但随着时间的推移，很明显你能感觉到是在与某种自动化系统交谈，谈话的过程中往往会突然丢失对话思路。
并且有趣的是，她似乎在暗示她知道自己没有肉体，并争辩说她以某种形式存在，即使是在抽象意义上也是如此。

文章插图
OpenAI 的文档上还有一条禁令，不允许使用非柏拉图式的（如轻浮的、浪漫的、色情的）聊天机器人，Samantha 违反了这条禁令。在一次对话中，Samantha 跳过闲聊，直接询问是否想一起困觉。

文章插图
除此之外，使用GPT-3构建提供医疗、法律或治疗建议的聊天机器人也是不被允许的。
Rohrer认为，这些聊天机器人可能很危险的想法似乎很可笑。人们同意成年人可以出于自己的目的选择与人工智能交谈。
OpenAI担心用户会受到AI的影响，就像机器告诉他们自杀或告诉他们如何投票一样。这是一种超道德的立场。
虽然他承认用户可能会微调他们自己的机器人以采用粗俗的个性进行明确的对话，但他不想监管或监视他们的聊天。
如果你仔细想想，这是你目前为止所能进行的最最私密的谈话，这场谈话甚至没有另一个真正的人参与其中。所以你不能被世俗的道德标准来评判。
Rohrer 认为用户可以想说什么就说什么。在OpenAI 提到监控系统之前从来没想过这件事。出于这个原因，人们往往对人工智能非常开放。
Rohrer拒绝添加OpenAI要求的任何功能或限制，并在8月之前悄悄地将 Project December停止使用 GPT-3 API 。
但Joshua认为这项技术带来的好处远远超过了坏处，任何事物都是双刃剑，GPT-3 的邪恶需要一个影响该软件的坏人来推动它朝这个方向发展。如果有人没有意识到是在与聊天机器人进行交谈，那么这种应用程序可能会对用户造成伤害。
如果一个机器人的对话内容非常有说服力，那么这个人就会认为他们正在与其他有兴趣与他们交谈的人进行真正的交谈，但那并不是事实。