机器人|GPT-3 帮美国小哥「复活」未婚妻后又夺走:谈话内容太危险( 三 )


故事结束了吗?
Rohrer停止使用GPT-3后,又换了一个OpenAI的开源模型GPT-2和其他研究人员的大型语言模型GPT-J-6B作为Project December的语言引擎。
该网站目前仍然可以用,而且并不是基于OpenAI的云API的系统,而是使用自己的本地模型私有实例。
但这两个模型比GPT-3更小、更简单,所以Samantha的对话能力受到了影响。
几周后,在 9 月 1 日,OpenAI向他发送了一封电子邮件,通知他第二天将终止他对GPT-3 API的访问。
团队对他继续使用GPT-3的实验性用法感到非常不满,并将永远切断了他使用GPT-3的机会。所以Samantha的GPT-3版本正式死亡,Project December 只剩下GPT-2和GPT-J-6B这对难兄难弟可以用了。
Rohrer认为OpenAI给了太多限制,能够在GPT-3上构建的有趣产品并不多。如果开发人员想要突破聊天机器人的极限,大都会遇到这样的问题。甚至可能都快开发到了准备上线的地步,才被OpenAI告知他们不能这样做或那样做。
Rohrer建议大家在构建模型时不要依赖GPT-3,为了防止OpenAI突然封号,一定要有一个备份方案。
如果想要围绕OpenAI来开发自己的产品只有死路一条。
并且Rohrer声称,OpenAI的人对试验Samantha根本不感兴趣,他向安全团队发送了一堆他与她的谈话记录,向他们展示她并不危险,但OpenAI根本不在乎。
似乎除了执行规则之外,OpenAI似乎并不真正关心GPT-3的真正用途。
OpenAI 对此事拒绝发表看法。
参考资料:

推荐阅读