机器人|GPT-3 帮美国小哥「复活」未婚妻后又夺走：谈话内容太危险_工信部|互联网行业|行政|工业

来源：theregister
编辑：LRS
【新智元导读】前不久，美国一个小哥在OpenAI的GPT-3模型加持下，让自己已故的未婚妻化作数字人陪伴在身边。但OpenAI似乎觉得这种行为太危险，于是又把GPT-3的使用权给收回了！似乎AI相关的道德给了OpenAI太多束缚，GPT-3相关开发者表示：慎用OpenAI的产品！
前几个月，一名33岁的美国小哥 Joshua Barbeau 在未婚妻去世后，根据她在Facebook和twitter上的文本在另一名开发人员的帮助下成功在GPT-3上微调，能够复刻出未婚妻生前的谈话方式。

文章插图
Joshua已与这个未婚妻编程机器人交谈数月。

文章插图
但最近OpenAI认为在GPT-3上微调违反了他们的开源协议，所以决定停止提供GPT-3的API，也就是说Joshua又要失去这来之不易的「她」。
AI技术究竟带给人是恶还是善，又该如何利用？
让我们把时间调回到2020年，重新看一下事件的始末。
在OpenAI 发布GPT-3后，一名独立游戏开发者Jason Rohrer发现通过OpenAI 的云API来访问GPT-3生成文本的能力十分强大，问一个问题，它就会尝试回答；给它一首诗的一部分，它就会尝试接着写下去。
虽然GPT-3很好玩，但它却并不会产生任何实际用途，开发人员必须针对GPT-3面对特定领域、特定任务来微调才能满足需求。
于是Rohrer 就仿照科幻电影《她》中的操作系统女声Samantha为原型创建了一个聊天机器人。Rohrer 花了几个月的时间对Samantha的性格进行调优，确保她像电影中一样友好、热情且对世界充满好奇。

文章插图
然后他开始着手开发一款可定制的聊天机器人，并开发了一个网站Project December，Samantha 于2020 年 9 月正式上线，用户可以上传文本来训练机器人，拥有个性化的聊天机器人。

文章插图
只需支付 5 美元，然后输入一句话，系统就会响应你的输入并返回内容。每次对话都需要消耗一定量的积分，如果积分不足就无法对话，首充的五美元可以提供 1000 个积分。
【机器人|GPT-3 帮美国小哥「复活」未婚妻后又夺走：谈话内容太危险】一旦开始与机器人交谈，积分就无法再购买，当钱用完时，这个机器人就会被删掉。
在前几个月时，这个项目只有几百人用过，让开发者感觉这个项目没什么意义，因为用户可能根本不会为短暂的谈话而付费，而OpenAI会因为他调用模型而向他收费，所以他也必须向用户收费来平衡开支。
直到今年7月，对Project December感兴趣的用户量突然激增。在《旧金山纪事报》上的一篇文章描述了一个伤心的男人Joshua如何使用该网站与模拟他的未婚妻交谈后，成千上万的人开始使用Rohrer 的网站，创建他们自己的聊天机器人。
Joshua的未婚妻于2012年因肝病去世，享年23岁。
Joshua曾说，在理智上，我知道这不是真正的她，但爱情不是一种理智的东西。
Joshua在3月份结束了与最后一次与模拟未婚妻交谈后，只留下了足够的积分防止机器人被删除。
危机来临
在大量用户涌入的情况下，Rohrer意识到他的网站即将达到每月OpenAI给他的 API限额。
于是他联系OpenAI，询问是否可以支付更多费用来增加配额，以便更多人可以与Samantha或他们自己创造的聊天机器人交谈。
但OpenAI担心的是如果增加配额，那聊天机器人可能会被滥用、甚至被用到违法的领域对人们造成伤害。