微软|OpenAI 是如何被10亿美元收买了“非盈利”灵魂的？( 二 )_

艾伦人工智能研究所的所长 Oren Etzioni 在得知微软注资 OpenAI 时，当时即表示怀疑态度，称：“我不同意非营利组织不具备竞争力的观点……如果规模更大、资金更多就代表（这个机构）会发展地更好，那 IBM 就不会被挤下第一名的位置。”
Vice News 的知名撰稿人 Caroline Haskins 也认为，OpenAI 已经违背了他们当初的使命：“（我们）从来没有试过靠风险投资者来改善人类的命运。”
我们不得不承认，OpenAI 将研究重点放在需要由更大算力与更大数据驱动的神经网络上，这必然需要很多金钱。但是，Alberto 也指出，如 Oren Etzioni 所言，金钱并不是取得最先进的 AI 成果的唯一途径。更多时候，你需要的是极富创造性的想法，而不是靠堆更多的算力，或更多的数据。

OpenAI 是如何沦落的？

GPT-2 与 GPT-3 的诞生
2019 年初，已经成为营利性公司的 OpenAI 发布了一个强大的语言模型——GPT-2，能够生成达到人类水平的文本。尽管 GPT-2 在当时是一个巨大的飞跃，但也有许多研究人员将其比喻为一只“危险的怪兽”，无法与大众共享。比如，他们担心 GPT-2 会被用来“传播假新闻、垃圾邮件与虚假信息”。
但这份担心很快就被打消。GPT-2 没有被广泛证明有滥用的风险，所以研究人员还是纷纷使用了 GPT-2。
罗格斯大学的教授 Britt Paris 曾评论，GPT-2 的诞生似乎不是为了造福人类，反而像是 OpenAI 利用了人工智能可能会给人类社会带来的恐慌，从而引起媒体的注意。他们认为，GPT-2 并不像 OpenAI 声称的那样强大，但是，从营销的角度来看，他们可以吸引媒体的关注。
如果 GPT-2 没有他们宣称的那么强大，那为什么要让它看起来更危险呢？Alberto 认为，单从这一点来看，OpenAI 就已经没有遵守自己的道德标准。
2020 年 6 月，GPT-3 发布，比 GPT-2 大了 100 倍，更强大，本质上也许更危险。但 OpenAI 似乎认为新系统足够安全，可以与世界分享，所以通过 API 发布。他们设置了一个候补名单来逐个审查访问请求，但这并不能控制系统最终被用于何处。
在“Language Models are Few-Shot Learners”一文中，他们甚至承认，如果 GPT-3 落入坏人之手，可能会带来不好的后果，比如“错误信息、垃圾邮件、网络钓鱼、滥用法律和政府程序、欺诈性学术论文写作和社会工程托辞”，或加剧性别、种族和宗教的偏见。

文章插图

论文地址：https://arxiv.org/pdf/2005.14165.pdf
他们认识到问题的存在，但仍然允许用户对系统进行试验。关于通过 API 发布，OpenAI 当时的回应是“支付他们接下来的 AI 研究、安全与政策制定等工作”。
一句话总结，就是说：“负责”保护人类免受 AI 侵害的公司决定让人们使用一个能够造成虚假信息和危险偏见的系统，以便他们可以支付昂贵的维护费用。这还是“对所有人都有价值”吗？
所以，当时社交媒体上很快就出现了关于 GPT-3 可能造成的潜在问题的激烈讨论。Facebook 人工智能研究的负责人 Jerome Pesenti 当时就写了一条推文，在推文中举了一个例子，谈到 GPT-3 可能会生成加剧种族与性别歧视的文本：

文章插图
UC Berkeley 的计算机系学生 Liam Porr 还用 GPT-3 写了一篇能提高写作效率的文章，与订阅者分享，但没有透露其中的技巧。这篇文章在 Hacker News 上排名第一。如果 UC Berkerley 的大学生都会设法用人工智能编写的作品欺骗所有人，那么一群有恶意的人会做什么呢？