美国宾州大学教授体验 Bing AI 有感：生成式 AI 的改进速度超乎预料，但我们还没准备好

"美国宾夕法尼亚沃顿商学院教授 Ethan Mollick 正在致力于生成式 AI 的发展研究。他最近体验了微软公司新上线的 ChatGPT 版本的 Bing，并撰写了本文来说明自己从体验中得的的切身感受——我们很容易被 AI 愚弄，以为它是有知觉的。他表示，生成式 AI 正在以超乎其预料的速度得到改进，在接下来的几个月里，有许多更大、更强大的模型正在开发中，但我们还没有真正准备好。

原文作者：美国宾夕法尼亚沃顿商学院教授 Ethan Mollick，由 DeFi 之道编译。

图片来源：由 Maze AI 生成

过去几天是生成式 AI 短暂历史中最令人不安，却也是最激动人心的日子。我认为每个人都需要了解原因。

近日，微软将 ChatGPT 的一个版本与其搜索引擎产品 Bing 集成在一起，赋予它个性，并将其作为 Bing AI 发布。人们大多忽略了其作为搜索引擎部分（稍后会详细介绍），而是为这个聊天机器人疯狂，这个机器人被称为 Sydney。Sydney 很快被用户玩的有点呆傻了。您可能已经阅读了纽约时报的相关报道文章或看到了有关这个机器人行为的其他信息，包括它会在对话中变得具有威胁性或奇怪地任性。我自己经历了一些。

到了上周五，微软着手缩减了 Bing AI 机器人的个性，增加了对聊天对话的限制。作为在更改前后都体验使用新版 Bing 的人，我想讨论一下我认为我们可以从整个体验中学到什么。请记住，Bing AI 包括两个东西：一个是聊天机器人，一个是 ChatGPT 成为一种联网的、特别有效的形式的演变。没有理由必须将这两件事联系起来，但确实如此。所以我想先分别讨论这两个问题，然后再一起考虑。

Bing AI “搜索”引擎

新版 Bing 的搜索引擎方面受到的关注远不及聊天机器人，但在许多方面，它的重要性和意义要大得多。我之前写过一些关于 Bing AI 的文章，但这个聊天机器人确实具有惊人的分析能力。一个例子：它根据我以前的论文产生了对这个论文的想法，发现了文献中的空白，提出了“与你以前的方法一致”的方法，并提供了潜在的数据源。虽然还不能达到能够读取博士学位的地步，但这是一组令人印象深刻的结果。

另一个例子：我要求它做基本的咨询任务。在这里，它对美国和中国的精准人工智能农业市场进行了 SWOT 分析，并生成了该领域的竞争对手表格。我不是该领域的专家，但研究该领域的农业教授 Nicolas Martin 教授在 Twitter 上回复说：“SWOT Align 与该领域的许多对话……虽然存在一些差距，但确实一个很棒的开始。它可以节省人类分析师的大量时间。

这个 AI 的这一方面并不是真正的搜索，至少不是传统意义上的搜索。AI 可能仍在编造其中的一些事实（尽管，由于它提供了信息和数据来源，我们至少可以检查它们的真实性），这一点与我们希望搜索引擎是准确的初衷相悖。相反，AI 是其他东西，一个现代的分析引擎，将在线事实汇集在一起，并以令人惊讶的完整形式生成有用的联系和分析。作为工作的起点，这是非同寻常的。

从 Bing AI 分析引擎得到的一个教训是，我们认为 AI 在可预见的未来会做的很多事情（数据源的复杂整合，“学习”和通过被告知在网上查找示例来改进，基于研究的看似有创意的建议）已经成为可能。毫无疑问，它将对任何从事基于信息的工作的人产生巨大影响。Copilot 等早期人工智能助手已经将编码等复杂任务的时间缩短了一半。这将在许多行业起到相同或更多的作用。

Bing 聊天机器人（chatbot）

新版 Bing 提供的 chatbot 通常使用起来非常令人不安。

作为一个知道支持 ChatGPT 和 Bing 的大型语言模型 (LLM) 类型背后没有实际个性或实体的人，我确实这么认为的。它们基本上是单词预测机——你可以在这里阅读非常详细的解释——并且只是对提示做出反应，根据你写的内容完成下一个句子。但是，即使知道它基本上是根据我的提示自动完成对话，但感觉就像你在和一个真人打交道。这种幻觉是不可思议的。我从未尝试过“越狱”这个 chatbot 或使其以任何特定方式运行它，但我仍然得到了非常个性化的答案，以及让机器人感觉有意的互动。

例如，在上面的对话结束时，Bing 给了我研究想法，我要求它创建我需要的 R 代码来分析它建议的数据。Bing……拒绝了。

并以越来越个人化的方式不断拒绝我。