ChatGPT 已被证明用途广泛,用户可以使用该技术创作音乐、调试计算机代码、撰写餐厅评论、生成广告文案和回答测试问题。它能够以对话的方式提供响应,并激发了人们对其潜力的兴奋,同时也引发了一些对其使用方式的担忧。
但是,ChatGPT 到底是什么?它对 AI 现在和未来的状态有何看法?今天在 Elon,我们联系了计算机科学助理教授 Ryan Mattfeld,他一直在使用 ChatGPT 作为课堂讨论点,并且深入了解它如何改变我们对 AI 的使用。
您是什么时候第一次听说 ChatGPT 的?您最初的反应是什么?
ChatGPT 于 2022 年 11 月 30 日推出,我第一次听说它是在 12 月初。我看到的第一个样本是 ChatGPT 编写的一款软件,其中包括对代码工作原理的解释。我立即对这些功能表示怀疑,我最初认为这个例子是精心挑选的。我继续听到更多关于 ChatGPT 的消息,所以在学期末,我创建了一个帐户并开始使用它。我立刻被震撼了。我给它布置了一个作业,该作业在我上学期的一门 2000 级课程中使用过,其中包括嵌入到有关创建机器人的故事/场景中的特定编程任务。这是多个段落,包含不必要的信息,并且引用了 ChatGPT 不知道的类部分。我认为它会阻碍 ChatGPT。
我错了。它立即产生了一个准确的解决方案,包括对编写的代码的解释以及如何解决所提供问题的描述。我迅速通过电子邮件向我部门的每个人发送电子邮件,提醒他们 ChatGPT 是真实存在的,需要引起注意。
人们习惯于搜索引擎,这些引擎可以将他们指向问题的答案或提供资源来增强他们的知识。为什么 ChatGPT 有如此大的飞跃?
ChatGPT 和搜索引擎有两个不同的目标。搜索引擎的主要目标是尝试将您引导至准确的资源。ChatGPT 的主要目标是使用自然语言对输入生成听起来合理的响应。最关键的区别是 ChatGPT 的主要目标不包括准确性。这当然是次要目标,但不是保证。
也就是说,肯定有重叠。ChatGPT 的部分主要目标包括将范围广泛的数据源压缩为有用的响应。因此,当 ChatGPT 确实提供准确的响应时,它会简化搜索、允许对话并以对话方式提供答案。ChatGPT 无需查找网站列表、搜索与您的主题相关的网站、打开网站、查找您想要的特定信息以及经常备份并重试,而是可以使用易于理解的语言提供响应清晰、直接且有帮助。
此外,ChatGPT 允许您跟进。如果您想更深入地了解其响应的一部分,您可以。只需在您最感兴趣的部分请求更详尽的答案。
像 ChatGPT 这样的人工智能技术是否能够从他们收到的输入和对响应的反馈中学习?
是的!事实上,这是其开发过程中的主要机制之一,并继续用于微调。
现代机器学习解决方案基于大量原始数据。ChatGPT 也是如此——它的初始训练是在互联网上收集的大量数据上完成的。然而,正如 ChatGPT 的创建者 OpenAI 在其网站上所描述的那样,人类深入参与了 ChatGPT 的训练。在对海量数据集进行初步开发之后,ChatGPT 的响应由人工标注人员进行了微调。这个过程首先让一个人提出问题,然后让另一个人提供他们认为会很好的答案。这些信息被合并,又开始了新一轮的微调。在此步骤中,AI 对同一个问题做出了多种不同的回答,人工标注人员将 AI 的回答从最佳到最差进行排序。该反馈也被纳入网络。
现在,当您自己使用 ChatGPT 时,您会看到选项,可以给出它生成的“赞成”或“反对”的响应。如果您选择“不满意”,您可以描述您不喜欢该回复的原因。这用于进一步微调 ChatGPT。
您现在看到 ChatGPT 以哪些方式投入使用,您认为随着技术变得更加先进和集成,这些用途将如何扩展?
在计算机科学领域工作,我的第一个倾向当然是考虑 ChatGPT 如何开始用于软件开发。它在为相对简单的程序编写好的代码方面出奇地有效。
然而,它并不完美。它仍然会犯错误,并且可以生成非功能性但美观的代码。因此,我希望最成功的软件开发人员会将其用作提供帮助的工具,但需要能够审查响应以识别和纠正错误。仍然强烈需要循环中知识渊博的人来验证所提供的解决方案是否正确,而不是令人信服但错误。
计算机科学家的另一个有趣观点是,ChatGPT 是一个开放的 API,这意味着软件开发人员可以将 ChatGPT 集成到我们开发的新编码项目中。这意味着我们很快就会看到 ChatGPT 集成到许多其他程序和应用程序中。我希望 ChatGPT 会随着时间的推移而改进,我希望我们会在越来越多的地方看到它。例如,ChatGPT 已经集成到 Bing 中,并且很快将与 Microsoft Word 集成。
当然,ChatGPT 也开始影响计算机科学以外的领域。我在 1 月份教授的与 ChatGPT 相关的技术与社会核心顶点中创建了一个作业。作业包括以多种方式使用和分析 ChatGPT,其中包括一场比赛,学生们尝试——但基本上失败了——以确定哪些论文是由他们的同龄人撰写的,哪些是由 ChatGPT 撰写的。作业中的最后一个问题要求他们考虑 ChatGPT 如何通过支持证据影响社会的特定领域。特别是,法律、计算机科学、新闻和教育是多名学生预测 ChatGPT 将产生重大影响的几个领域。
与许多技术一样,它也有优点和缺点。您对如何部署像 ChatGPT 这样的技术有任何顾虑吗?
确实有几种方法可以考虑这个问题。它有很多优点。它可以使任何人都更容易使用的应用程序。与计算机经常需要的特定格式和特定请求不同,使用通用语言很快就会在更广泛的范围内发挥作用。这在帮助有语言障碍的人方面也具有积极的可访问性影响。当然,它还可以做所有其他很酷的事情——从玩游戏到帮助消除写作障碍,到用更简单的术语解释复杂的概念,再到模拟对话。
当然,也有一些缺点和风险。从广义上讲,如果有人过度依赖 ChatGPT,可能会阻碍他们的发展。犯错误在学习过程中至关重要。如果使用 ChatGPT 跳过此步骤,可能会导致一种错误的能力和信心感。
除了这种更间接但非常重要的担忧之外,ChatGPT 也可以直接用于危害。ChatGPT 和其他生成式 AI(此类技术的广义术语)的早期迭代已经开发多年。之前的迭代直接从互联网上可用的信息中提取,没有过滤掉仇恨、谎言和偏见。ChatGPT 取得成功的部分原因是因为它目前在减少有害指令、有偏见的内容和不准确信息方面最为成功。然而,这些缺点都没有被完美消除。ChatGPT 在生成非常有说服力的叙述方面非常有效,即使它们不是真的。
我最关心的是 ChatGPT 会让那些试图广泛传播错误信息的人的生活变得多么容易。我们现在或即将进入“后真相世界”的概念让我感到害怕。
谷歌现在宣布了一项竞争技术——巴德——其他人可能会加入该领域。科技公司对这类人工智能的开发有多重视?
Google 特别关注 ChatGPT。他们的商业模式几乎完全基于收集广告收入,而广告收入是由使用他们服务的人数驱动的。他们在 Youtube、云计算和其他领域实现了多元化。然而,如果 ChatGPT 最终取代了 50% 的谷歌搜索,那么我猜测谷歌最终将损失其总收入的约 30%。
科技行业知道生成人工智能很快就会到来,但 ChatGPT 将“很快”改为“现在”,因此其他一直致力于这些技术的公司现在都非常专注于发布他们的版本。比较每个生成人工智能选项的有效性将会很有趣。我怀疑许多人会在准备好之前被释放。
您使用过 ChatGPT。您使用它或看到其他人使用它的一种方式让您感到惊讶吗?
我首先被它的编码能力所震撼,但这是一个狭窄的应用程序。我使用它的次数越多,我会说它最令我惊讶的是它的多功能性和进行对话的能力。例如,我用它来生成基于文本的冒险,非常类似于我记得小时候喜欢的“选择你自己的冒险”类型的书。您可以为您的冒险选择一个主题或主题,或允许 ChatGPT 选择。然后你可以做出决定并改变故事的发展方式。或者,您可以要求它以 10 岁的孩子可以理解的方式解释量子计算,它做得很好。您可以提供自己的写作样本,并要求它以您自己的写作风格回答问题。你可以要求它以你最喜欢的作者的风格写一篇短篇小说。
我认为它的亮点在于它能够帮助解决作家的瓶颈或在您遇到困难的其他情况下提供帮助。例如,我三岁的女儿受邀参加她五岁朋友的生日聚会。我在为一个五岁的孩子想出礼物的想法时遇到了困难,所以我请 ChatGPT 提供建议。它提供了一个很棒的各种想法列表,甚至还添加了:
“请记住,每个孩子都是不同的,一个孩子可能喜欢的东西可能不会影响另一个孩子,所以在选择礼物时考虑孩子的兴趣和个性总是一个好主意。”
我不知道这个特别的五岁孩子的兴趣,所以我要求在乐高积木和积木类别中有更多选择,这对我来说听起来是最有趣的。根据我的后续请求,ChatGPT 提供了具体选项,包括经典乐高套装、得宝积木、巨型积木、磁性积木和带主题的积木套装。它详细描述了每个选择,以及何时一组可能比另一组更合适。