最近，关于 OpenAI 的 ChatGPT 程序在响应人类提示时生成自然语言话语的巨大前景，已经流传了很多墨迹。
关于该系统的缺点也有很多文章，包括在已发表的文章中产生彻头彻尾的谎言。 《自然》杂志报道称，该项目不符合学术文章作者身份的标准，“因为他们无法对科学论文的内容和完整性负责”，也就是说，这些项目。
一些学者正在发现 ChatGPT 的另一个更微妙的限制：即使程序并非不准确，它的输出也往往具有平庸、过于笼统、无信息的质量。
这就是编辑 Barbara Treutlein 和 Patrick Cahan 在使用 ChatGPT 帮助他们为科学出版巨头 Cell Press 的出版物 Stem Cell Reports 撰写社论时发现的。 该社论于 1 月 10 日在线发布。
编辑们向 ChatGPT 提出了有关计算系统生物学领域的各种基本问题。 重点是要证明“计算的进步……如何帮助更广泛的干细胞研究企业的从业者：通过节省时间，从而让我们有时间做更多的研究！”
作者以编辑形式转载了他们对 ChatGPT 的提示以及程序的响应。 这是问答示例之一：
提示：> 使用计算技术解决干细胞生物学问题的主要挑战是什么？
“ChatGPT：> 对大量数据的需求：为了准确模拟干细胞行为，研究人员需要大量关于单个细胞行为和不同细胞类型之间相互作用的数据。收集和处理这些数据可能具有挑战性，尤其是当 处理大量细胞。”
Treutlein 和 Cahan 观察到 ChatGPT“有助于阐明计算系统生物学将如何帮助干细胞研究和识别一些障碍”，但他们也写道，“总的来说，许多反应缺乏深度和洞察力。”
为了深入研究此事，ZDNET 向编辑发送电子邮件，要求解释如何区分有意义的答案。
Cahan 在电子邮件中回复了来自 ChatGPT 的带注释的提示和响应集合，他写道，这表明该程序“明显缺乏深度和洞察力”。
尽管存在这些缺点，Cahan 告诉 ZDNET，“总的来说，我对这个工具的强大功能印象深刻。” Cahan 教授一门计算干细胞生物学课程，并表示他已经测试了 ChatGPT 编写代码来回答他的一些问题集的能力。
“它做得很好（不完美），而且它记录了代码！” 卡汉写道。 “我还认为它具有令人印象深刻的综合和总结信息的能力，因此我很想看看它对生物医学文献的定制会带来什么。”
另外：人们已经在尝试让 ChatGPT 编写恶意软件
以下是 Cahan 和 Treutlein 因明显不足而在社论中遗漏的问题和答案。 Cahan 对每个人都用他自己的观察进行了注释，说明为什么缺少 ChatGPT 的回应。
提示：使用计算技术回答干细胞生物学领域的问题的主要挑战是什么？
回应：使用计算技术回答干细胞生物学领域的问题存在几个主要挑战。 一些主要挑战包括：
* 干细胞行为的复杂性：干细胞是高度通用的细胞，可以分化成多种细胞类型。 了解其行为和分化背后的机制极其复杂，使用计算方法可能难以研究。
Patrick Cahan：这实际上正是计算模型应该大放异彩的领域，因为它们可以在复杂数据中找到模式。
[ChatGPT 回复继续]
* 对大量数据的需求：为了准确模拟干细胞行为，研究人员需要大量有关单个细胞行为和不同细胞类型之间相互作用的数据。 这可能很难收集和处理，尤其是在处理大量细胞时。
Patrick Cahan：同样，大数据量是计算系统生物学应该优于标准技术的领域。 ChatGPT 似乎将数据收集与此处的数据处理混为一谈。
[ChatGPT 回复继续]
* 当前计算模型的局限性：尽管计算生物学和系统生物学取得了进步，但当前模型在准确捕捉干细胞行为复杂性方面的能力仍然有限。 这可能使得难以从计算研究中生成可靠的预测和见解。
Patrick Cahan：这是缺乏深度的一个例子。 如果我们提示了特定示例，则可能会引出 ChatGPT 1.) 举例说明当前计算模型无法解决的特定生物现象，以及 2.) 推测为什么会这样。
[ChatGPT 回复继续]
* 将计算结果转化为实际应用的困难：即使计算模型准确地捕捉到干细胞的行为，也很难将这些结果转化为实际应用，例如开发新疗法或治疗方法。
Patrick Cahan：这是事实，但这并不是计算应用程序独有的挑战。 所以，和第二点一样，ChatGPT 似乎对这个问题有点误解。 或许在我们进一步澄清或及时进行工程设计的情况下，我们本可以得到更令人满意的回应。
[ChatGPT 回复继续]
总的来说，这些挑战突出了在计算生物学和系统生物学领域继续研究和开发的必要性，以提高我们研究和理解干细胞行为的能力。
Patrick Cahan：我们看到很多这种类型的通用摘要，它们没有向整个 ChatGPT 输出添加任何新信息。
