目前世界上最重要的人工智能项目来自一家与许多同行不同的公司，该公司不公开其源代码。
ChatGPT 由 OpenAI 创建，不像之前的许多其他自然语言程序那样在 GitHub 上开源。 OpenAI 的 GPT 程序 ChatGPT 的源代码也很容易获得。
另外：想体验GPT-4？ 只需使用必应聊天
周二，该公司实现了一个里程碑，甚至拒绝透露最新版本 GPT-4 的技术细节。
ChatGPT 和 GPT-4 的缺乏或透明性打破了深度学习 AI 的普遍做法，学术界和企业界的学者都倾向于积极发布，遵循开源软件的传统，代码很容易制作 任何想要它的人都可以使用。
另外：How to make ChatGPT provide sources and citations
ChatGPT 的封闭性可能会成为人工智能的常态，并具有伦理意义，加拿大 MILA 人工智能研究所的科学主任、人工智能先驱 Yoshua Bengio 在上周对记者和行业成员的一次谈话中警告说。
“过去在学术界并已转向工业界的研究人员的学术思维方式改变了文化，带来了更多的开源精神共享和合作，”Bengio 在 Zoom 上的一次小型媒体和高管聚会上说 上星期。
另外：最好的 AI 聊天机器人：ChatGPT 和尝试的替代方案
“但市场的压力可能会朝不同的方向推动，”Bengio 说，“朝着保密的方向发展，这出于道德原因是不利的，也不利于技术进步的进步，因为这意味着信息将需要更多时间才能公开。 如果事情是秘密的，可以去更多的地方。”
Bengio 是蒙特利尔大学的全职教授，也是 CIFAR 机器和大脑学习计划的共同负责人，他受邀发表了由 Collective[i] Forecast 主持的一个半小时的演讲，Collective[i] Forecast 是一个在线互动平台 由 Collective[i] 组织的讨论系列，自称是“旨在优化 B2B 销售的 AI 平台”。
Bengio 是在回应听众 Laura Wilson，后者问 Bengio，鉴于 ChatGPT 的巨大商业潜力，以及微软的 Bing 搜索程序，它正在整合 ChatGPT 的功能，在 AI 研究中“是否仍然可能有一个道德框架”。
另外：这些专家正在竞相保护 AI 免受黑客攻击
Bengio 说，学术界“将继续开展他们的开放科学并分享他们的工作，因为这是他们模式的一部分。”
他说，目前尚不清楚行业研究是否会坚持开放的道路。
Bengio 说，在最近人工智能专注于开放出版之前，企业研究过去“更加隐秘”。 “现在，我认为，在 ChatGPT 取得成功之后，看看人工智能中可能发生的那种淘金热，”“我们是否要在行业中保留这种文化？” 本吉奥沉思道。
Bengio 说，论文的首要地位是最重要的，因为 AI 的进步是实验室之间交叉授粉的集体努力。
“这些都是复杂的系统，”Bengio 在谈到 GPT-4 等所谓的大型语言模型时说。
“我们在其他人的代码之上构建我们的代码，它也建立在世界各地的科学论文中正在撰写和评估的想法之上——我们建立在彼此的进步之上。”
“有专利，但实际上，真正的肉是那些论文中的东西。”
Bengio 说，秘密做法不仅可能会阻碍行业研究，而且还会掩盖对公众的伤害。
另外：如何使用 ChatGPT 来构建你的简历
Bengio 说：“如果人们行动太快而破坏了东西，那可能会很糟糕，甚至可能会引起整个行业的强烈反对。”
Bengio 观察到，小公司通常更愿意冒险使用未经测试的软件，因为“这就是商业游戏”。 他指的是 ChatGPT 等程序在某些情况下会产生一些用户认为“令人不安”的结果，这表明它们尚未完全开发。
“但现在像谷歌和微软这样的公司和其他公司感到有必要加入这场比赛，”他说。 “所以，我听到的一个可能的担忧是，他们会不会对他们放在那里的东西一样小心？”
另外：ChatGPT 是如何工作的？
Bengio 的同行 Yann LeCun 与 Bengio 一起在 2019 年因其在 AI 方面的工作而获得图灵奖，他也表达了类似的担忧。
在 2 月 17 日的一条推文中，Meta 人工智能首席科学家 LeCun 写道，
FAIR [Facebook AI Research] 在开放 AI 研发场景方面发挥了关键作用。 其他人紧随其后。 至少有一段时间。 现在，OpenAI、DeepMind，甚至谷歌的发布和开源显然要少得多。 人工智能科技的进步又会带来怎样的后果？
Bengio 说，ChatGPT 的发布可以起到积极的作用，让世界非常清楚人工智能的前景和风险。
“我喜欢围绕 ChatGPT 的媒体马戏团，这是一个警钟，”Bengio 说。 “我认为人们已经看到了人工智能在前几年的进步，许多公司、许多政府都认为，是的，好吧，有些事情正在发生，那些技术人员正在做他们的事情，没有意识到非常强大的系统就在眼前。 “
