,
Techritual 香港科技电脑资讯网站,,
Techritual 香港科技电脑资讯网站,,炒鱿前一日，Sam Altman於 APEC 发表的讲话,18/11/2023,
十斗,1120,
,
以下是 Sam Altman 在 APEC CEO 峰会上的讲话内容，他表示生成式人工智能「将是人类迄今为止最具转型和益处的技术」，AI 技术在未来几代可能不需要严格的监管，「社会抗体」已足够应对假信息，特别是在全球 2024 年选举前。
以下是稍作编辑的讲话内容，由 ChatGPT 3.5 翻译而成
Jobs：[Meta 首席产品官] Chris [Cox]，[Google 高级副总裁] James [Manyika] 和 Sam，你为什麽将生命奉献给这项工作？
奥尔特曼：这绝对是我一生的工作，也是我从小就想从事的工作；我在学校学习过这个领域。我曾经被分散注意力，但一旦我们发现了一个攻击向量，很明显我想从事这项工作。我认为这将是人类迄今为止最具转型和益处的技术。
我更一般地说，2020 年代将是整个人类从匮乏走向丰富的十年。我们将拥有远超预期的丰富智能。能源也是如此，健康也是如此，还有其他几个领域。但现在正在发生的技术变革将改变我们生活的限制，改变经济和社会结构以及可能性。
我认为这将是我们迄今为止最大的一步，也是我们迄今为止最大的一次技术革命。所以我非常兴奋。我无法想像有什麽比这更令人兴奋的工作了。就个人而言，在过去几个星期，我有机会亲眼见证我们推开无知的面纱，推进探索的前沿，能够做到这一点是我职业生涯的荣誉。所以，能够从事这项工作真是太有趣了。
Jobs：我想让你们每个人谈一谈你们如何考虑已经提出的一些存在威胁，以及法规的状态，什麽是合适的，什麽是过多的。我们现在如何做到正确，并且在技术发展时保持开放？
今年 6 月初，我在特拉维夫与以色列作家和公共知识分子尤瓦尔（Yuval Harari）共进晚餐。他非常担心。
我理解。我真的理解，如果你没有密切关注这个领域，你会觉得事情突然就变得垂直了。当然，你知道，人们可能之前也在做一些事情，但人们有这些论文在这里，这个模型在这里，这个神经网络在这里，但使用机器翻译的人并不真正觉得他们在使用人工智能。
突然之间，人们对某种事物的感知发生了质的变化。你知道，现在我可以和这个东西交谈。这就像是我一直期待的《星际迷航》电脑，我没有预料到这会发生。为什麽今年？为什麽不是一年前？为什麽不是在 10 年後？发生了什麽？是的，所以我认为今年全世界已经共同经历了一次飞跃。现在，人们对许多其他事情都可以做到，他们说：“是啊，伙计，GPT-5 在哪里？你对我有什麽帮助？”我们已经前进了，这太好了。我认为这是一种伟大的人类精神，我希望我们永远不会失去。但当你第一次听到这个或使用它时，它感觉更像是一个生物而不是一个工具，然後你使用它更多，你看到它如何帮助你，你看到它的局限性。
这就像是在技术树上解锁的另一个东西。现在。我确实认为这一次有一些重要的不同之处。这可能是我们理解的第一个可以自我改进的工具。但我们需要新的想法，我认为我们作为一个物种正在走向自我毁灭的道路。如果我们想要再繁荣数万年、数十万年甚至数百万年，我们需要新的想法，我们需要新的技术，我认为很多人在 AI 中看到了这种潜力。但这不是一个完美的胜利故事。我们必须减轻这些副作用。从短期来看，它确实有很多奇妙的帮助我们的事情，在中期内，它如何帮助我们治愈疾病，找到解决我们最迫切问题的新方法。但另一方面，我们如何确保它是一个具有适当保障措施的工具，当它变得非常强大时？
现在，它并不强大，也不是多大的问题。但人们很聪明，他们看到它的发展方向。即使作为一个物种，我们无法很好地理解指数，但我们可以感觉到某些事情将继续下去；这将继续下去。所以你面临的问题是：「我们如何获得尽可能多的好处，不要过多地减缓它的发展？」地球上每个人都有一个 AI 导师？是的，请。听起来太棒了。AI 医学顾问。是的，治愈每一种疾病，太好了。
Jobs：但在坏人手中，也可能带来非常非常负面的後果。
我们将设置什麽样的限制？谁将决定这些限制？我们将如何执行这些限制？在国家层面上，道路上的规则将是什麽，我们必须达成一些协议，人们意识到这个挑战。也就是说，这已经是我过去一年中重要的一部分。我真的认为世界将迎接这个挑战，每个人都想做正确的事情。
Jobs：嗯。那执行令呢？那是否足够正确？
其中有很多值得争论的事情，也有很多需要改进的地方，但作为一个开始，它说：「我们要在这里做些事情。」我认为这是一个很好的开始。目前，行业真正关注的是如何确保我们在真正前沿的模型上有周到的防护措施，而不会让我们所有人都变成规范捕获，停止开放源模型和小公司。我认为开放源码很棒。我很高兴你们都在做这个。我希望我们能看到更多这样的事情。
Jobs：我认为我们应该就此进行讨论。但继续，因为你有一些开放源码的元素。
向人们解释当前的模型是好的，这是一个难题。我们在这里不需要严格的监管。可能未来几代也不需要，但当模型能够做到 – 相当於一个完整的公司，然後是一个完整的国家，然後是整个世界 – 也许我们确实希望在这方面进行一些全球集体监督和集体决策。
我们并不是告诉你们要完全忽视个人的损害。我们也不是说你应该去打击小公司和开放源模型。我们是在说：「相信我们，这将变得非常强大和可怕，你必须在以後对它进行监管」 – 这是非常困难的平衡。
Jobs：Sam，让我们谈谈明年的选举和你的预期。
我真的认为我们低估了已经建立的社会抗体的程度。但它还不完美。此外，危险之处不在於我们已经理解的那些，也就是现有的图像和视频，而是所有新的东西 – 已知的未知，未知的未知 – 将从中产生。我们最近谈到了个性化的一对一说服的想法，我们还不知道它将如何发展。但我们知道它即将到来。还有很多其他的事情，因为我们还没有看到，你知道，生成视频或其他东西能够做什麽。这将在选举年迅速而猛烈地出现，我们唯一能够应对的方式是建立一个非常紧密的反馈循环。我们，作为一个行业，作为社会，一切都是如此。
Jobs：嗯。我想问题在於通常情况下，损害已经发生，然後我们才会注意到，然後我也了解到在社会层面上有广泛的抗体，因为我们现在已经深陷於宣传和假信息的海洋中。然而，我们仍然有很多人在这个国家和其他地方相信容易被证明为错误的阴谋论，但他们仍然相信它们。这与人类的本性以及大脑对信息的把握方式有关，这是我们无法迅速进步的事情。
在人类历史上，我们一直在努力解决这个问题。阴谋论总是其他人相信的东西。但我不想完全忽视这个问题。这涉及到人类心理的一些深层次问题，但这并不是这项技术的新问题。它可能比以前更加突出。
相对於我们在互联网上经历过的一切，AI 生成的图像是否会使它变得更加突出，还不清楚。
Jobs：在你的领域或你的公司中，你认为 2024 年最令人惊讶的事情是什麽？
模型的能力将取得如此大的飞跃，超出了所有人的预期。
Jobs：等等，再说一遍？
模型的能力，就是这些系统能做到的事情，将取得如此大的飞跃，超出了所有人的预期。
,Techritual 香港River
