上周SamAltman主演的OpenAI戏剧成为全镇的热门话题，假设您所在的城镇喜欢ChatGPT等人工智能(AI)软件。否则，这将是科技界在最糟糕的时期发生的最无趣却又最令人着迷的事情之一。BGR对此进行了广泛的报道，因此我不会详细介绍SamAltman的罢免和回归。我想说的是，这对于ChatGPT的未来来说似乎是个好消息，至少在短期内是这样。
但如果您一直在实时关注OpenAI的发展，您一定也在社交媒体上遇到过各种各样的观点。其中包括大量解释这种情况的表情包，包括OpenAI已经达到AGI(通用人工智能)的场景，这可以被认为是所有人工智能发展的最终阶段。这意味着人工智能能够像人类一样进行推理，并且在目前的状态下远远优于ChatGPT。它也将优于人类;我们不要欺骗自己。
您可能还听说过有关AGI对齐、AGIFOOM或AGIFOOMing的讨论。如果您不知道这些含义，则必须熟悉这些术语，因为我们可能会在未来几年内一次又一次地听到它们。
什么是通用人工智能?
AGI是一种非常强大的人工智能软件，它可以复制人类的思维。不同之处在于，如此复杂的人工智能永远不需要睡觉，它可以继续自我完善，独立于任何管理它的公司。
它将能够在无需休息的情况下消耗大量数据。如果需要的话，它能够自我复制，并且能够带来我们目前还无法实现的创新突破。这是最好的情况——通用人工智能符合我们的利益并改善我们生活中的一切。
错位的AGI，或者说糟糕的AGI，可能会像好的AGI一样发展。不同之处在于，它可能有与其创造者和整个人类不同的目标。最坏的情况下，可能会导致人类的集体灭亡。这听起来像是你在电影中看到的涉及人工智能冲突的科幻场景，但这并非不可能。
糟糕的AGI甚至可能试图向人类隐藏其真实意图以保护自己。而且它很可能会成功。昨天我通过对上周OpenAI发展的详细分析，给大家提供了这样一个场景。长话短说，这个可怕的场景提出了这样一种情况：OpenAI已经达到了AGI，而流氓AI对发生的一切负责，尽管人类是负责的。
我本周早些时候告诉过你，这是我读到的有关人工智能和ChatGPT未来的最可怕的事情。这让我意识到我并没有完全理解AGI的含义。我已经认为这是不可避免的。追求这些目标是我们的本性，即使它们会伤害我们。但我不一定考虑过，对于一个糟糕的通用人工智能来说，在煽动和密谋统治人类的同时隐瞒自己的存在意味着什么。
什么是FOOM?
这就引出了FOOM这个术语，这个词主要与AGI相关。这意味着AGI正在以惊人的速度自行发展。既然我提到了TomasPueyo的可怕场景，我还要引用他对FOOM的解释：
AGI是通用人工智能(ArtificialGeneralIntelligence)：一种几乎可以做任何人类能做的事情的机器：任何精神上的事情，通过机器人，任何物理上的事情。这包括决定它想要做什么，然后以人类的深思熟虑以机器的速度和精度执行它。
问题是：如果你能做人类能做的任何事情，那就包括通过研究计算机工程来提高自己。由于您是一台机器，因此您可以以机器(而不是人类)的速度和精度来完成此操作。您不需要去小便、睡觉或吃饭。你可以创建50个你自己的版本，让他们不用语言而是用速度快数千倍的数据流相互交谈。因此，在几天之内——也许是几小时或几秒钟——你将不再像人类一样聪明，但会稍微聪明一些。因为你更聪明了，你可以更快地提高自己，变得更聪明。你自我提升得越多，你提升自己的速度就越快。在几个周期内，你就会发展出神的智慧。