想象一下(值得一提的)人工智能,在回答问题之前,它会停下来反思、思考,考虑不同的可能性并选择最好的一个。 “她真是一个人啊!” (引用)。这是一组研究人员通过一种名为“安静之星“。
这项技术为人工智能提供了一种“内心独白”,被证明能够显着提高人工智能系统的推理能力,为这项技术的未来开辟新的、令人难以置信的前景。
如果人工智能学会在说话之前“思考”
到目前为止,像 ChatGPT 这样最受欢迎的聊天机器人已经被训练成能够生成流畅且令人信服的响应,但没有任何真正的能力来“推理”他们将要说的话或预测对话的可能方向。在实践中,他们非常擅长给出“听起来不错”的答案,但往往缺乏逻辑、连贯性和常识。
有了 Quiet-STAR,一切都可以改变。该算法开发者 埃里克·泽利克曼 和康奈尔大学的同事(你可以在这里找到这篇论文)做了一些新的事情。它指示人工智能在响应输入之前并行生成大量“内部推理”。当需要给出答案时,人工智能会生成一系列带有或不带有推理的预测,并选择最好的一个(可以由人类验证,具体取决于问题的类型)。
最后,通过放弃已被证明是错误的推理来学会“思考”。在实践中,人工智能就像在说话之前在头脑中进行“彩排”,就像我们人类一样!
推理(和数学)的飞跃
研究人员应用 Quiet-STAR 米斯特拉尔7B,一个开源语言模型,结果令人印象深刻。 Mistral 7B的“思考”版本取得了 47,2% 在推理测试中,反对 36,3% “香草”版本。当然,他的学校数学考试还是没及格,只有区区10,9%。 但是,嘿,它仍然几乎是起始 5,9% 的两倍! 这个结果让……思考。
请注意,我们距离缩小人工神经网络和人类推理能力之间的差距还很远。但 Quiet-STAR 似乎是朝着正确方向迈出的一步。与其他改进人工智能推理的尝试不同,这些尝试非常具体且不可泛化,该方法可以“默默地”应用于不同类型的模型,而不管原始训练数据如何。
人工智能的未来?内部对话和一些常识
显然,更聪明的人工智能的秘诀是让它们自言自语。有一天,我们将拥有聊天机器人,在回答我们的问题之前,它们会暂停思考,也许会说:“嗯,让我想一会儿......”。谁知道呢,这种内心独白可能会让人工智能拥有更多的常识,能够理解上下文,抓住细微差别,预测他们的话的后果。
当然,路还很长。但这样的研究提醒我们,智能,无论是人工智能还是人类,不仅仅是速度或计算能力的问题。最重要的是,这也是一个反思、推理和设身处地为他人着想的能力的问题。归根结底,如果我们没有思考、自言自语、想象未来情景、从错误中吸取教训的能力,那么是什么让我们成为人类呢?
当我们等待机器做这件事时,让我们也开始做一遍。如果说我从这个新闻中学到了一件事,那就是有时候,为了变得更聪明,你只需要学会在说话之前思考。 相信我,这不仅适用于突触,也适用于电路。