【媒体界】11月15日消息,微软近日推出了名为“Thought Harmony”(TH)的全新方法,旨在加强人工智能(AI)模型的推理能力。这一创新灵感源自谷歌 DeepMind 的 AlphaZero,采用了紧凑的神经网络结构。
微软与佐治亚理工学院和华东师范大学共同合作研发了这一算法,通过整合强化学习(reinforcement learning)和蒙特卡洛树搜索(MCTS)能力,进一步提升了模型在复杂决策环境中的解决问题效能。
据媒体界了解,微软研究团队表示,Thought Harmony方法可以使语言模型扩展到对其不熟悉的问题上,尤其在Game of 24、8-Puzzle和Pocket Cube等严苛测试中表现出显著提升。研究结果显示,Thought Harmony明显优于其他方法,甚至成功解决了其他方法在某些问题上失败的情况。然而,Thought Harmony并未达到百分之百的可靠性。
Thought Harmony框架主要包括以下关键步骤:
**1. 预训练阶段:** Thought Harmony在特定任务上进行预训练,利用蒙特卡洛树搜索(MCTS)模块学习与有效思维搜索相关的领域知识。轻量级的策略和价值网络指导搜索过程。
**2. 思维搜索:** 在推理过程中,预训练的MCTS模块使用策略/价值网络来有效地探索和生成语言模型(LLM)的思维轨迹。
**3. 思维修正:** LLM审查MCTS的思维过程,识别任何错误。修正的思维是通过额外的MCTS模拟产生的。
**4. LLM推理:** 将修正后的思维提供给LLM,为解决问题提供最终的提示。
这一全新的Thought Harmony方法标志着微软在人工智能领域的不断创新,为AI技术的发展开辟了新的可能性。