本文以通俗易懂的方式，为“大模型小白”解析Transformer的核心原理，包括其与大模型的关系、自注意力机制、多头注意力机制、位置编码、Encoder和Decoder的组成等内容，帮助读者全面理解这一支撑现代AI的语言模型基石。
在处理复杂任务时，通常需要我们和Cursor进行多轮对话，而随着对话轮次的增多，Cursor对于核心任务和工作重点的记忆丢失的越多，归根到底，是由于大模型缺乏长期记忆机制。为了解决这一问题， 本文调研了Memory Bank，一种针对特定情况的新型记忆机制，使模型能够唤起相关记忆，通过持续的记忆更新不断进化，理解并适应用户的个性。记忆存储方面，Memory Bank通过整合先前互动的信息，随着时间的推移，模仿拟人行为并选择性地保存记忆。建立在强大的记忆存储基础之上，记忆检索方面，Memory Bank采用双塔密集检索模型，使用FAISS索引对向量表征进行相似性检索，以实现高效检索。记忆更新方面，Memory Bank取自艾宾浩斯遗忘曲线理论的灵感，提出了一种新的记忆更新机制。这种机制允许AI忘记并根据时间的流逝和记忆的相对重要性来强化记忆，从而提供更像人类的记忆机制和丰富的用户体验。
Cursor 是基于VS Code开发的一款编辑器，支持多种语言的开发编辑。与传统的开发工具相比，它有多种优势：与AI无缝集成，响应速度快，占用内存小。但很多同学在"起步"过程中遇到了一点点问题，导致起步不成功。本文描述一些实用的小技巧，帮助大家快速用Cursor开启AI生涯。
本文通过一条AI应用架构演进的路线（图来自《AI Engineering》），来描述和记录每一次演进增加的架构内容以及概述涉及到的相关技术，从而帮助自己以及可能有需要的同学按照一定的脉络整理LLM和AI应用快速发展下不断迸发的新设计和新技术，再者为后续可能的关于AI应用架构和传统应用架构的异同的主题探讨做些调研。
AI飞速发展，AI Coding对传统研发模式带来了很大的冲击，本文作者总结了所观察到的5个变化趋势，以及对AI时代开发人员所需掌握的核心技能的思考，欢迎大家共同交流。
2025 年是 AI 智能体快速爆发的一年，从单智能体、多智能体到通用智能体的多种不同构建模式持续涌现出来，智能体开发也逐步从概念、Demo 开始走向生产落地，应用范围也从编程助手等几个少数领域，逐步拓展到企业内部业务、生活工作助手等多个领域。随着智能体开始在企业内部业务落地，Java 智能体的构建需求也呈现出爆发式增长的趋势，在智能体编程语言及平台领域，Python、Typescript 一直走在探索前沿，相对来说，Java 领域框架、平台及整体解决方案欠缺，Spring AI Alibaba 1.0 的发布，让 Java 智能体开发迎来一款生产可用的企业级框架与解决方案，助力企业智能体开发进入一个新阶段。上半年，以 Manus 为代表的通用智能体的火爆，让具备自主规划能力的通用智能体进入大众视线，另一方面，MCP 则将模型或智能体外部数据、外部系统的交互方式做了统一。结合这些技术趋势，在探索 Spring AI Alibaba 框架、Manus 通用智能体的过程中，我们正逐步构建起一套零代码快速构建垂直领域智能体的方案（JManus），我们相信它能弥补低代码、高代码框架的开发复杂度
在2025上海AWE焕新消费节的家享生活展馆中，3D数字导购「小淘」以近乎真人的形态与观众自然互动，生动诠释了淘天Meta技术团队最新技术——TaoAvatar的革新力量。这项融合3D高斯重建、AI语音驱动与端侧大模型的尖端技术，突破传统数字人局限，实现从“二次元偶像”到“3D真人复刻”的跃迁。通过高精度建模、多模态交互及工业级量产方案，TaoAvatar不仅以2K级拟真视觉、90FPS流畅动效和自然语音同步技术重塑虚拟交互体验，更将制作成本压缩至传统CG的1/30，周期缩短至一周内。从家电导购到XR沉浸场景，TaoAvatar正以“真实感、智能性、普惠性”三大突破，开启数字人规模化落地的新纪元。
Ray Data是构建于Ray之上的分布式数据处理库，提供了高性能且可扩展的API，可被有效结合到AI相关场景，例如批量推理、数据预处理等。Ray Data内部通过流式执行机制来有效处理大规模数据集，并可有效的利用异构架构，不让CPU或GPU成为数据处理的瓶颈。虽然Ray Data提供了简单易用的API，但其内部实现与执行原理较难理解，二次开发与问题排查有一定的难度，因此本文从Ray Data源码入手，重点分析了Ray Data流式执行的实现原理。
