Anthropic 和 Databrick 近期以「人工智能的未来：面向各领域的专用 Agent」为主题的线上峰会。两家公司的 CEO Dario Amodei 和 Ali Ghodsi 在其中的对谈环节分享了有关 Agent 的未来、Amodei 此前的博文以及双方所展开的相关合作等话题。
目录
01. 在谈论Agents之前，人们应该先关注什么？
Dario Amodei 在《Machine of Loving Grace》中写了什么？为什么说「AI的未来是Agent」？...
02.数据价值无可替代，但数据治理风险如何破解？
Anthropic 和 Databrick 如何围绕数据 Agent 数据进行创新？人类如何把握 AI技术的双刃剑？...
03. AI 应用快速迭代的阻塞要靠 MCP 跨越？
Agents 产品迭代的关键缺口如何突破？MCP 和 A2A 范式下，企业怎样维护数据安全？...
04. Anthropic 为何仍乐观看待「Scaling Law」？
数据的「Scaling Law」依然乐观？Anthropic 一直在做 Model Scale？...
01 在谈论Agents之前，人们应该先关注什么？
1、在本场访谈开始前，Ali Ghodsi 询问了 Dario Amodei 在 2024 年 10 月发布的《Machines of Loving Grace》文章中对 AI 未来发展潜力与风险的看法。
① 在这篇文章中，Amodei 提到人类低估了 AI 的好处和风险，强调需要关注风险以实现积极的未来。[2-1]
② 文章中还提到，短期内人类可以通过比较优势继续在经济中发挥作用，但长期来看，人类需要重新思考经济组织方式，包括加强全球合作、政策支持以及对 AI 风险的有效管理。[2-1]
2、就该文章所延展的问题，Amodei 表示，人们在讨论 AI 优势时往往缺乏足够的想象力和具体案例，AI 应用将覆盖整个经济领域，同时带来超越经济层面的社会变革。
3、Ghodsi 进而提出「AI 技术要多久才能真正落地并产生实际效益」的问题。Amodei 表示这将取决于传统企业与 AI 公司的合作及市场推广，更重要的是要让相对滞后的经济领域也能快速适应并应用这些创新技术。
4、在这一话题下，Dario Amodei 明确表示「AI 的未来是 Agents」，企业需要围绕 Agents 进行创新，开发能够充分利用 Agents 这种能够自主地调用工具，完成与数据的交互能力的产品和服务，并通过列举 2 个实例证明上述观点。
① Amodei 在访谈中分享到，全球科技公司 Block 利用语音识别技术和生成式 AI 模型，开发了能够通过语音指令自动完成店铺和商品信息设置的 Agents。
② 另一个案例是美国电话电报公司 AT T 结合传统机器学习和生成式 AI 模型，通过分析通话记录来检测欺诈行为，使欺诈攻击减少了 80%。
5、在后续的对话中，Dario Amodei 和 Ali Ghodsi 基于两家公司达成合作以及 Databricks 开发的治理工具，强调了 AI 能够在确保安全条件下，量化数据价值和加速产品迭代。此外，两人还探讨了 Scaling Law 相关话题。
① Amodei 和 Ali Ghodsi 都建议借助 AI 技术量化企业专有数据的价值，以两家公司的合作作为范式，并介绍了管控数据治理风险的 Unity Catalog 工具。
② Amodei 和 Ali Ghodsi 都强调 AI 产品快速迭代的重要性。Dario Amodei 分享了如何使用 RAG 技术，加速产品迭代。两家公司均接入 MCP 协议，帮助 AI 工具使用外部数据资源。
③ Anthropic 的两位创始人都强调 Scaling Law 未达上限，但实用性需要预训练之外的优化，同时指出数据耗尽和成本问题，以及多维度协同优化和混合推理模型的重要性，并预测模型迭代速度将继续保持快速。
02 数据价值无可替代，但数据治理风险如何破解？
1、Dario Amodei 和 Ali Ghodsi 的第二个话题围绕数据展开，他们从 AI 能力角度和企业角度分别强调了数据对于企业的价值和重要性。
① Amodei 认为，数据代表着企业积累的知识与智慧，是与 AI 能力最相辅相成的要素之一。企业不仅可以用数据来微调模型，还可以将其作为模型运算的基础，通过 RAG 等方法提供上下文，或供智能体分析使用。
② Ali Ghodsi 认为，企业专有数据是构建竞争壁垒的核心，专用于训练模型的企业数据对构建 AI 模型很关键，尤其是各行业、企业和客户特有的数据，比如制药公司的实验数据，金融机构的交易记录，科技公司的用户行为数据...
关注
0 条