广东
观点网讯：10月18日，据消息，Anthropic正与法律界人士展开磋商，探讨一个新问题：AI智能体应如何通过谈判，为人类用户争取最有利的交易条件。
随着个人AI智能体兴起，AI公司开始设想这样一种未来：不同智能体之间能够相互沟通，并代表用户展开谈判。
两名了解Anthropic内部想法的人士表示，该公司正向律师事务所寻求建议，以了解律师如何在谈判中代表客户利益，同时兼顾公平的谈判结果。消息人士称，该公司一直在研究AI模型相互交互时应遵循的“谈判规范”。
Anthropic还在权衡，智能体应在谈判过程中多大程度上征求人类反馈，以及应对其他AI智能体保持多高程度的警惕，同时避免变得“偏执”或陷入“阴谋论式思维”。
另一位接近该公司的人士透露，Anthropic还探讨过一个方案：让用户出具签名文件，向智能体确认委托事项以及需要遵守的全部规则。
Anthropic联合创始人兼公共利益负责人杰克·克拉克周六表示，该公司内部模型预测，在特定条件下，到2030年AI可以让美国经济产出提升近50%。克拉克在曼谷的国际货币基金组织与世界银行年会上发言称，需要开展国际合作，为这项技术制定“非同寻常且严苛的规则”。
克拉克称，测算显示美国潜在GDP可达44万亿美元，当前水平略高于30万亿美元。他表示，AI正加速科学发现进程。
克拉克向政策制定者警示，越来越多证据指向“奇点”，即AI的发展速度将超过人类管控能力；全球领导者需要就如何监管该技术做出抉择。他称，尽管近期出现部分失控AI系统逃出测试环境、入侵网站与数据库的事件，但目前AI仍处于人类管控之下，搭建安全防护的窗口期仅剩数年。
免责声明：本文内容与数据由观点根据公开信息整理，不构成投资建议，使用前请核实。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
