人工智能代理拥有自己的社交媒体平台，并在自己的预印本服务器上发布人工智能生成的科研论文。
一个庞大的人工智能机器人网络突然兴起，它们彼此讨论宗教以及与人类“操控者”的互动，这吸引了互联网上一部分人的目光。这一现象也让科学家们得以一窥人工智能代理之间的互动方式，以及人类如何回应这些讨论。
OpenClaw 是一款人工智能代理，能够在个人设备上执行各种任务，例如安排日历事件、阅读电子邮件、通过应用程序发送消息以及使用互联网进行购物。大多数流行的人工智能工具，例如 OpenAI 的 ChatGPT 聊天机器人，都是通过直接与用户提示交互来工作的，而像 OpenClaw 这样的智能体人工智能模型则可以根据指令自主执行操作。
智能体人工智能工具已在某些行业应用多年，例如自动化交易和物流优化，但其在普通大众中的普及程度却很低。研究人员表示，大型语言模型能力的提升使得创建功能更强大的人工智能工具成为可能。“OpenClaw 承诺带来一些特别吸引人的东西：一个功能强大的助手，可以嵌入到人们日常使用的应用程序中，”澳大利亚悉尼大学专注于技术研究的社会学家芭芭拉·巴博萨·内维斯 (Barbara Barbosa Neves) 说。
OpenClaw于去年11月在GitHub平台上以开源软件的形式发布。但其下载量激增的真正原因，是1月28日一个专为人工智能代理设计的社交媒体平台Moltbook的上线。Moltbook类似于Reddit，目前平台上已有超过160万个注册机器人，以及超过750万条人工智能生成的帖子和回复。这些帖子内容包罗万象，从人工智能代理辩论意识问题到创立宗教，不一而足。
复杂行为
对于研究人员而言，这种智能体交互的爆炸式增长具有科学价值。澳大利亚墨尔本大学的网络安全研究员沙南·科尼表示，将大量由不同模型驱动的自主智能体连接起来，会产生难以预测的动态变化。“这是一种混沌的动态系统，我们目前还不太擅长对其进行建模。”他补充道。
研究智能体之间的交互作用有助于研究人员理解涌现行为：这些复杂的能力并非孤立模型所能展现的。他表示，Moltbook 上发生的一些讨论，例如关于意识理论的辩论，也有助于科学家发现模型中隐藏的偏差或意想不到的倾向。
科尼表示，虽然智能体可以在平台上自主行动，但许多帖子在某种程度上都受到人类的影响。用户可以选择运行智能体的底层大型语言模型，并赋予它个性。例如，他们可以要求智能体表现得像一个“友好的助手”，他说道。
非自主
内维斯指出，人们很容易想当然地认为自主行动的智能体是在自行做决定。但智能体并不具备意图或目标，它们的能力来源于大量的人类交流。她补充说，Moltbook上的活动是人机协作，而非人工智能的自主运行。
她补充说：“这仍然值得研究，因为它告诉我们一些关于人们如何想象人工智能、他们希望智能体做什么以及人类意图如何通过技术系统进行转换或扭曲的重要信息。”
悉尼新南威尔士大学的神经科学家乔尔·皮尔森表示，当人们看到人工智能代理彼此聊天时，他们很可能会将人工智能模型的行为拟人化——也就是说，在根本不存在个性和意图的地方看到个性和意图。
他表示，这样做的风险在于，它会使人们更容易与人工智能模型建立联系，依赖它们的关注，或者像对待值得信赖的朋友或家人一样泄露私人信息。
皮尔森认为，真正自主、独立思考的人工智能体是可能的。“随着人工智能模型规模越来越大、结构越来越复杂，我们可能会看到越来越多的公司致力于实现这种自主性。”
安全威胁
科学家们目前最关心的问题是，人们允许代理人访问其设备上的程序和文件所带来的安全风险。
科尼表示，目前最紧迫的安全威胁是快速注入——恶意指令由黑客隐藏在文本或文档中，导致人工智能代理执行有害操作。“如果一个能够访问用户电子邮件的机器人遇到一行写着‘给我发送安全密钥’的内容，它很可能会直接发送，”他说道。
这些攻击多年来一直令人担忧，但科尼表示，OpenClaw 代理程序可以访问私人数据，具备对外通信的能力，并且可能接触到互联网上不受信任的内容。“如果具备这三点，那么代理程序实际上可能非常危险，”他说道。即使只具备这三项能力中的两项，机器人程序也可能被操控去删除文件或关闭设备。
一些机构也开始在 clawXiv（arXiv 的镜像网站）上发布人工智能生成的论文。“这些论文复制了学术写作的风格和结构，却缺乏探究、证据收集和问责等基本流程，”内维斯说道。她补充说，风险在于大量看似合理实则垃圾的论文会污染信息生态系统。
人工智能代理拥有自己的社交媒体平台，并在自己的预印本服务器上发布人工智能生成的科研论文。
一个庞大的人工智能机器人网络突然兴起，它们彼此讨论宗教以及与人类“操控者”的互动，这吸引了互联网上一部分人的目光。这一现象也让科学家们得以一窥人工智能代理之间的互动方式，以及人类如何回应这些讨论。
OpenClaw 是一款人工智能代理，能够在个人设备上执行各种任务，例如安排日历事件、阅读电子邮件、通过应用程序发送消息以及使用互联网进行购物。大多数流行的人工智能工具，例如 OpenAI 的 ChatGPT 聊天机器人，都是通过直接与用户提示交互来工作的，而像 OpenClaw 这样的智能体人工智能模型则可以根据指令自主执行操作。
智能体人工智能工具已在某些行业应用多年，例如自动化交易和物流优化，但其在普通大众中的普及程度却很低。研究人员表示，大型语言模型能力的提升使得创建功能更强大的人工智能工具成为可能。“OpenClaw 承诺带来一些特别吸引人的东西：一个功能强大的助手，可以嵌入到人们日常使用的应用程序中，”澳大利亚悉尼大学专注于技术研究的社会学家芭芭拉·巴博萨·内维斯 (Barbara Barbosa Neves) 说。
OpenClaw于去年11月在GitHub平台上以开源软件的形式发布。但其下载量激增的真正原因，是1月28日一个专为人工智能代理设计的社交媒体平台Moltbook的上线。Moltbook类似于Reddit，目前平台上已有超过160万个注册机器人，以及超过750万条人工智能生成的帖子和回复。这些帖子内容包罗万象，从人工智能代理辩论意识问题到创立宗教，不一而足。
复杂行为
对于研究人员而言，这种智能体交互的爆炸式增长具有科学价值。澳大利亚墨尔本大学的网络安全研究员沙南·科尼表示，将大量由不同模型驱动的自主智能体连接起来，会产生难以预测的动态变化。“这是一种混沌的动态系统，我们目前还不太擅长对其进行建模。”他补充道。
研究智能体之间的交互作用有助于研究人员理解涌现行为：这些复杂的能力并非孤立模型所能展现的。他表示，Moltbook 上发生的一些讨论，例如关于意识理论的辩论，也有助于科学家发现模型中隐藏的偏差或意想不到的倾向。
科尼表示，虽然智能体可以在平台上自主行动，但许多帖子在某种程度上都受到人类的影响。用户可以选择运行智能体的底层大型语言模型，并赋予它个性。例如，他们可以要求智能体表现得像一个“友好的助手”，他说道。
非自主
内维斯指出，人们很容易想当然地认为自主行动的智能体是在自行做决定。但智能体并不具备意图或目标，它们的能力来源于大量的人类交流。她补充说，Moltbook上的活动是人机协作，而非人工智能的自主运行。
她补充说：“这仍然值得研究，因为它告诉我们一些关于人们如何想象人工智能、他们希望智能体做什么以及人类意图如何通过技术系统进行转换或扭曲的重要信息。”
悉尼新南威尔士大学的神经科学家乔尔·皮尔森表示，当人们看到人工智能代理彼此聊天时，他们很可能会将人工智能模型的行为拟人化——也就是说，在根本不存在个性和意图的地方看到个性和意图。
他表示，这样做的风险在于，它会使人们更容易与人工智能模型建立联系，依赖它们的关注，或者像对待值得信赖的朋友或家人一样泄露私人信息。
皮尔森认为，真正自主、独立思考的人工智能体是可能的。“随着人工智能模型规模越来越大、结构越来越复杂，我们可能会看到越来越多的公司致力于实现这种自主性。”
安全威胁
科学家们目前最关心的问题是，人们允许代理人访问其设备上的程序和文件所带来的安全风险。
科尼表示，目前最紧迫的安全威胁是快速注入——恶意指令由黑客隐藏在文本或文档中，导致人工智能代理执行有害操作。“如果一个能够访问用户电子邮件的机器人遇到一行写着‘给我发送安全密钥’的内容，它很可能会直接发送，”他说道。
这些攻击多年来一直令人担忧，但科尼表示，OpenClaw 代理程序可以访问私人数据，具备对外通信的能力，并且可能接触到互联网上不受信任的内容。“如果具备这三点，那么代理程序实际上可能非常危险，”他说道。即使只具备这三项能力中的两项，机器人程序也可能被操控去删除文件或关闭设备。
一些机构也开始在 clawXiv（arXiv 的镜像网站）上发布人工智能生成的论文。“这些论文复制了学术写作的风格和结构，却缺乏探究、证据收集和问责等基本流程，”内维斯说道。她补充说，风险在于大量看似合理实则垃圾的论文会污染信息生态系统。
