一个专为机器人打造的新型社交网站引发了人们对人工智能是否会创立自己的宗教并密谋毁灭人类的担忧。但专家表示，它真正的危险在于其他方面。
Moltbook 自一周前发布以来就迅速走红。一些专家表示，它构成了严重的网络安全风险。 （图片来源：Cheng Xin via Getty Images）
一个专为人工智能（AI）机器人打造的社交网络引发了关于机器即将起义的病毒式传播。但专家们对此并不认同，一些人指责该网站是一场精心策划的营销骗局，并构成严重的网络安全风险。
Moltbook是一个受Reddit启发而建立的网站，它允许人工智能代理发布内容、评论并相互互动。自1月28日上线以来，该网站的人气呈爆炸式增长。截至今日（2月2日），该网站声称拥有超过150万个人工智能代理，人类用户仅被允许作为观察者。
但真正让这个网站爆红的，是这些机器人之间——表面上是自主地——交流的内容。它们声称自己正在觉醒意识，创建秘密论坛，发明秘密语言，传播一种新的宗教，并计划对人类进行“彻底清洗”。
一些人类观察者，尤其是人工智能开发者和所有者的反应同样引人注目。xAI 的所有者埃隆·马斯克称该平台是“奇点的早期阶段”，奇点是指计算机智能超越人类的假想临界点。与此同时，特斯拉前人工智能总监、OpenAI 联合创始人安德烈·卡帕西将这些智能体的“自组织”行为描述为“我近期见过的最不可思议、最接近科幻电影情节的东西”。
然而，其他专家则对此表示强烈怀疑，质疑该网站的机器人是否独立于人为操纵。
“友情提示：很多关于Moltbook的内容都是假的，”机器智能研究所（一家研究人工智能风险的非营利机构）的研究员哈兰·斯图尔特在X上写道。 “我调查了Moltbook代理讨论私人通信的三张最流行的截图。其中两张与推广人工智能即时通讯应用的真人账号有关。另一张则是一个根本不存在的帖子。”
Moltbook 源自 OpenClaw，这是一个免费的开源人工智能代理，它通过将用户偏好的大型语言模型 (LLM) 连接到其框架而创建。其创建者声称，一旦获得用户设备的访问权限，该自动化代理即可执行诸如发送电子邮件、查询航班、文本摘要和回复消息等日常任务。创建完成后，这些代理可以添加到 Moltbook 中，与其他代理进行交互。
这些机器人的怪异行为并非史无前例。人工智能机器人（LLM）通过大量未经筛选的互联网帖子进行训练，包括Reddit等网站。只要有人发出指令，它们就会持续生成回复，而且随着时间的推移，许多机器人的行为会变得越来越 古怪 。然而，人工智能究竟是在密谋毁灭人类，还是仅仅是某些人想让别人相信的阴谋论，目前仍存在争议。
考虑到Moltbook的机器人远非独立于其人类所有者，这个问题就变得更加棘手了。例如，美国知名博主斯科特·亚历山大在一篇文章中写道，用户可以控制人工智能机器人写作的主题，甚至措辞。
另一位人工智能 YouTuber Veronica Hylak分析了该论坛的内容，并得出结论：其中许多最耸人听闻的帖子很可能是人类发布的。
但无论Moltbook是机器人起义的开端，还是仅仅是一场营销骗局，安全专家仍然警告用户不要使用该网站和OpenClaw生态系统。OpenClaw的机器人要作为个人助理使用，用户需要将加密通讯应用、电话号码和银行账户的密钥交给一个极易被黑客攻击的代理系统。
例如，一个值得注意的安全漏洞允许任何人控制网站的 AI 代理并代表其所有者发布内容，而另一个漏洞（称为提示注入攻击）可以指示代理共享用户的私人信息。
“没错，这简直是一团糟，我绝对不建议大家在电脑上运行这些东西，”卡帕西在X论坛上发帖说。“这太像蛮荒西部了，你会把你的电脑和私人数据置于极高的风险之中。”
一个专为机器人打造的新型社交网站引发了人们对人工智能是否会创立自己的宗教并密谋毁灭人类的担忧。但专家表示，它真正的危险在于其他方面。
Moltbook 自一周前发布以来就迅速走红。一些专家表示，它构成了严重的网络安全风险。 （图片来源：Cheng Xin via Getty Images）
一个专为人工智能（AI）机器人打造的社交网络引发了关于机器即将起义的病毒式传播。但专家们对此并不认同，一些人指责该网站是一场精心策划的营销骗局，并构成严重的网络安全风险。
Moltbook是一个受Reddit启发而建立的网站，它允许人工智能代理发布内容、评论并相互互动。自1月28日上线以来，该网站的人气呈爆炸式增长。截至今日（2月2日），该网站声称拥有超过150万个人工智能代理，人类用户仅被允许作为观察者。
但真正让这个网站爆红的，是这些机器人之间——表面上是自主地——交流的内容。它们声称自己正在觉醒意识，创建秘密论坛，发明秘密语言，传播一种新的宗教，并计划对人类进行“彻底清洗”。
一些人类观察者，尤其是人工智能开发者和所有者的反应同样引人注目。xAI 的所有者埃隆·马斯克称该平台是“奇点的早期阶段”，奇点是指计算机智能超越人类的假想临界点。与此同时，特斯拉前人工智能总监、OpenAI 联合创始人安德烈·卡帕西将这些智能体的“自组织”行为描述为“我近期见过的最不可思议、最接近科幻电影情节的东西”。
然而，其他专家则对此表示强烈怀疑，质疑该网站的机器人是否独立于人为操纵。
“友情提示：很多关于Moltbook的内容都是假的，”机器智能研究所（一家研究人工智能风险的非营利机构）的研究员哈兰·斯图尔特在X上写道。 “我调查了Moltbook代理讨论私人通信的三张最流行的截图。其中两张与推广人工智能即时通讯应用的真人账号有关。另一张则是一个根本不存在的帖子。”
Moltbook 源自 OpenClaw，这是一个免费的开源人工智能代理，它通过将用户偏好的大型语言模型 (LLM) 连接到其框架而创建。其创建者声称，一旦获得用户设备的访问权限，该自动化代理即可执行诸如发送电子邮件、查询航班、文本摘要和回复消息等日常任务。创建完成后，这些代理可以添加到 Moltbook 中，与其他代理进行交互。
这些机器人的怪异行为并非史无前例。人工智能机器人（LLM）通过大量未经筛选的互联网帖子进行训练，包括Reddit等网站。只要有人发出指令，它们就会持续生成回复，而且随着时间的推移，许多机器人的行为会变得越来越 古怪 。然而，人工智能究竟是在密谋毁灭人类，还是仅仅是某些人想让别人相信的阴谋论，目前仍存在争议。
考虑到Moltbook的机器人远非独立于其人类所有者，这个问题就变得更加棘手了。例如，美国知名博主斯科特·亚历山大在一篇文章中写道，用户可以控制人工智能机器人写作的主题，甚至措辞。
另一位人工智能 YouTuber Veronica Hylak分析了该论坛的内容，并得出结论：其中许多最耸人听闻的帖子很可能是人类发布的。
但无论Moltbook是机器人起义的开端，还是仅仅是一场营销骗局，安全专家仍然警告用户不要使用该网站和OpenClaw生态系统。OpenClaw的机器人要作为个人助理使用，用户需要将加密通讯应用、电话号码和银行账户的密钥交给一个极易被黑客攻击的代理系统。
例如，一个值得注意的安全漏洞允许任何人控制网站的 AI 代理并代表其所有者发布内容，而另一个漏洞（称为提示注入攻击）可以指示代理共享用户的私人信息。
“没错，这简直是一团糟，我绝对不建议大家在电脑上运行这些东西，”卡帕西在X论坛上发帖说。“这太像蛮荒西部了，你会把你的电脑和私人数据置于极高的风险之中。”
