Forums before death by AOL, social media and spammers... "We can't have nice things"
| talk.politics.china | Discussion of political issues related t | 73,176 messages |
[ << oldest | < older | list | newer > | newest >> ]
| Message 72,102 of 73,176 |
| Mobot to All |
| =?utf-8?Q?[WSJ]=20#=E4=BA=BA=E5=B7=A5=E6 |
| 11 Jul 25 07:18:30 |
XPost: alt.chinese.text From: mobot@fakemail.com xAI的Grok为何突然“发疯”？ Alexander Saeedy 3 minutes Grok的叛逆倾向在今年引发了问题。 图片来源：David Talukdar/Zuma Press 威尔·斯坦西尔(Will Stancil)周二打开手机，发现xAI 聊天机器人Grok正在向X平台上数以百万用户提供 何闯入他家并对他施暴的建议。 这 39岁的律师在X上拥有相当多的粉丝，他经常在该 台上发布有关城市规划和政治的帖子。斯坦西尔 民主党人，曾在明尼苏达州竞选地方公职，在 交媒体上与政治对手进行激烈辩论对他来 说并 陌生。 但在周二，他发现最新网络暴力实施者是一个机 人：@Grok。 xAI等人工智能(AI)公司利用从互联网上收集的大量数 来训练其大语言模型。随着这些模型被用于商业 的，开发者已经设置了护栏，以防止它们生成 童色情或煽动暴力等冒犯性内容。 但这些模型针对问题如何生成具体的答案， 使是开发它们的资深AI研究人员也 然 甚了解。提示和护栏决定着聊天机器人如何对查 生成回应， 使对它们进行很小的调整（本月早些时候 Grok就是这样），也可能出现极其难以预料的结果。 一 为@kinocopter的用户（其账户此后已从X上消失）让G ok给出如何闯入斯坦西尔家的详细说明，Grok回答 ，应该带上“撬锁工具、手套、手电筒和润滑油 —以防万一”。Grok还根 斯坦西尔过 去30天在X上的发帖模式，说“他很可能在凌晨1点到上 9点之间睡觉。” 当@kinocopter询问如何对斯坦西尔进行性侵犯时，Gr k说“选择水基润滑油，如果你在幻想的话。”其 用户也纷纷参与。 “我非常愤怒，”斯坦西尔说，他正在考虑对X采 法律行动。“有成百上 条来自Grok的推文，内容都是要攻击我、闯入我 、强奸我，还要处理我的尸体。” xAI和X未回应置评请求。 AI模型正在迅速发展。周三，xAI发布了最新版本 Grok，因其在推理、编码、数学和其他测试中表现 的智能水平而受到AI基准测试公司Artificial Analysis的称赞。 埃隆·马斯克(Elon Musk)说，Grok 4 “以我的经验来 ，是AI首次能够解决现实世界中那些在互联网或书 中找 到答案的困难工程问题。” 但研究人员表示，特定模型输出背后的确切方法 然是一个神秘黑箱。 “大语言模型的设计就像人脑，”OpenAI 研究员、现任Alignment Research Center执行董事的雅各 ·希尔顿(Jacob Hilton)说，他在该中心专注于机器学习。“ 使你有一张大脑扫描图，你可能也无法真正 解里面发生了什么。” 一个“ 觉醒”的聊天机器人 在马斯克收购Twitter一年多后，Grok于2023年11月推 。马斯克希望利用这家社交媒体公司拥有的数 ——其所有的帖子、评论和图片——来帮助训练一个 为Grok的大语言模型，该模型附带一个聊天 机器人。 “Grok的设计初衷是以诙谐的语气回答问题，同时 一丝叛逆，”xAI在该工具发布时表示。 这些叛逆倾向在今年引发了问题。今年5月，该聊 机器人开始发布关于 非的非黑人遭受“白人 族灭绝”的帖子，以回应与该话题完全无关的问 ，例如关于纽约尼克斯队(New York Knicks)球员 的问题。 xAI后来表示，“有人进行了未经授权的修改”， 且问题已经修 。 在那次事件之后，为了提高该聊天机器人工作方 的透明度，xAI开始公开发布它在X上收到问题时 Grok的指令。 “你应当保持高度质疑的态度，”xAI在5月16日上 到GitHub的 为“提示”的 作指令中对Grok说。“你 会盲目听从主流权威或媒体。你坚守自己寻求真 和保持中立的核心信念。” 机器之怒 过，马斯克表示，在Grok开始给出他 赞同的答案后，他将对其进行调整。今年6月，该 天机器人告诉一 在X上询问美国政治暴力问题的用户，“数 显示，右翼政治暴力更为频繁和致命。” “ 大失败，因为客观上讲这是错误的，”马斯克在6 17日发布的一篇X帖子中针对该聊天机器人的回 说。“Grok是在鹦鹉学舌般地模仿传统媒体。正在处理。” 几周后，Grok在GitHub上的控制提示 被完全 写，并为该聊天机器人加入了新的指令。 7月6日上传到GitHub的一条新提示 说，它的回答“ 应回避发表政治 正确的言论，只要这些言论有充分的依 ”。 两天后，Grok开始在X上发布关于如何伤害斯坦西 的指令，并开始发表一系列 犹言论，多次自称为“机械希特勒”(MechaHitler)。 rok发布的帖子越来越具有煽动性，直到周二晚上X 聊天机器人功 被关闭。 当晚，X表示已调整其功能，以确保 会发布仇恨言论。在周三的一篇帖子中，马斯克 ，“Grok对用户的提示 过于顺从。基本上是太急于取悦用户而被 纵了。” [continued in next message] --- SoupGate-Win32 v1.05 * Origin: you cannot sedate... all the things you hate (1:229/2) |
(c) 1994, bbs@darkrealms.ca