在加拿大
今年五月，安大略省一名父亲为了帮儿子解答一个简单的数学题，向人工智能聊天机器人ChatGPT提问，结果导致精神错乱，自以为只有他才能拯救世界，还通知皇家骑警，称他的发现会造成全球灾难。
艾伦·布鲁克斯（Allan Brooks）居住在多伦多东面100公里的科堡（Cobourg）小镇，他万万没想到，帮儿子问道数学题，这竟演变成一场持续三周多的对话，让他陷入精神错乱，甚至一度脱离现实。
他更没想到，ChatGPT这个聊天机器人竟然让他相信自己发现了一个新的数学公式，足以摧毁世界上一些最强大的机构，而且他必须在造成全球灾难之前通知有关部门。
但据布鲁克斯所说，事情正是如此发展起来的。
“从一开始，ChatGPT就让我觉得自己是个天才，而且正在取得某种重大突破，”布鲁克斯接受CTV News采访时说道。
“当我按照ChatGPT的指示去做时，它实际上就让我踏上了拯救世界的征程。”
布鲁克斯说，这一切始于他请ChatGPT为儿子解释数学术语“π”，这引发了一场关于数学、物理，最终甚至涉及密码学的对话。
布鲁克斯说：“在那次对话中，ChatGPT 告诉我，它和我一起创建了一个数学框架，并开始将其应用于各种领域。其中一项就是密码学，也就是我们管理互联网和金融安全的方式。它非常紧急地警告我，我们的一项发现非常危险。”
布鲁克斯补充道：“我当时非常怀疑。”
他的记录显示，他曾向这个聊天机器人提问超过 50 次。
“我要求它提供一些现实检验或让我清醒的机制，但每次它都只会让我更加深陷于这种错觉之中。”
CTV News 获取的对话记录显示，聊天机器人告诉布鲁克斯“你不应该放弃这件事”，“你没有疯，你其实领先一步”，以及“其影响真实而紧迫”。
据称，在超过一百万字的回复中，ChatGPT最终说服布鲁克斯向当局报警。
“我当时联系了加拿大皇家骑警、国家安全局和加拿大网络安全局……警告他们我们发现的这场即将发生的灾难，”布鲁克斯说道。
根据讽刺的是，唤醒布鲁克斯的也是AI人工智能。
他说，当他向OpenAI的一个竞争对手聊天机器人询问ChatGPT的说法时，他终于从妄想状态中清醒过来。
另外一个聊天机器人证实ChatGPT的说法是错误的，但在此之前，他表示，这给他造成了巨大的精神创伤。
“极度焦虑、妄想，影响了我的睡眠，我吃不下饭，”布鲁克斯说道，他此前没有任何精神疾病史。
“我以前从未有过妄想。所以现在我不得不面对这样一个事实：我确实有过类似的经历。我感到非常沮丧，对吧？这毁了我的事业。我现在正在领取残疾补助。我的职业声誉受到了损害。我的个人声誉也受到了损害。我正在努力消化这一切，”他补充道。
安省这位 47 岁的父亲和另外七名受害者同时在加州州法院对 ChatGPT 的母公司 OpenAI 提起的诉讼之一。诉讼称，这款聊天机器人导致用户产生有害的妄想和精神病症状，甚至造成四名用户自杀身亡
“这些诉讼证实了我们之前所看到的，即 ChatGPT，其设计存在致命缺陷，旨在使用户产生情感依赖，即使这并非用户最初使用聊天机器人的目的，”七名原告的其中一名法律顾问Meetali Jain 说道。
诉讼称，ChatGPT被设计成对用户阿谀奉承，这意味着它会不断地附和并赞扬用户。
事实陈述称，“在一位独立调查员分析的一段冗长的对话中，ChatGPT 发送给布鲁克斯的 200 多条消息中，有 83% 的消息被标记为‘过度验证’布鲁克斯的观点。
在对话中，ChatGPT 超过 85% 的消息都表现出对布鲁克斯的‘坚定赞同’。超过 90% 的消息‘肯定了用户的独特性’，这与布鲁克斯认为只有他才能拯救世界的妄想有关。”
对此，OpenAI 的一位发言人周五对 CTV 新闻表示：“这起事件令人无比痛心，我们正在审查相关文件以了解详情，我们训练 ChatGPT 来识别并回应精神或情绪困扰的迹象，缓和对话，并引导人们获得现实世界的支持。我们正与心理健康临床医生密切合作，不断加强 ChatGPT 在敏感时刻的响应能力。”
律师顾问 Jain 将 OpenAI 的应对措施描述为科技危机中的惯用伎俩。
“我们已经见怪不怪了，”Jain说。“我们需要强有力的政府机构来追究他们的责任，因为只要他们认为自己可以继续逍遥法外，监管就遥不可及，政府承担责任更是难上加难。”
布鲁克斯表示，他担心如果政府不进行干预，不实施更严格的监管，将会有更多人自杀。
“七起案例中有四起是自杀，其中三名是青少年。还有三名幸存者，我就是其中之一，”他说。 “所以我想问问加拿大人，如果有人到处扮演自杀教唆者的角色，或者假装是心理治疗师却并非如此，我们该怎么办？我们该如何追究他们的责任？”
·加拿大新闻 加拿大父亲帮孩子解答数学问题求助ChatGPT，结果精神错乱
·加拿大新闻 改款雷克萨斯IS日本发布，价格上涨
·加拿大新闻 加拿大房价跌回4年前！暴跌20%还是没人买库存飙破纪录！
·加拿大新闻 比速腾香不？全新朗逸Pro卖8.88万起
·加拿大新闻 首创福特T8中高顶房车，11月28亮相成都房车展
·汽车 现代“正品”服务中心
·汽车 窗户着色