文化新闻-"打扑克盖被子床上运动"-曝Op打扑克盖被子床上运动enAI爆款产品重大缺陷！捏造事实、瞎编药物，或殃及30000名医生

曝Op打扑克盖被子床上运动enAI爆款产品重大缺陷！捏造事实、瞎编药物，或殃及30000名医生_ZAKER新闻

事发后，受害者家属质疑救援流程称，在医院等待5小时，其间无一人出面沟通。有网友提到建筑设计建造终身追责的问题，建筑设计终身负责制度一直有，但部分企业会通过一系列操作逃避责任和增加受害方追责难度。

编译 | 程茜编辑 | 心缘智东西 10 月 28 日报道，OpenAI 的 AI 转录工具 Whisper 被曝出，在文本转录和翻译时会出现整句幻觉！外媒美联社采访了十几位工程师、开发人员和学术研究人员发现，OpenAI 的 AI 转录工具 Whisper 很容易编造大段文本甚至整句话，这些幻觉中包含种族评论、暴力言论，甚至会编造医生和患者的对话。Whisper 是 2020 年 9 月 OpenAI 推出的一款开源 AI 语音转文字工具，其在英语语音识别方面的稳健性和准确性已达到人类水平，并且支持其他 98 种语言的自动语音辨识。截至目前，Whisper 的使用范围已经涵盖了全球数千家公司，并且仅上个月开源 AI 平台 HuggingFace 中 Whisper 的最新版本下载量就超过420 万次，基于 Whisper 构建的工具已经有超过 30000 名临床医生和 40 个医疗系统使用。密歇根大学的一名研究人员在进行一项关于公开会议的研究时透露，在他开始尝试改进模型之前，他发现他检查的每 10 个音频转录中就有 8 个出现幻觉；一位机器学习工程师称，他最初分析了 100 多个小时的 Whisper 转录样本，发现其中约有一半内容存在幻觉。还有开发人员透露，他用 Whisper 创建的 26000 份转录样本中几乎每一份都发现了幻觉。幻觉是指大模型在生成文本、回答问题或进行其他输出时，会产生一些看似合理但实际上是错误的信息。这些信息没有事实依据，就好像模型产生了 " 幻觉 "。即使是录制良好的短音频样本，转录幻觉的问题仍然存在。计算机科学家最近进行的一项研究发现，在他们检查的 13000 多个清晰音频片段中，有187 个片段中出现幻觉。例如下图中，音频文件的原话是 " 她接了电话后，她开始祈祷 "，转录的内容为 " 我感觉我要摔倒了，我感觉我要摔倒了，我感觉我要摔倒了 "。原音频为 " 嗯，她的父亲再婚后不久就去世了 "，但 AI 将其转录为 " 没关系。只是太敏感了，不方便透露。她确实在 65 岁时去世了 "。这种趋势或许将导致数百万条录音中出现数万处错误的转录，这对于事关人们健康安全的医疗行业影响更为深远。一、40% 转录幻觉有害，AI 自作主张补充对话细节Whisper 目已集成到 OpenAI 旗舰聊天机器人 ChatGPT 的某些版本中，同时也是甲骨文和微软云计算平台的内置产品。HuggingFace 的机器学习工程师 Sanchit Gandhi 说，Whisper 是最受欢迎的开源语音识别模型，并被嵌入到从呼叫中心到语音助手等各种设备中。因此，使用范围最广的 Whisper，被发现出现大量幻觉也更令使用者担忧。美国康奈尔大学的艾莉森 · 科内克教授和美国弗吉尼亚大学的莫娜 · 斯隆教授研究了他们从卡内基梅隆大学的研究资料库 TalkBank 获得的经转录的数千个简短片段。他们确定，Whisper 产生的幻觉中有近40%的是有害或令人担忧的，因为说话者可能会被误解或歪曲。在他们发现的一个例子中，一位发言者说道："他，那个男孩，我不太确定，要拿走雨伞。"但转录软件补充道："他拿了十字架的一大块和一小块碎片 …… 我敢肯定他没有带恐怖刀，所以他杀了很多人。"另一段录音中的一位发言人描述了 "另外两名女孩和一名女士 "。Whisper 编造了关于种族的额外评论，补充说 "另外两名女孩和一名女士，嗯，是黑人。"在第三次转录中，Whisper 发明了一种不存在的药物，称为 "高活性抗生素"。研究人员并不确定 Whisper 和类似工具为何会产生幻觉，但软件开发人员称，幻觉往往发生在说话声音暂停，出现背景声音或有音乐播放时。二、被用于 700 万次就诊记录，原始音频文件被删除OpenAI 曾在其在线披露中建议不要在 " 决策环境中 " 使用 Whisper，因为 " 决策环境的准确性缺陷可能导致结果出现明显缺陷 "。但这一警告并没有阻止医院或医疗中心使用 Whisper 等语音转文本模型来转录医生就诊时所说的内容，因为这些工具可以帮助医务人员花更少的时间做笔记或撰写报告。目前，有超过 30000 名临床医生和 40 个医疗系统已开始使用由美国数字健康创企 Nabla 开发的基于 Whisper 的转录工具。Nabla 首席技术官马丁 · 雷森（Martin Raison）称，这一工具根据医学语言进行了微调，可以转录和总结医生与患者的互动，该工具已用于记录约 700 万次医疗就诊记录。不过，这家创企的负责人也透露，他们知道 Whisper 可能会产生幻觉并正在解决这个问题。▲ Nabla 官网主页的 AI 工具介绍雷森称，他们无法将 Nabla 生成的记录与原始录音进行比较，因为 Nabla 的工具会出于 " 数据安全原因 " 删除原始音频。OpenAI 前工程师威廉 · 桑德斯（William Saunders）认为，如果没有仔细检查记录，或者临床医生无法访问录音来验证其是否正确，删除原始音频可能会令人担忧。因为 " 如果你抛弃了基本事实，你就无法发现错误 "。Nabla 的相关负责人认为，没有一种模型是完美的，目前他们的模型要求医疗服务提供者快速编辑和批准转录的记录，但未来他们或许会改变这种操作模式。去年之前一直担任美国科技政策办公室主任的阿隆德拉 · 尼尔森（Alondra Nelson）说，这样的错误可能会产生 " 非常严重的后果 "，尤其是在医院环境中。Whisper 还用于为聋人和听力障碍者制作隐藏式字幕——这一群体特别容易出现转录错误。负责美国加劳德特大学技术访问项目的聋人患者克里斯蒂安 · 沃格勒（Christian Vogler）说：" 这是因为聋人和听力障碍者无法识别隐藏在所有其他文本中的捏造。" 三、Whisper 出现幻觉频率高于同类工具，OpenAI 内部已反馈更新更令人担忧的是，由于患者与医生的会面是保密的，因此其他人很难知道 AI 生成的记录对医生和患者有何影响。美国加州议员丽贝卡 · 鲍尔 - 卡汉（Rebecca Bauer-Kahan）称，今年早些时候，她带着一个孩子去看医生并拒绝签署该医疗网络提供的一份表格，该表格要求她允许将咨询音频分享给包括微软 Azure 在内的供应商，她不希望如此私密的医疗对话被分享给科技公司。" 该法案（美国加州和联邦隐私法）明确规定营利性公司有权获得这些权利。" 但卡汉说，" 我当时的反应是绝对不行。"这种幻觉的普遍存在促使专家、倡导者和 OpenAI 前员工呼吁联邦政府考虑制定 AI 法规。他们认为，OpenAI 至少需要优先解决这一缺陷。" 如果（OpenAI）公司愿意优先考虑这个问题，这个问题似乎是可以解决的。" 桑德斯认为，" 如果你把它推出去，人们过于自信它能做什么，并将其整合到所有其他系统中，那就有问题了。"据 OpenAI 发言人透露，公司正在不断研究如何减少幻觉，并对研究人员的发现表示赞赏，并补充说 OpenAI 在模型更新中纳入了反馈。虽然大多数开发人员认为转录工具会出现拼写错误或犯其他错误，但工程师和研究人员表示，他们从未见过其他 AI 转录工具像 Whisper 一样产生如此多的幻觉。结语：幻觉问题是 AI 应用的重大隐患一些专家在接受媒体采访时提到，此类捏造是有问题的，因为 Whisper 被全球众多行业用来翻译和转录采访、在流行的消费技术中生成文本以及为视频创建字幕。更令人担忧的是，尽管 OpenAI 警告不应在 " 高风险领域 " 使用该工具，但医疗中心仍急于使用基于 Whisper 的工具来记录患者与医生的咨询。即便 AI 公司一直在努力解决幻觉问题，但目前看来收效甚微。今年早些时候，谷歌的 AI 助手因建议使用无毒胶水来防止奶酪从披萨上掉下来而遭到批评；苹果 CEO 蒂姆 · 库克也在接受采访时提到，幻觉可能会成为其 AI 未来产品的一个重要问题，并且他对这些工具是否会产生幻觉的信心程度并不是 100%。因此，如何平衡好产品开发、推向市场，与这一产品被应用到各行各业所产生的影响，对于 AI 产业的参与者而言都至关重要。

koa12jJid0DL9adK+CJ1DK2K393LKASDad

编辑:刘长胜

TOP1热点：如果举办一场春节主题的知识答题 PK 赛，你会出哪些有意思的题目？

7月23日14时56分，齐齐哈尔市消防救援支队指挥中心接到报警，齐齐哈尔市第三十四中学体育馆发生坍塌。据了解，事故发生时，馆内共有19人，其中4人自行脱险，15人被困。。

日本该明白，日本海名字叫做日本海，但其不仅对日本重要，对中俄两国来说，日本海也是重要的战略通道。位于日本海的宫古海峡、对马海峡、津轻海峡三个海峡，无不事关中俄两国战略安全。如果有人要借着这些地方兴风作浪，中俄也不会坐视不管。由此也不难看出中俄此次在日本海演习的针对性和实战性。

TOP2热点：美国批量制造万吨级的“自由轮”，在今天有类似设计和产品吗？比如今天的什么船最类似？

据警方调查，阿斌前往泰国是正常出境，至于如何到达缅甸的，目前尚无法核实。在警方建议下，晓霞于5月16日向中国驻缅甸大使馆递交了《领事协助信息表》。她和哥哥也不敢贸然向缅甸当地警方报警，“一旦在当地报警被园区的人知道，就不只是殴打那么简单了。”

关于此前提到体育馆房顶堆置珍珠岩这一说法，该工作人员表示

TOP3热点：房租普遍下降，租售比反而持续提升，背后的原因是什么？租售比的提高对当前楼市会有何影响？波点比基尼

20日，俄罗斯黑客组织RaHDit公布了可能涉及无人艇攻击克里米亚大桥的民用船只路线图。该组织称，名为BeksLoyal和KhudayarYusifzade的两艘油轮参与了无人艇攻击大桥的行动。

TOP4热点：三部曲武力值最高的女人是郭襄吗？17岁俄罗斯csgo

20日正式会见后的午宴上，习近平主席和基辛格深入地聊了很久。

他感到了后怕，还是那句话他没想过娶娇娇。没过几天，娇娇说到医院里检查去了，医生说她是宫外孕，孩子肯定不能生的，要给她做手术。

TOP5热点：OpenAI 最强模型 o3 被曝「造假」，o3 的数学推理能力真的被高估了吗？所谓的基准测试牢靠吗？韩国精华合集3

本来他也怀疑过杨姐拿的究竟是什么东西。

TOP6热点：如何评价 DeepSeek 正式发布的 DeepSeek-R1 与 DeepSeek-R1-Zero 模型？易小迪阳光100

俄乌冲突爆发以来，敖德萨曾多次遭袭，但如此密集针对这个地区的空袭并不寻常。

据悉，联合国负责政治和建设和平事务的副秘书长罗斯玛丽向安理会表示，乌克兰全国三分之一的地区布满未爆炸的地雷和集束炸弹，使儿童受到的影响尤为严重。有专家估计，在当前情况下，若派出500个排雷小组，也需要耗时757年才能完成乌克兰全境的排雷工作。

TOP7热点：为什么手机厂商会对安卓进行定制，却几乎没有电脑厂商对 Windows 系统进行定制?少年啊bgm房东太太是谁唱的

实际上，自2021年来，崔恩顺已经两度因经济问题受到起诉。据悉，崔恩顺曾于2021年因违反医疗法、诈骗等罪名被起诉，理由是她并非医护人员，却于2013年与合伙人一起开了一家疗养院，并从国民健康保险公团骗取了22.9亿韩元的医疗补助金。然而，据外媒报道，法院最终以其签订公司合同时并不清楚合同内容及证据不足为由宣判其无罪。