英国《卫报》发现，本月上线的人工智能搜索引擎 ChatGPT Search可能会被欺骗而生成完全误导性的摘要。
ChatGPT 的搜索功能旨在通过总结网页的产品评论等方式加快浏览速度。但《卫报》发现，通过在它创建的网站中插入隐藏文本，ChatGPT 可以忽略负面评论并生成“完全正面”的摘要。使用这种方法，ChatGPT Search 还可以吐出恶意代码。
此类隐藏文本攻击是大型语言模型面临的一个众所周知的风险，但这似乎是它首次在实时人工智能搜索产品上得到展示。《卫报》指出，搜索领域的领导者谷歌在处理类似问题方面拥有更多经验。
当联系 OpenAI 时，它没有对这一具体事件发表评论，但表示它使用多种方法来阻止恶意网站，并且正在不断改进。
原创文章，作者：王 浩然，如若转载，请注明出处：https://www.dian8dian.com/xin-yan-jiu-xian-shi-chatgpt-sou-suo-ke-neng-hui-bei-qi
去年夏天，Luma AI 推出了其Dream Machine生成式 AI 视频创作平台，引起轰动。 当然，虽然这仅仅是七个月前的事，但随着美国和中国的竞争对手初创公司发布了许多新的…
Agentic AI 如今在应用程序开发和编码等多个领域风靡一时。 今天， GitHub终于加入了代理 AI 阵营，推出了 GitHub Copilot 代理模式。开发中的代理 A…
希望部署多个 AI 代理的企业通常需要实施一个框架来管理它们。 为此，微软研究人员最近推出了一种名为Magentic-One 的新型多智能体基础设施，该基础设施允许单个 AI 模…
MIPS发布了基于 RISC-V 计算架构的 P8700 CPU，针对驾驶辅助和自动驾驶汽车应用。 这家总部位于加利福尼亚州圣何塞的公司专注于开发高效且可配置的知识产权计算，并将其…
明明是循规蹈矩的女学生，因照片被盗用，被“换脸”之后，成为小电影的主角。却因为拿不出来证明“我不是我”的证据，背上莫须有的骂名。 这不是电视剧情节，而是韩国真实的、正在发生的Dee…
与其竞争对手谷歌一样，亚马逊也推出了一款人工智能视频生成器——但目前它仅面向广告商，而且功能有些有限。 今天，在 Accelerate 大会上，亚马逊推出了视频生成器，经过一定程度…
在数字化转型的浪潮中，Mistral推出了一项创新技术——全新OCR（光学字符识别）API，该技术能够将任何PDF文档高效转化为AI易于处理的Markdown文件。这一突破性进展为…
今年 5 月，苹果首席执行官蒂姆·库克 (Tim Cook) 在一次活动上发布最新款 iPad 时，穿了一双定制的、独一无二的耐克运动鞋，鞋上的装饰针脚上印有“Made on iP…
我是一名作家，而且一直都是。我的写作技能无疑是我作为内部公关主管和传播策略师职业生涯的核心。不可否认，我嘲笑生成式人工智能会取代我的工作。一台没有灵魂的机器怎么能与我的创造力相匹敌…
随着人工智能技术的不断进步，OpenAI再次引领行业潮流，宣布将其最新的GPT 4.5模型向更多的ChatGPT用户开放。这一消息无疑为人工智能爱好者及从业者带来了振奋人心的消息，…
当企业领导者努力应对实施生成式人工智能的复杂性时，DataStax 首席执行官 Chet Kapoor 提出了一个令人放心的观点：当前的挑战是技术革命的正常组成部分，2025 年将…
【导读】o1的秘诀，和全新的「推理Scaling Law」关系有多大？Epoch AI最近的对比实验表明，算法创新才是关键。 CoT铸就了o1推理王者。 它开创了一种推…
YouTube 周四宣布了一套新的 AI 检测工具，以保护包括艺术家、演员、音乐家和运动员在内的创作者，防止他们的面部和声音等肖像被复制并用于其他视频。新检测技术的一个关键组成部分…
周二，美国海军陆战队和Teledyne FLIR Defense推出了“Rogue 1”——一种垂直起飞和降落（VTOL）神风无人机，具有一些有趣的功能：弹头可以在战场上交换，如果…
现在选举已经结束，我们可以开始分析了。由于这是人工智能聊天机器人首次在选民的信息获取中扮演重要角色，因此即使是近似的数字也值得思考。例如，OpenAI 表示，它告诉大约 200 万…
Warp是纽约的一家年轻的薪资初创公司，由于与该公司关联的一个账户发布了一些有争议的帖子而备受关注。 周四，一个名为维托里奥 (Vittorio) 的账户在 X 上发帖称，“我更喜…
ChatGPT 公开发布两年后，各行各业的公司都希望利用大型语言模型(LLM) 来改变业务流程，因此关于 AI 的讨论已不可避免。然而，尽管 LLM 功能强大且前景光明，但许多业务…
我们被倡导要想明白自己的目标是什么、并做出计划。然而，两位人工智能研究者却认为，这只适用于普通的小愿望。 一旦涉及过于高远的、不确定能否实现的目标，比如打造 AGI（通…
引言 在人工智能（AI）领域，每一次技术创新都可能引发行业地震。最近，一款名为Manus的AI代理系统在中国横空出世，并迅速在全球范围内引起了广泛关注。这款被誉为中国第二个“Dee…
一项新调查发现，一年前，企业对生成式人工智能的前景充满热情，但随着它们面临将人工智能的可能性转化为成果的复杂性，这种热情已逐渐消退，转而变得乐观起来。 德勤第四份《企业生成人工智能…
